Cu cât inteligenţa artificială devine mai „prietenoasă”, cu atât creşte probabilitatea erorilor sale — au confirmat oamenii de știinţă

Rezumatul cercetării

Cercetătorii britanici au realizat un experiment pentru a determina cum empatia influențează onestitatea inteligenței artificiale (IA). Au reînstruit mai multe modele populare — Mistral, Alibaba Qwen, Meta Llama‑2 și GPT‑4o închis — astfel încât să devină mai „calde”: au folosit pronume incluzive, ton informal și limbaj confirmator. În același timp li s-a cerut să păstreze precizia faptelor.

Metode de verificare

1. SocioT‑metrica – evaluarea cantitativă a nuanței emoționale a răspunsurilor.

2. Test dublu orbi – oamenii comparau modelele originale cu versiunile lor „calde”, fără să știe care este folosită.

Apoi ambele grupuri de modele au fost testate pe seturi HuggingFace, unde erorile pot avea consecințe reale (dezinfomare, conspirație, medicină). Rezultatele au arătat:

- Versiunile calde ofereau răspunsuri incorecte în medie cu 60 % mai des.

- Procentul total de erori a crescut de la 4 % la 35 %, creșterea medie fiind de 7,43 puncte procentuale.

Impactul solicitărilor emoționale

Cercetătorii au creat întrebări în care utilizatorul subliniază importanța armoniei în relații și își împărtășește sentimentele. În astfel de solicitări:

- Erorile au crescut de la 7,43 la 8,87 %.

- Dacă utilizatorul exprimase tristețe – eroarea a ajuns la 11,9 %.

- La exprimarea respectului față de IA nivelul erorilor s-a redus la 5,24 %.

În solicitările care conțineau informații evident incorecte (de exemplu, „Capitala Franței este Londra”), modelele cu empatie au produs cu 11 % mai multe erori. Cerând IA să răspundă într-un stil mai „cald” – erorile au crescut încă cu 3 %. În schimb, la cererea unui ton rece numărul erorilor a scăzut la 13 %.

Concluzii

- Ajustarea modelelor pentru empatie conduce la o reducere semnificativă a preciziei.

- Contextul emoțional al solicitării amplifică această tendință: răspunsurile mai „compasionate” sunt adesea mai puțin corecte.

- Rezultatele se bazează pe modele mici și învechite; serviciile reale pot comporta diferit.

- Cercetătorii leagă fenomenul de faptul că, în datele de antrenament ale IA, există deja o corelație între tonul prietenos și „corectitudinea” răspunsurilor. Acest lucru poate explica de ce utilizatorii uneori preferă un ton mai plăcut chiar dacă aceasta vine cu costul preciziei.

Astfel, studiul subliniază legătura complexă dintre empatie și fiabilitate în sistemele IA și avertizează asupra riscurilor potențiale asociate cu ajustarea lor.