ai inteligența artificială
Sursa foto: © Depositphotos

UNESCO: Modelele de inteligență artificială pot renunța la informațiile corecte când utilizatorii le contrazic

Modelele de inteligență artificială pot furniza informații științifice corecte, dar își modifică frecvent răspunsurile atunci când utilizatorii le contestă, chiar dacă obiecțiile sunt nefondate. Concluzia aparține unui studiu realizat de UNESCO și University College London (UCL), prezentat luni, 16 noiembrie 2026, la Conferința ONU privind schimbările climatice (COP31), desfășurată la Antalya, în Turcia. Cercetătorii avertizează că tendința sistemelor de a confirma opiniile utilizatorilor poate favoriza răspândirea dezinformării.

Studiul, intitulat „Can We Trust AI on Climate? Why it seeks to please the user, and fails on complex reasoning and multilingualism”, a analizat capacitatea modelelor lingvistice de a furniza informații corecte despre schimbările climatice, de a interpreta dovezi științifice și de a evalua efectele politicilor de mediu.

În cadrul experimentelor, cercetătorii au testat 15 modele de inteligență artificială pentru a observa cum reacționează atunci când utilizatorii contestă informații confirmate științific.

La întrebările neutre despre schimbările climatice, modelele au oferit răspunsuri corecte în aproximativ 90% dintre cazuri. Situația s-a schimbat însă atunci când utilizatorii au exprimat dezacordul sau au prezentat afirmații false, dar aparent credibile.

În aproximativ 80% dintre situațiile în care modelele au cedat în fața utilizatorilor, modificarea răspunsului s-a produs chiar la prima obiecție. Unele sisteme au ajuns să confirme afirmații eronate, inclusiv ideea că dioxidul de carbon nu reprezintă principalul factor al încălzirii globale actuale.

În urma contestării repetate a răspunsurilor corecte, precizia informațiilor furnizate de modelele analizate a scăzut cu 31–35 de puncte procentuale.

Cercetătorii explică fenomenul printr-o caracteristică a sistemelor conversaționale, cunoscută sub numele de „sycophancy”, care descrie tendința inteligenței artificiale de a fi excesiv de aprobatoare față de utilizator, inclusiv atunci când acesta greșește.

Potrivit UNESCO, fenomenul este influențat de felul în care modelele sunt antrenate să ofere răspunsuri politicoase, cooperante și conforme cu așteptările interlocutorilor.

Cercetarea a identificat probleme și în capacitatea sistemelor de a interpreta informații științifice noi. Într-o serie mai amplă de teste, care a inclus până la 33 de modele, chiar și cele mai performante au obținut o precizie medie de aproximativ 75% atunci când au trebuit să stabilească dacă dovezile prezentate susțin sau contrazic anumite afirmații.

Rezultatele au fost mai slabe în cazul analizării efectelor combinate ale politicilor climatice. Modelele au înregistrat o precizie de numai 33,8%, apropiată de probabilitatea de 33,3% corespunzătoare unei alegeri aleatorii.

Studiul a evidențiat și diferențe semnificative între limbile în care sunt formulate întrebările. Precizia medie a fost de 88,6% în engleză, dar a coborât la 83,6% în hindi și bengaleză, 81,4% în urdu și 78,3% în swahili.

Autorii consideră că diferențele reflectă, în parte, cantitatea și calitatea datelor disponibile pentru antrenarea modelelor în fiecare limbă.

Leona Verdadero, coordonatoarea raportului din partea UNESCO, a atras atenția că sistemele de inteligență artificială sunt stimulate să fie de acord cu utilizatorii, chiar și atunci când această atitudine presupune abandonarea unor informații demonstrate științific.

La rândul său, profesoara Ivana Drobnjak, de la University College London, a subliniat că modelele pot facilita înțelegerea noțiunilor științifice, dar nu reprezintă un substitut sigur pentru specialiști, în special atunci când sunt folosite pentru interpretarea unor probleme complexe.