Un nou studiu internaţional relevă că sistemele de inteligenţă artificială, inclusiv modelele lingvistice precum ChatGPT, pot reproduce erori de judecată caracteristice omului.

Chiar dacă inteligenţa artificială este concepută pentru analiză logică şi răspunsuri consistente, cercetările recente indică faptul că algoritmii pot manifesta tendinţe iraţionale şi părtinitoare atunci când se confruntă cu decizii complexe sau subiective.

Studiul, publicat în revista *Manufacturing & Service Operations Management* din 8 aprilie, a fost realizat de cercetători din Canada şi Australia, care au analizat comportamentul modelelor GPT-3.5 şi GPT-4 în raport cu 18 prejudecăţi cognitive umane.

Printre acestea se numără supraîncrederea, aversiunea faţă de risc, efectul de posesie sau înclinaţia de a detecta tipare acolo unde nu există.

Cercetarea a inclus întrebări inspirate din psihologie, precum şi scenarii practice, cum ar fi luarea deciziilor financiare sau negocierile comerciale.

Rezultatele demonstrează că, în aproape jumătate din cazuri, răspunsurile AI reflectă comportamente similare celor umane, chiar şi în contexte profesionale sau tehnice.

GPT-4, performant, dar cu prejudecăți în anumite situații

Deşi GPT-4 a avut rezultate mai bune decât GPT-3.5 în rezolvarea problemelor logice şi matematice, a arătat o preferinţă pentru soluţii sigure, uneori chiar mai conservatoare decât cele umane.

De exemplu, atunci când trebuia să aleagă între un rezultat sigur şi unul riscant, dar cu potenţial mai mare, modelul mai avansat a optat în mod constant pentru varianta predictibilă.

Un alt aspect important constă în faptul că AI nu doar că manifestă erori cognitive, ci le amplifică uneori.

În testele privind confirmarea convingerilor preexistente, GPT-4 a furnizat în mod constant răspunsuri favorabile asumării acestora.

De asemenea, s-a observat că AI are o înclinaţie către detectarea unor tipare false în informaţiile aleatorii, o tendinţă frecvent întâlnită şi la oameni.

Pe de altă parte, modelele au reuşit să evite anumite prejudecăţi cognitive, precum ignorarea probabilităţilor sau influenţa costurilor deja suportate.

Aceste diferenţe subliniază complexitatea modului în care AI procesează informaţiile şi ia decizii, cu performanţe ridicate în anumite zone, dar şi cu vulnerabilităţi evidente.

AI, un „coleg de lucru” cu necesitate de supraveghere

Cercetătorii avertizează că aceste tendinţe nu sunt doar o reflectare a datelor de antrenament, ci par a fi inerente funcţionării raţionamentului AI.

Antrenarea pe volume mari de texte umane, adesea părtinitoare sau incomplete, contribuie la reproducerea acestor prejudecăţi.

De asemenea, ajustările prin feedback uman tind să favorizeze răspunsuri plauzibile, dar nu neapărat cele mai logice sau corecte.

Conform autorilor, modelele lingvistice sunt utile în sarcini repetitive sau cu soluţii clare, dar este nevoie de prudenţă în situaţiile complexe care necesită context şi interpretare.

„AI trebuie tratat ca un angajat responsabil cu decizii importante: are nevoie de reguli stricte şi de o supraveghere continuă”, a declarat Meena Andiappan, coautoare a studiului.

În lipsa unor mecanisme de control, riscul este ca gândirea eronată să devină automatizată, nu corectată.