Sistemele de inteligență artificială au evoluat rapid în ultimii ani, devenind din ce în ce mai complexe. Însă, odată cu această creștere a performanței, apare o problemă aparent paradoxală: modelele de inteligență artificială moderne generează frecvent informații false, dar convingătoare și coerente, putând induce în eroare utilizatorii.

Cercetările OpenAI arată că modelele avansate, precum o3 și o4-mini, au rate de generare a informațiilor false de 33%, respectiv 48%, în testele cu benchmark-ul PersonQA. Această rată este semnificativ mai mare decât la modelele anterioare. Chiar dacă oferă răspunsuri mai detaliate și elaborate, aceste sisteme devin mai vulnerabile la erori greu de depistat.

Acest fenomen, numit „halucinația AI”, constă în crearea de informații complet fictive, cum ar fi evenimente, citate, surse sau fapte inexistente. Problema este că textul rezultat este adesea logic, fluent și plauzibil, putând părea credibil pentru cititori, mai ales dacă este prezentat într-un mod atractiv.

Halucinațiile: defect sau trăsătură inerentă?

Surprinzător, mulți specialisti în inteligență artificială consideră că halucinațiile nu sunt doar inevitabile, ci chiar necesare pentru dezvoltarea unor sisteme capabile de inovație. Un cercetător la Vectra AI susține că, pentru a produce idei noi, modelele de limbaj trebuie să „imagineze”, la fel ca oamenii atunci când visează sau explorează concepte. „Tot ce produce un sistem de limbaj este o halucinație – doar că unele sunt reale.”

Această capacitate de a genera informații noi este fundamentală pentru creativitatea sistemelor AI. Dacă un model se limita la reproducerea datelor existente, nu ar putea crea nimic original. Astfel, sistemele actuale au nevoie să „viseze” pentru a scrie poezie, a genera coduri sau a explora domenii științifice.

Problema intervine atunci când această creativitate este confundată cu acuratețea. În domenii critice, precum medicina sau finanțele, un răspuns incorect ar putea avea consecințe severe. Cu cât modelele devin mai avansate și generează un conținut mai amplu și mai credibil, cu atât devine mai dificil să identificăm halucinațiile.

Opacitatea algoritmică și responsabilitatea

Un alt aspect îngrijorător este că dezvoltatorii nu pot explica întotdeauna cum iau decizii aceste modele complexe. Lipsa înțelegerii adânci a proceselor interne transformă aceste modele într-o „cutie neagră”, complicând supravegherea și controlul.

Pe acest fundal, responsabilizarea AI devine o problemă. Dacă dezvoltatorii nu înțeleg complet mecanismele, cine este responsabil pentru eventualele erori? Soluția actuală pare să fie vigilența utilizatorilor. Este esențială verificarea informatiilor generat de aceste sisteme, comparându-le cu alte surse de informații.

Sunt tot mai multe exemple de chatboturi care generează informații false, de la politici inexistente la sfaturi medicale periculoase. Prin urmare, chiar dacă sistemele de inteligență artificială devin mai performante, nu devin automat și mai fiabile.

Concluzia: între imaginație și realitate, AI-ul rămâne o unealtă care necesită precauție

Dezvoltarea AI nu implică o scădere a performanței modelelor, ci o creştere a capacităţii lor de a genera informaţii convingătoare, chiar atunci când acestea sunt false. Utilizarea sistemelor de IA trebuie facută cu responsabilitate și precauţie.

În viitor, modelele de inteligență artificială vor fi integrate tot mai mult în viața cotidiană. Dar, tocmai pentru că devin din ce în ce mai capabile, trebuie folosite cu discernământ. Chiar dacă un sistem poate scrie proză literară sau cod, capacitatea de a „imagina” poate genera rezultate eronate.