Compania OpenAI a prezentat recent noi modele AI, o3 și o4-mini, promițând performanțe superioare în domenii precum rezolvarea problemelor matematice complexe, programare și analiză vizuală. Cu toate acestea, o problemă persistentă, aceea a generării de informații inaccurate sau complet false, afectează semnificativ utilitatea acestor noi modele.

Generarea de informații false – o provocare constantă

Fenomenul de generare de informații false, cunoscut și sub denumirea de „halucinații”, este o problemă recurentă în dezvoltarea inteligenței artificiale. Deși OpenAI a înregistrat progrese importante, modelele o3 și o4-mini produc informații incorecte mult mai frecvent decât versiunile anterioare. Rapoartele disponibile indică rate alarmante ale acestui fenomen, chiar și în comparație cu modelele precedente.

De exemplu, modelul o3 a demonstrat o rată de generare a informațiilor false de 33%, semnificativ mai mare decât modelele anterioare. Modelul o4-mini a atins o rată îngrijorătoare de 48%. Acest lucru subliniază că, în ciuda dezvoltării altor capacități, precum analiza vizuală și analiza științifică, problemele de acuratețe rămân nerezolvate.

O problemă complexă, încă neînțeleasă

OpenAI recunoaște dificultatea acestei probleme, evidențiată și în propriile evaluări interne. Cercetările în curs vizează înțelegerea cauzelor comportamentului neregulamentar al noilor modele, sugerând necesitatea unor studii extinse.

Testele interne ale OpenAI au arătat că noile modele halucinează chiar mai mult decât predecesoarele lor. Modelul o3, lansat recent, a obținut rezultate slabe, generând răspunsuri incorecte și chiar afirmând surse inexistente de informații. În cazul lui o4-mini, OpenAI a evidențiat „cunoștințele limitate despre lume” drept potențial factor contributiv la generarea de informații false.

Un aspect îngrijorător este tendința modelelor de a justifica erorile. Modelul o3 a furnizat exemple nefondate, cum ar fi utilizarea unui MacBook Pro pentru calcule și transferul rezultatelor către o altă aplicație, chiar dacă această descriere nu reflectă funcționarea reală.

Perspective viitoare și abordări necesare

OpenAI recunoaște problema halucinațiilor și o consideră un domeniu de cercetare activ. Reprezentanții companiei au anunțat continuarea eforturilor pentru îmbunătățirea acurateții și fiabilității modelelor.

Cu toate acestea, progresele par lente și, până la soluționarea definitivă a acestei probleme, utilizarea modelelor, în special a celor recente, prezintă riscuri, în special în contexte care necesită acuratețe maximă. Acest fenomen necesită o soluționare eficientă, mai ales în mediile profesionale, academice și comerciale, unde erorile pot afecta semnificativ rezultatele.

În concluzie, noile modele AI o3 și o4-mini reprezintă un progres în dezvoltarea capabilităților de raționament, dar vulnerabilitățile legate de halucinații rămân un impediment major. Este vital ca OpenAI și alți dezvoltatori de AI să se concentreze pe rezolvarea acestor probleme, pentru a asigura fiabilitatea tehnologiilor și a menține încrederea utilizatorilor.