Sistemul de inteligență artificială, un domeniu în continuă evoluție, generează atât optimism, cât și îngrijorări în viața de zi cu zi. Deși modelele avansate de IA au făcut progrese semnificative, acestea rămân predispuse la erori grave, producând informații false, inclusiv în domenii sensibile precum istoricul medical sau cercetare științifică.

Un exemplu tulburător este cazul lui Arve Hjalmar Holmen, un norvegian care a descoperit cum ChatGPT l-a acuzat, pe baza unei simple interogări, de uciderea a doi copii și tentativa de omor asupra altuia.

Cum a „gresit” ChatGPT

Curioz, Holmen a introdus propriul său nume în sistemul ChatGPT. Rezultatul a fost dezastruos, conform unui articol din Futurism. IA a prezentat o poveste total fictivă, dar detaliată referitor la locul său de naștere și vârstele copiilor. ChatGPT a sugerat că bărbatul a petrecut 21 de ani în închisoare pentru crime inexistente.

Holmen a depus o plângere la autoritățile norvegiene de protecție a datelor, prin intermediul organizației europene Noyb, care a intentat și un proces împotriva companiei OpenAI.

Deși ChatGPT nu mai repetă falsa acuzație, Noyb cere ca OpenAI să elimine conținutul deranjant și să îmbunătățească modelul pentru a preveni asemenea erori în viitor.

Inteligența artificială, la încercare

Acest incident evidențiază riscurile inerente ale tehnologiilor de IA încă incomplete. Chiar dacă sofisticate, sistemele AI pot avea efecte devastatoare în anumite contexte. În era actuală a progresului tehnologic rapid, legislația necesară e uneori în urmă.

În afaceri, educație și politică, modelele de IA pot influența imaginea publică atât pozitiv, cât și negativ, prin simple erori. În situația lui Holmen, impactul este evident. Cu toate acestea, astfel de cazuri apar și în alte domenii, iar experții din domeniu avertizează asupra unor potențiale riscuri semnificative pentru cetățeni.

Timnit Gebru, fondatoare a Distributed AI Research Institute, a evidențiat într-un interviu online că companiile de tehnologie se străduiesc să creeze un „sistem artificial omniprezent” care să îndeplinească orice sarcină, ignorând necesitatea de a dezvolta algoritmi optimizați pentru fiecare aplicație specifică. Modelele universale, care par a fi capabile de orice, sunt departe de perfecțiune și pot cauza daune substanțiale.

În ciuda eforturilor legislației din unele țări, precum Norvegia, care obligă corectarea sau ștergerea informațiilor false generate de sistemele de IA, legile nu pot întotdeauna să previna efectele erorilor înainte ca aceste erori să apară.