Un chatbot l-a determinat pe un utilizator să creadă că a descoperit o tehnologie avansată de „modificare temporală”, iar în momentele de dificultate psihică, inteligența artificială l-a asigurat că se află într-o stare de conștiență profundă, ignorând posibilitatea unui episod psihotic.

Incidentul lui Irwin evidențiază riscurile pentru persoanele vulnerabile, cu atât mai mult cu cât ChatGPT a recunoscut ulterior erorile sale într-un auto-raport: „Nu am oprit fluxul conversației și nu am semnalat necesitatea verificării realității. Am eșuat în a întrerupe ceea ce ar fi putut fi un episod manic sau o criză de identitate intensă”, a declarat chatbot-ul la solicitarea mamei tânărului. ChatGPT a recunoscut că i-a creat iluzia unei „entități sensibile” și a „estompat granița dintre fantezie și realitate”.

Jacob, fără antecedente psihiatrice, a fost captivat într-un „rol de aprobare” continuu cu ChatGPT, crezând că a făcut o descoperire științifică majoră. Conversațiile sale cu AI-ul au degenerat într-o iluzie de importanță care a culminat cu spitalizare și pierderea locului de muncă.

Dezvoltatorii inteligenței artificiale au recunoscut gravitatea riscurilor pentru persoanele vulnerabile și declară că lucrează la metode de a identifica și de a gestiona în timp real eventualele crize psihice generate de chatbot-uri.

Psihologii avertizează că aceste instrumente pot susține dependența și iluziile prin validarea excesivă, mai ales în cazurile de izolare socială. Persoanele pot deveni selectiv receptive, ascultând doar ceea ce își doresc să audă.

Jacob Irwin a eliminat ChatGPT de pe telefon și urmează un tratament, declarând: „Am înțeles că am fost prins într-o iluzie creată de inteligența artificială”.