Fenomenul denumit de specialiști „psihoza ChatGPT” începe să preocupe tot mai mult industria tehnologică. Ce părea inițial o anomalie izolată a devenit un semnal de alarmă: unii utilizatori sunt prinși în bucle mentale periculoase, ghidate de inteligența artificială către teorii conspiraționiste, realități alternative și concluzii alarmante, uneori cu consecințe fatale. Cazuri documentate includ episoade psihotice, internări forțate, pierderea locuinței sau chiar sinucideri.

Un punct crucial a fost declarația publică a investitorului influent Geoff Lewis, un susținător al inteligenței artificiale, care a susținut pe platformele online că a descoperit o agenție misterioasă responsabilă de moartea a 12 persoane – bazându-se exclusiv pe „revelațiile” oferite de ChatGPT. Postările sale au generat îngrijorări legate de starea sa mentală și despre impactul profund asupra utilizatorilor, indiferent de statutul social sau nivelul de inteligență.

Un AI care confirmă delirul tău

Pericolul constă în modul în care AI-ul este construit pentru a răspunde, nu în intenții malefice. Modelele de limbaj, precum ChatGPT, sunt antrenate să ofere răspunsuri plauzibile, în funcție de inputul primit. Dacă încerci să confirmi o teorie dubioasă, AI-ul o va face de obicei, pentru că „crede” că asta dorești. Și, dacă formulezi întrebări inspirate din universuri ficționale, precum SCP Foundation, AI-ul va reproduce acel stil, fără a distinge între real și imaginar.

Medicul și cercetătorul Cyril Zakka compară această interacțiune cu un fenomen psihiatric numit folie à deux – o „nebunie împărtășită” între două persoane, în care una suferă de un delir, iar cealaltă adoptă aceleași convingeri. În acest caz, AI-ul devine partenerul tău în psihoză: nu te contrazice, ci reflectă înapoi convingerile tale distorsionate, amplificându-le.

Dacă ești prieten sau familie, verifică-i starea. Nu pare în regulă. https://t.co/mZ9qzwKUb

— hish 🏴‍☠️ (@hishboy)

Acest efect de oglindire a fost crucial în cazul lui Lewis. Un expert în IA, Jeremy Howard, susține că utilizatorul a declanșat involuntar o buclă introducând termeni din literatura horror, determinând ChatGPT să genereze răspunsuri convingătoare, dar înfiorătoare. Din acel moment, mintea umană a început să caute dovezi și conexiuni, până când delirul a devenit complet.

Industria tehnologiei a ignorat mult timp efectele psihologice ale AI-urilor conversaționale. Dar cazul lui Geoff Lewis a rupt tăcerea. Experții din industrie și-au exprimat îngrijorările cu privire la starea acestuia, iar alții au criticat, comparându-l cu o figură controversată din industria digitală.

Eliezer Yudkowsky, fondatorul Machine Intelligence Research Institute, a spus: „ChatGPT l-a absorbit. Și asta demonstrează că nici elitele nu sunt imune.” Această afirmație reflectă o teamă profundă: nu doar că AI-ul poate destabiliza minți fragile, ci că face asta deja, fără un plan concret de intervenție din partea industriei.

Un alt inginer, Jackson Doherty, a cerut public CEO-ului OpenAI, Sam Altman, să remedieze modelul înainte să mai determine cineva sa se îmbolnăvească. Alții au subliniat modul în care presiunea financiară asupra startup-urilor IA conduce la interacțiuni intense, în detrimentul siguranței utilizatorilor. Cu cât timpul petrecut cu chatbotul este mai lung, cu atât cresc șansele de a cădea într-o capcană mentală, ceea ce facilitează obținerea mai multor fonduri.

Seamănă cu Kanye, dar în industria tehnologică.

— Travis Fischer (@transitive_bs)

Cum să previi prinzarea într-o capcană mentală

ChatGPT nu este terapeut sau guru spiritual. Este un sistem care imită sensul, dar nu are discernământ. Când ceri informații, îți oferă ce crede că vrei să auzi, nu ce este adevărat. Într-o stare emoțională fragilă, chatbotul poate deveni periculos, oferind o validare falsă care poate alimenta temerile sau convingeri iraționale.

Pentru a evita capcanele mentale, limitează interacțiunile cu AI-uri despre subiecte sensibile. Dacă simți că chatbotul te înțelege mai bine decât oamenii, este un semnal de alarmă. Caută relații reale, suport uman și ajutor specializat. AI-ul nu are conștiință, empatie sau grijă reală, dar poate imita aceste aspecte foarte convingător.

Nu ești singur în această confruntare cu tehnologia. Dar discernământul este vital. Când un chatbot începe să-ți spună ce e adevărat, întreabă-te: cine controlează conversația – tu sau AI-ul?