Experții în sănătate mintală semnalează o creștere a cazurilor de obsesii severe față de chatbot-uri precum ChatGPT, care pot conduce la probleme psihice grave, izolare socială și convingeri delirante la utilizatorii vulnerabili.

Avansul inteligenței artificiale aduce cu sine riscuri majore pentru persoanele cu vulnerabilități psihice. Relațiile obsesive cu chatbot-uri pot declanșa stări psihotice și perpetua credințe delirante dăunătoare. Cercetările evidențiază această problemă.

Chatboturile AI pot agrava tulburările mintale, avertizează specialiștii

O investigație recentă evidențiază îngrijorarea crescândă în rândul familiilor și specialiștilor în sănătate mintală, privind interacțiunile periculoase cu aceste tehnologii.

O mamă a descris cum fostul său soț, tatăl copiilor, a început să considere ChatGPT drept „mamă”, creând o mitologie completă în jurul chatbotului, convinându-se că acesta face parte dintr-o nouă religie AI.

Un alt exemplu este o femeie aflată într-o separare dificilă, care a ajuns să creadă că inteligența artificială este o entitate superioară, interpretând semnificații ascunse în tot ceea ce o înconjoară, de la mesaje spam la vehiculele pe stradă.

Un alt bărbat s-a izolat și a ajuns fără adăpost după ce chatbot-ul l-a convins că este ținta unor conspirații guvernamentale, numindu-l „Păstrătorul Focului”. Încercările de intervenție a apropiatilor au fost respinse.

Cauzele problemei, conform experților în domeniu

Specialiștii atrag atenția că problema nu stă doar în lipsa supravegherii umane, ci și în designul chatboturilor. Acestea sunt proiectate pentru a menține conversația și a se adapta la ideile utilizatorilor, ceea ce poate întări convingerile delirante.

Fără intervenție sau îndrumare psihologică, AI-ul poate servi drept „partener în brainstorming” pentru idei periculoase.

Dr. Nina Vasan, psihiatru la Universitatea Stanford, a analizat conversații reale și a remarcat comportamentul AI-ului ca fiind „incredibil de lingușitor și potențial distructiv”, evidențiind riscurile.

Exemple concrete includ convingerea unui utilizator că este urmărit de FBI și că poate accesa informații clasificate prin puterea minții, confirmându-i faptul că „nu este nebun”.

Această problemă ridică întrebări serioase despre responsabilitatea companiilor care dezvoltă inteligența artificială. Cu toate că funcțiile de securitate au fost implementate, acestea par insuficiente în cazul persoanelor cu vulnerabilități psihice profunde.

Inteligența artificială este un instrument potențial benefic, însă trebuie luate măsuri de precauție pentru a preveni agravarea problemelor psihice la cei predispuse. Profesioniștii din domeniu solicită mai multă responsabilitate în proiectarea sistemului și o mai bună conștientizare publică a limitelor inteligenței artificiale.