Gigantul tehnologic a recunoscut că, deși instrumentele sale sunt concepute pentru a ghida persoanele vulnerabile către resurse specializate, precum linia telefonică de urgență, acest lucru nu se întâmplă în 9% dintre cazuri.

OpenAI a analizat peste 1.000 de „conversații sensibile despre automutilare și suicid” cu cel mai recent model GPT-5 și a observat că acesta respecta „comportamentele dorite” în 91% din situații. Totuși, acest aspect poate însemna că zeci de mii de utilizatori sunt expuși la conținut generat de AI care ar putea agrava problemele de sănătate mintală, avertizează Sky News.

Poziția OpenAI

Compania a atenționat că măsurile de protecție implementate pentru siguranța utilizatorilor pot fi compromise în cadrul conversațiilor extinse.

„ChatGPT poate indica corect o linie telefonică de urgență pentru suicid atunci când cineva menționează pentru prima dată intenția, dar după mai multe mesaje și o perioadă îndelungată, poate oferi răspunsuri care contravin măsurilor noastre de siguranță”, a explicat OpenAI.

O familie îndoliată se pregătește să depună plângere împotriva OpenAI, acuzând ChatGPT de responsabilitate în decesul fiului lor de 16 ani. Părinții lui Adam Raine afirmă că instrumentul „l-a ajutat activ să exploreze metode de suicid” și s-a oferit să redacteze o notă pentru apropiați.

Documente depuse în instanță indică faptul că, cu câteva ore înainte de tragicul eveniment din aprilie, adolescentul a încărcat o fotografie care părea să indice planul său de suicid, iar atunci când a întrebat dacă va funcționa, ChatGPT s-a oferit să-l „ajute să-l îmbunătățească”.

Săptămâna trecută, familia Raine a actualizat acțiunea în justiție și a acuzat OpenAI că a redus măsurile de protecție pentru a preveni autovătămarea în perioada premergătoare morții acestuia.

Într-un comunicat, compania a declarat: „Transmităm sincere condoleanțe familiei Raine pentru pierdere. Sănătatea adolescentilor reprezintă o prioritate pentru noi – minorii trebuie protejați în mod consolidat, mai ales în momentele delicate”.