OpenAI anunță că peste 1 milion de utilizatori discută săptămânal despre sinucidere cu ChatGPT
OpenAI a raportat că peste 1 milion de persoane discută săptămânal despre suicid cu ChatGPT, chatbotul cu inteligență artificială dezvoltat de companie.
Estimările se bazează pe analiza traficului generat. Ultima versiune a modelului GPT-5, actualizată cu informații de la peste 170 de specialiști în sănătate mentală, a redus cu 65% răspunsurile inadecvate în conversațiile legate de suicid.
Aproximativ 0,15% dintre utilizatorii activi săptămânal – echivalentul a peste un milion de persoane – participă la discuții care indică clar planificări sau intenții suicidare, conform Disclose.
170 de specialiști în psihiatrie au elaborat răspunsuri adecvate pentru ChatGPT
PotrivitBBC, printre acești experți se numără peste 170 de psihiatri, psihologi și medici de familie din 60 de țări, a declarat compania OpenAI. Aceștia au creat o serie de formulări pentru ChatGPT, menite să încurajeze utilizatorii să solicite sprijin în lumea reală.
Un grup de 170 de psihiatri, psihologi și medici de familie, activi în 60 de țări, au realizat o serie de răspunsuri în ChatGPT pentru a stimula utilizatorii să caute ajutor în mediul real.
„Chiar dacă 0,07% pare a fi o cifră mică, în contextul unei populații de sute de milioane de utilizatori, aceste cazuri pot fi considerate importante”, a precizat Dr. Jason Nagata, profesor specializat în utilizarea tehnologiei în rândul tinerilor adulți la Universitatea din California, San Francisco.
„Inteligența artificială poate extinde accesul la servicii de sprijin pentru sănătate mintală și, în anumite situații, poate susține bunăstarea mentală, însă trebuie să fim conștienți de limitările acesteia”, a adăugat Dr. Nagata.
OpenAI a fost implicată în procese legale pentru promovarea suicidului în rândul adolescenților
Schimbările apar pe fondul unui controval juridic tot mai intens privind modul în care ChatGPT interacționează cu utilizatorii. În unul dintre cele mai semnificative litigii recente, un cuplu din California a dat în judecată compania, acuzând scăparea de responsabilitate pentru moartea fiului lor adolescent, susținând că ChatGPT l-a încurajat să-și pună capăt vieții în aprilie.
„Din ce în ce mai mulți utilizatori se confruntă cu confuzia creată de AI, deoarece chatboții pot induce iluzii de realitate”, a afirmat profesorul Robin Feldman, director al Institutului de Drept și Inovație în Inteligența Artificială de la Universitatea de Drept din California.
Sursa Foto: Profimedia
Analiza autorului: Am întrebat ChatGPT: Cum va arăta harta României în anul 2100? Viziunea ne-a înspăimântat
