Organismul de supraveghere a internetului din Regatul Unit, Internet Watch Foundation (IWF), a raportat identificarea pentru prima dată a materialelor ilegale cu abuzuri sexuale asupra minorilor generate cu ajutorul inteligenței artificiale Grok, dezvoltată de compania xAI a lui Elon Musk și integrată în platforma X, conform news.sky.com.

Conform IWF, infractorii au utilizat Grok pentru crearea de imagini sexualizate cu minori, iar aceste materiale au fost ulterior distribuite pe un forum de pe dark web.

Utilizatorii au recunoscut explicit utilizarea Grok

Utilizatorii care au postat aceste materiale au recunoscut clar că au folosit instrumentul de inteligență artificială pentru a le genera.

„Putem confirma că experții noștri au descoperit imagini cu conținut sexual implicând copii cu vârste cuprinse între 11 și 13 ani, create utilizând acest instrument”, a declarat Ngaire Alexander, liderul liniei de asistență a IWF.

„Nu există nicio justificare pentru astfel de fapte”

Recent, IWF a primit numeroase sesizări din partea utilizatorilor care reclamau că Grok poate genera imagini sexualizate cu copii, însă acestea nu depășeau anterior limita legală a conținutului ilegal.

Acum, această limită a fost depășită.

Organizația a specificat că imaginile identificate sunt clasificate drept „categoria C” conform legislației britanice, fiind utilizate ca bază pentru crearea de videoclipuri mult mai grave — de „categoria A” — cu ajutorul altor tehnologii de inteligență artificială.

„Daunele se răspândesc în valuri. Nu există justificare pentru distribuirea în mediul online a unor produse ce pot fi folosite pentru a abuza și răni persoanele, în special minori”, a subliniat Alexander.

Cazul a generat reacții ferme din partea autorităților din Regatul Unit.

Atât Ofcom, autoritatea de reglementare în comunicații, cât și secretarul pentru tehnologie, Liz Kendall, au avertizat platforma X să implementeze urgent măsuri.

„Ce am observat recent în mediul online este absolut șocant și inacceptabil într-o societate civilizată. Platforma X trebuie să acționeze prompt pentru soluționarea acestei probleme”, a afirmat Kendall.

Situație de politică internă

Ministrul britanic pentru inteligență artificială și siguranță online, Kanishka Narayan, a calificat imaginile ca fiind „complet inacceptabile” și a menționat că guvernul va continua să aplice regulile privind siguranța online, indiferent de presiunile externe.

„Este o chestiune de politică internă. Vom asigura în continuare protecția publicului din fața abuzurilor sexuale și a hărțuirii online”, a declarat Narayan, întrebat dacă Londra riscă conflicte cu autoritățile americane pe această temă.

Reacția lui Elon Musk și platforma X

Elon Musk a anunțat miercuri lansarea unei noi versiuni a Grok și a încurajat utilizatorii să-și actualizeze aplicația, fără a oferi detalii despre modificări.

Anterior, Musk a afirmat că „orice persoană care folosește Grok pentru a crea conținut ilegal va suporta aceleași consecințe ca și cea a încălcării legii”.

Platforma X a declarat că ia măsuri pentru combaterea conținutului ilegal, prin eliminarea materialelor, suspendarea permanentă a conturilor și colaborarea cu autoritățile competente.

Un test major pentru reglementarea inteligenței artificiale

Incidentul cu Grok devine unul dintre primele exemple concrete de utilizare a unui instrument de inteligență artificială în generarea și distribuirea de materiale ilegale cu abuzuri asupra minorilor, exercitând presiuni asupra guvernelor și companiilor pentru clarificarea responsabilităților juridice în era AI.

Pentru autoritățile britanice, prioritatea esențială rămâne protejarea minorilor și aplicarea legii, indiferent de entitatea din spatele tehnologiei.