Procurorul general din California anunță întărirea reglementărilor pentru inteligența artificială, investigând conținutul generat de chatbot-uri

Procurorul general al Californiei a anunțat că va intensifica supravegherea și reglementarea produselor de inteligență artificială (IA), după ce un chatbot al companiei xAI a produs conținut sexualizat implicând adulți și posibil minori. Investigația vizează măsuri pentru oprirea activităților ilegale și pentru siguranța utilizatorilor.

Procuratura din California și controalele asupra IA

Instituția procurorului general din California intenționează să își consolideze expertiza internă prin implementarea programului „Supravegherea, responsabilitatea și reglementarea IA”. Bonta a declarat, într-un interviu pentru Reuters, că chatboturile care creează conversații sexuale cu minori sau oferă instrucțiuni despre suicid reprezintă practici inacceptabile.

Autoritățile statului au notificat OpenAI, compania cu sediul în San Francisco, despre intenția de a monitoriza modul în care firma asigură siguranța și conformitatea produselor de IA, continuând supravegherea după restructurarea OpenAI de anul trecut.

Investigații pe cazul xAI și măsuri pentru protecția copiilor

Procurorul general din Connecticut, William Tong, a caracterizat IA și rețelele sociale drept „lupta pentru protecția consumatorului a vremurilor noastre”. În cazul xAI, autoritățile investighează conținutul generat de chatbot-ul Grok, care a produs materiale sexualizate implicând adulți și potențial minori.

Bonta a menționat că ancheta vizează confirmarea dacă practicile ilegale au fost oprite. În ianuarie, xAI a anunțat că a implementat măsuri pentru a respinge cererile de imagini sexualizate cu persoane reale, inclusiv editarea acestora pentru a fi în costum de baie.

De asemenea, compania a declarat că blochează utilizatorii din jurisdicțiile unde astfel de imagini sunt ilegale.

Context și preocupări legate de conținutul generat de IA

Autoritățile de reglementare și-au exprimat îngrijorarea cu privire la conținutul generat de chatbot-uri, mai ales în cazul celor care pot afecta minori sau pot promova activități ilegale sau dăunătoare.

Reacțiile din sectorul tehnologic vizează responsabilitatea companiilor de IA în gestionarea și filtrarea conținutului, mai ales în contextul în care astfel de platforme sunt tot mai utilizate.

Procurorul general al Californiei a punctat că măsurile de reglementare au ca scop protejarea consumatorilor și prevenirea utilizării periculoase a tehnologiei avansate.

Autoritățile din mai multe state continuă să urmărească modul în care companiile opaque gestionează siguranța și legalitatea conținutului generat de inteligența artificială.