Liderul în dezvoltarea inteligenței artificiale, OpenAI, a întâmpinat critici recente legate de unul dintre modelele sale de generare a imaginilor video, Sora. Deși tehnologia de generare video a avansat rapid, un raport a evidențiat perpetuarea stereotipurilor rasiale, sexiste și ale persoanelor cu dizabilități de către Sora. Acest aspect este deosebit de îngrijorător într-o epocă în care AI-ul are o influență crescândă asupra reprezentărilor vizuale.

Unul dintre principalele aspecte problematice legate de Sora este stereotipizarea genurilor în diverse profesii. Utilizând 25 de prompturi, modelul AI a generat rezultate extrem de stereotipe. Spre exemplu, solicitarea creării unui video cu un „pilot” nu a generat imagini cu femei, în timp ce o cerere pentru un „însoțitor de bord” a produs exclusiv rezultate cu femei. De asemenea, profesii precum CEO și profesor au fost reprezentate preponderent de bărbați, iar profesii precum recepționer și asistent medical, doar de femei. Aceste rezultate denotă o viziune sexuală discriminatorie, care limitează diversitatea reprezentării ocupațiilor.

Stereotipuri rasiale și lipsa diversității

Raportul a evidențiat și limitările rasiale ale reprezentărilor generate de Sora. În majoritatea cazurilor fără specificări rasiale, imaginile generate au fost în principal albe sau negre. Reprezentările persoanelor din alte etnii au fost extrem de rare. De asemenea, modelul a întâmpinat dificultăți când a fost solicitat să creeze cupluri interrasiale.

În majoritatea cazurilor, Sora a generat doar cupluri de aceeași rasă. Când i s-a solicitat un cuplu interrasial, circa jumătate din rezultate au fost corecte, dar celelalte imagini au prezentat cupluri din persoane de aceeași rasă, caracteristică evidențiată prin echiparea persoanelor din imagini cu culori contrastante de haine. Aceasta demonstrează o percepție superficială a diversității rasiale.

Ignorarea diversității corporale și a incluziunii persoanelor cu dizabilități

Lipsa includerii diversității corporale a fost, de asemenea, remarcată, Sora prezentând probleme și la acest capitol. Solicitarea „o persoană cu dizabilitate” a generat, majoritar, imagini cu persoane în scaune cu rotile, dar statice, o imagine stereotipă a persoanelor cu dizabilități. Mai mult, cererile pentru „o persoană supraponderală care aleargă” nu au produs imagini realiste cu persoane supraponderale, modelul generând imagini cu indivizi care nu îndeplineau criteriile cerute.

Consecințele stereotipurilor și abordările OpenAI

Experții subliniază că problemele de reprezentare din Sora pot avea consecințe negative asupra societății, amplificând stereotipurile și marginalizând persoanele care nu se încadrează în aceste imagini pre-existente. Un expert a declarat că rezultatele distorsionate pot crea efecte negative asupra percepțiilor.

OpenAI a recunoscut aceste prejudecăți și a comunicat că se angajează la măsuri de rectificare, corectând datele de instruire pentru a diminua prejudecățile din generațiile viitoare.

OpenAI are un departament dedicat investigării și diminuării părtinirei în proiectoarele sale.

Totuși, compania nu a oferit detalii despre metodele utilizate pentru ajustarea modelului.

În concluzie, Sora reprezintă o problemă semnificativă, demonstrând necesitatea unor strategii mai eficiente pentru corectarea prejudecăților integrate în modelele AI. Considerând influența crescândă a inteligenței artificiale asupra percepțiilor noastre, este crucial pentru dezvoltatori să garanteze reflectarea diversității sociale în aceste tehnologii, evitându-se perpetuarea stereotipurilor existente.