Un raport recent al Institutului Olandez pentru Drepturile Omului relevă că algoritmul Facebook ar putea favoriza anumite stereotipuri de gen în afișarea anunțurilor de angajare. Conform deciziei din 18 februarie, Meta, proprietara platformei, ar trebui să monitorizeze și să ajusteze sistemul de promovare a anunțurilor pentru a preveni discriminarea. Această situație evidențiază capacitatea companiilor mari de tehnologie de a perpetua inegalitățile și marchează un moment crucial în procesul de responsabilizare a acestora pentru proiectarea algoritmilor.

Concluziile Institutului rezultă din investigații efectuate de organizații non-profit și din dezvăluiri apărute în diverse publicații, indicând faptul că diverse țări, inclusiv Olanda și Franța, se confruntă cu situații similare. Astfel, anunțuri pentru meserii specifice erau direcționate în principal către un anumit gen, în timp ce altele erau orientate către celălalt, perpetuând stereotipurile.

Cum acționează algoritmul și de ce este problematic

Institutul Olandez pentru Drepturile Omului susține că Meta Platforms Ireland Ltd. nu a demonstrat suficient că algoritmul său de publicitate nu discriminează pe criterii de gen. Deși compania declară că nu permite selectarea publicului țintă pe baza genului, diverse analize arată o segregare automată a anunțurilor, bazată pe stereotipuri tradiționale.

Această segmentare perpetuează inegalitățile, limitând accesul unor grupuri la oportunități profesionale. Problema nu este singulară, fiind identificată în diverse regiuni globale, de la Europa la India și Africa de Sud, ducând la depunerea de plângeri oficiale de către organizații specializate.

Potrivit experților, această decizie a Institutului Olandez ar putea avea efecte importante. Deși nu are valoare legală obligatorie, o instanță care va analiza cazul ar trebui să ia în considerare aceste concluzii. În funcție de evoluția situației, Meta ar putea fi sancționată sau nevoită să modifice algoritmii pentru a elimina discriminarea.

Reacții și implicații la nivel european

Activiștii consideră că decizia reprezintă un pas important în responsabilizarea companiilor de tehnologie pentru modul în care proiectează platformele și utilizează inteligența artificială. În Uniunea Europeană, există legi care interzic discriminarea pe criterii de gen, inclusiv în publicitatea online, însă aplicarea lor este complexă.

O reprezentantă a unei organizații implicate în investigație a subliniat importanța monitorizării respectării drepturilor în mediul online. ONG-urile speră că cazul olandez va stimula acțiuni similare în alte țări europene.

Meta a fost acuzată de discriminare și în alte regiuni geografice, inclusiv în Statele Unite, unde au fost efectuate modificări ale algoritmilor pentru anunțuri de angajare, locuințe și credite. Cu toate acestea, aceste schimbări nu au fost aplicate global, ridicând întrebări despre aplicarea principiilor de echitate.

În lipsa unor acțiuni corective din partea Meta, organizații și autorități guvernamentale ar putea iniția măsuri mai dure, printre care amenzi sau obligații de modificare a algoritmilor. Hotărârea Institutului Olandez este un semnal clar că companiile digitale pot fi trase la răspundere pentru încălcarea legislației anti-discriminare și că proiectarea și administrarea acestora trebuie să respecte principiile echității și incluziunii.