O cetățeancă britanică a suferit un incident grav, devenind victimă a unui sistem de recunoaștere facială bazat pe inteligență artificială. Sistemul a identificat-o greșit drept infractor, ducând la interzicerea accesului în toate magazinele unui lanț comercial important din Marea Britanie.

Acuzații nefondate generate de un algoritm

În 2025, o locuitoare din Manchester a fost oprită de pe teritoriu unui magazin Home Bargains. Fără explicații, angajații au solicitat părăsirea imediată a magazinului. Ulterior, a fost îndrumată să contacteze furnizorul sistemului de recunoaștere facială.

În luna următoare, incidentul s-a repetat la o altă locație. Femeia a fost escortată afară de securitate, neştiind motivul. Surpriza a venit odată cu explicația: sistemul de recunoaştere facială o identifica ca fiind responsabilă de un furt de articole de igienă într-un magazin Home Bargains, conform unor surse.

Fără explicații sau posibilitatea de apărare, algoritmul a decis vinovăția, marcandu-i accesul interzis în toate locaţiile lanţului comercial.

Remedierea și reacții

După reclamații și dovezile clarificatoare ale nevinovăției sale, femeia a reușit să recâștige accesul. În reacție, Home Bargains a decis să întrerupă colaborarea cu furnizorul de tehnologie AI.

Incidentul nu a fost izolat în Marea Britanie. Un alt caz similar a avut loc în 2024, dar sistemul de recunoaştere facială se mai foloseşte şi în prezent de alte companii și chiar de autorităţi din Regat.

Acest incident evidențiază vulnerabilitățile sistemelor de recunoaștere facială, care, fără intervenția umană, pot conduce la consecințe negative. Sistemele pot greși, mai ales când bazele de date sunt incomplete sau algoritmii nu sunt instruiți corespunzător.

Proliferarea globală și provocările etice

Recunoașterea facială este utilizată pe scară largă în Asia, inclusiv în transportul public și medii de lucru. În Europa, implementarea este reglementată, necesitând condiții speciale referitoare la securitate.

În Franța, testele cu tehnologii asemănătoare se concentrează mai mult pe analiza comportamentelor în mulțimi, nu pe identificarea facială directă. Cu toate acestea, experții avertizează asupra riscurilor unei utilizări extinse și necontrolate.

Cazuri precum cel din Manchester evidențiază responsabilitatea utilizării inteligente a tehnologiei. AI poate fi un instrument util, dar poate transforma greșelile în abuzuri dacă este folosit fără intervenție umană.