Cum funcționează algoritmul britanic

Un proiect, inițial numit „predicție criminalitate”, a fost redenumit „evaluare îmbunătățită a riscurilor”. Ministerul Justiției urmărește creșterea siguranței, însă activiștii îl critică ca fiind îngrijorător și distopic.

Dezvăluit de o organizație de monitorizare, proiectul utilizează date despre indivizi necondamnați, inclusiv informații despre automutilare și abuzuri domestice, deși oficialii neagă acest aspect, susținând că datele provin doar de la persoane condamnate.

Guvernul afirmă că proiectul este în faza de cercetare, dar criticii atrag atenția asupra posibilității de prejudecăți împotriva persoanelor defavorizate și minorităților.

Ministerul Justiției declară că proiectul va analiza factorii care cresc riscul de omucidere și va explora metode inovatoare de evaluare a riscului.

Un purtător de cuvânt a afirmat că proiectul va oferi dovezi pentru îmbunătățirea evaluării riscurilor infracțiunilor grave, contribuind astfel la protejarea cetățenilor printr-o analiză mai riguroasă.

Proiectul, comandat de biroul prim-ministrului, utilizează date criminale din surse oficiale precum Serviciul de Probațiune și poliția din Greater Manchester, anterioare anului 2015.

Ce date colectează proiectul

Informațiile includ nume, date de naștere, sex, etnie și un cod identificator din sistemul național al poliției.

Organizația de monitorizare susține că datele includ și persoane nevinovate și cele care au apelat la poliție. Acest schimb de date include tipuri de infracțiuni și vârsta primei victime, inclusiv în cazuri de violență domestică.

Datele speciale includ „factori predictivi de sănătate”, cum ar fi informații despre sănătatea mintală, dependență, sinucidere, vulnerabilitate, autoagresiune și dizabilități.

„Încercarea de a construi un sistem de predicție a crimelor este cel mai recent exemplu îngrijorător și distopic, demonstrând intenția guvernului de a crea sisteme de predicție criminalistică. Studiile arată că aceste algoritmi sunt inerent greșeli și că acest proiect, folosind date de la o poliție rasistă și un minister al interiorului, va exacerba discriminările sistemice ale sistemului penal.” a declarat Sofia Lyall, cercetătoare.

„La fel ca și alte sisteme de acest tip, va perpetua părtinirea față de comunitățile vulnerabile și cu venituri mici. Crearea unui instrument automatizat de profilare a persoanelor ca infractori violenți este o greșeală, iar utilizarea unor date atât de sensibile despre sănătate mintală, dependențe și dizabilități este extrem de invazivă și alarmantă.”, a continuat ea.

Explicațiile Ministerului Justiției

„Acest proiect este exclusiv cu scop de cercetare. Folosește datele existente ale Serviciului Penitenciar și de Probațiune și ale forțelor de ordine despre infractorii condamnați pentru a înțelege mai bine riscul infracțiunilor grave în cazul probațiunilor. Un raport va fi publicat în termenele prevăzute.”, a declarat un purtător de cuvânt al Ministerului Justiției.

Oficialii menționează că serviciile penitenciare și de probațiune utilizează deja instrumente de evaluare a riscurilor, iar proiectul va testa dacă includerea noilor surse de date îmbunătățește evaluarea.