În instanța din Arizona, o victimă a violenței a rostit cuvinte, la patru ani de la decesul său. Familia lui Chris Pelkey, un veteran militar de 37 de ani, ucis într-un incident rutier în 2021, a apelat la inteligența artificială pentru a crea un mesaj video către presupusul său agresor.

Videoclipul, realizat cu ajutorul unui model AI antrenat pe materiale video personale, este primul caz documentat în care un deepfake este utilizat într-un proces judiciar ca declarație a victimei.

În înregistrare, o reprezentare digitală a lui Pelkey, îmbrăcat cu o pălărie gri și un hanorac verde, transmite un mesaj aparent conciliant către inculpat: „Este păcat că ne-am întâlnit în aceste circumstanțe. Poate că, într-o altă viață, am fi fost prieteni”, conform unei publicații științifice.

A fost aplicat un filtru digital pentru a reda o versiune virtuală a lui Pelkey aşa cum ar arăta în prezent.

Judecătorul a considerat acest moment relevant în luarea deciziei de condamnare a inculpatului, Gabriel Horcasitas, la o pedeapsă de 10 ani și jumătate pentru omor din culpă.

„Acesta este tot ce pot arăta despre cum aş fi arătat dacă aş fi trăit”, spune personajul AI din videoclip. „A îmbătrâni este un dar, dar nu toți îl primesc, așa că bucurați-vă de fiecare rid.”

Utilizarea controversată a tehnologiei în instanţă

Cazul lui Pelkey nu este izolat. Recent, un bărbat de 74 de ani din New York a utilizat un deepfake într-un proces civil. Un videoclip cu o persoană digitală, realizată cu ajutorul inteligenței artificiale, a fost prezentat în instanță.

Judecătorul, neştiind de natura artificială a persoanei din videoclip, l-a avertizat pe respectivul pentru lipsa de transparență.

Ulterior, acesta a declarat că nu a dorit să înşele tribunalul, ci să-şi prezinte clar poziţia.

Iniţial, intenționa să creeze o reprodere virtuală a chipului său, dar a renunțat din motive tehnice.

Utilizarea inteligenței artificiale în procedurile legale ridică controverse. Într-adevăr, în ultimii ani, mai mulți avocați au fost sancționați pentru utilizarea de documente redactate cu ajutorul unor modele de limbaj, care conţineau informații juridice false.

În 2023, doi avocați din New York au fost sancționați pentru includerea în actele de procedură a şase spețe inventate de un model lingvistic AI.

În alt caz, un fost avocat al lui Donald Trump ar fi transmis avocatului său decizii fictive generate de AI, care au ajuns în cadrul unei proceduri oficiale.

Necesitatea unor reguli clare pentru tehnologia viitorului

Deși instanțele reacționează ferm la abuzul de tehnologie AI, cadrul legislativ rămâne neclar. Recent, un comitet judiciar a propus reglementări care să impună același standard de valabilitate pentru dovezile generate de AI, ca pentru cele ale experților umani.

La fel, în raportul său anual din 2023, președintele Curții Supreme a SUA a subliniat riscurile și avantajele potențiale ale utilizării AI în justiție.

Potrivit acestuia, tehnologia ar putea reduce obstacolele financiare în accesul la justiție, dar prezintă riscuri legate de intimitate și de o posibilă deshumanizare a procedurii judiciare.