Inteligența artificială pare a promite eficiență în domeniul juridic, însă eventualele erori, fenomenul de „halucinații” și lipsa de pregătire pot afecta credibilitatea avocaților și a instanțelor. Specialiștii recomandă alfabetizare digitală și reguli stricte legate de utilizarea AI.

AI devine din ce în ce mai prezentă în activitatea juridică, însă sistemul de justiție nu este încă pregătit pentru o utilizare responsabilă a tehnologiei.

Halucinațiile AI, erorile de utilizare și neînțelegerea profundă a tehnologiei pot afecta încrederea în profesie.

Un exemplu recent este cazul avocatului Brandon Monk, care, în 2024, a depus un document generat de AI cu informații false și citate inexistente într-un proces împotriva Goodyear.

Judecătorul a impus o amendă și obligatoriu un curs despre utilizarea inteligenței artificiale generate în domeniul juridic.

Cassandra Maldini, vicepreședinte de guvernare AI la Securiti, evidențiază problema fundamentală: „Tehnologia nu urmărește adevărul. Este bazată pe algoritmi probabilistici și oferă un răspuns, însă nu garantează corectitudinea acestuia.”

Aceste greșeli pot afecta încrederea clienților și imaginea instanțelor care nu detectează erorile.

De la eficiență la criza de credibilitate în avocatură

AI poate fi un instrument prețios pentru analiza rapidă a unui volum mare de documente legale sau chiar pentru îmbunătățirea evidențierii probelor video dintr-un eveniment.

Peter Hedberg, vicepreședinte la Corvus Insurance, subliniază capacitatea AI de a reduce timpul și costurile de cercetare pentru firme.

Însă există un risc semnificativ: aceste modele lingvistice avansate (LLM) sunt asemenea unor câini care doresc doar să mulțumească utilizatorul, nu neapărat să ofere adevărul. Sunt concepute să ofere un răspuns plauzibil, nu unul perfect.

Cazurile de halucinații ale AI, unde sunt fabricate citate și precedente juridice, demonstrează necesitatea verificării riguroase a datelor generate de AI înainte de utilizare.

Lipsa gândirii critice și tentația de a folosi scurtături pot duce la erori grave. Maldini avertizează că, fără măsuri clare, profesia juridică se confruntă cu o criză de credibilitate.

Necesitatea alfabetizării în AI, a regulilor stricte și a eticii

Experții subliniază importanța alfabetizării în utilizarea inteligenței artificiale. Avocații, judecătorii și juriile trebuie să înțeleagă limitele tehnologiei și să verifice riguros corectitudinea probelor.

Instanțele au respins deja probe video modificate cu AI, considerându-le potențial înșelătoare.

Tyler Shields, analist la Enterprise Strategy Group, atrage atenția asupra riscurilor de confidențialitate, legate de introducerea datelor sensibile în instrumente AI externe. De asemenea, AI poate fi utilizată pentru crearea unor probe false sau dovezilor deepfake.

Pentru atenuarea riscurilor, specialiștii recomandă:

• educație aprofundată și cursuri obligatorii despre utilizarea AI în drept;
• reguli etice privind verificarea și utilizarea rezultatelor AI;
• implementarea unor mecanisme de verificare criptografică și watermarking digital pentru probele create cu AI.