România trebuie să ia măsuri rapide pentru reglementarea inteligenței artificiale, în contextul în care tehnologia a devenit prezentă în toate domeniile vieții cotidiene. Autoritățile trebuie să creeze o autoritate națională pentru monitorizarea și reglementarea AI, în condițiile în care alte state europene au avansat deja în acest proces.

Impactul inteligenței artificiale în societate

Potrivit deputatului Andrei Baciu, inteligența artificială nu mai este un subiect de cercetare sau un concept abstract. Este deja integrată în procesul de luare a deciziilor financiare, medicale și profesionale. Platformele de social media sunt un exemplu clar de influență a algoritmilor AI asupra comportamentului utilizatorilor.

Pe Facebook, o parte semnificativă a conținutului afișat provine de la pagini pe care utilizatorii nu le urmăresc direct. La TikTok, algoritmii analizează fiecare interacțiune pentru a construi bule informaționale personalizate, ceea ce corelează cu explicațiile despre filtrarea informației de către sistemele AI.

Riscurile sociale ale algoritmilor AI

Depășind rolul de simplu instrument, algoritmii din social media pot amplifica dezinformarea, radicaliza opiniile și manipula emoțiile utilizatorilor. Deputatul atrage atenția că în lipsa unor reguli clare, deciziile luate de acești algoritmi rămân în mare parte opace și imprevizibile.

Diseminarea de informații false sau manipulate devine o problemă majoră, mai ales în contextul în care algoritmii pot favoriza anumite idei sau pot discrimina grupuri sociale, fără ca utilizatorii să aibă posibilitatea să identifice sau să conteste aceste decizii.

Inteligenta artificială în domeniul financiar

În sectorul financiar, algoritmii influențează procesul de acordare a creditelor. Aceștia analizează volume mari de date personale pentru a evalua eligibilitatea solicitantilor. Existența riscurilor de discriminare pe criterii de gen, vârstă sau etnie este o problemă reală, fără ca persoanele vizate să beneficieze de mecanisme de explicație sau contestare.

Deciziile automate pot avea consecințe directe asupra accesului la credite și asupra drepturilor financiare ale cetățenilor, fără o transparență clară a proceselor.

Utilizarea AI în piața muncii și sănătate

Algoritmii sunt folosiți și în selecția candidaților pentru joburi, unde sistemele de screening pot favoriza anumite categorii și exclude altele, chiar dacă calificările sunt egale, după cum avertizează Baciu.

În sistemul de sănătate, AI permite detectarea precoce a unor boli grave precum cancerul pulmonar, dar existența deciziilor netransparente în triajul pacienților sau în prioritizarea tratamentelor reprezintă un risc. Conduita trebuie să includă un „human in the loop” pentru responsabilizarea deciziilor medicale bazate pe AI.

Reglementări și pregătire națională

Deși Regulamentul UE privind Inteligența Artificială este în vigoare din august 2024, România nu a desemnat încă autoritatea națională pentru monitorizare conform termenului depășit. În contrast, alte state europene, precum Spania, Italia și Germania, au luat deja măsuri concrete pentru gestionarea riscurilor și reglementarea activităților AI.

Lipsa acțiunii poate lăsa țara în urmă în domeniu, consideră Baciu, iar timpul pierdut poate afecta atât competitivitatea industriei locale, cât și protecția cetățenilor.

Avantajele României în domeniul AI

România dispune de o forță de muncă înalt calificată în IT, cu zeci de mii de specialiști în AI și machine learning. În plus, țara are un potențial energetic considerabil pentru susținerea infrastructurii necesare dezvoltării tehnologice în domeniu.

Un proiect de lege pentru stabilirea unei comisii parlamentare cu atribuții clare, precum avizarea proiectelor legislative și monitorizarea transpunerii legislației europene, urmează să fie propus pentru asigurarea unei reglementări eficiente.

Obiectivele strategice ale autorităților

Scopul principal al acestui demers legislativ este protejarea drepturilor fundamentale ale cetățenilor în fața riscurilor generate de AI. La nivelul propunerii, comisia ar urmări evaluarea riscurilor și identificarea vulnerabilităților, precum deepfake-urile, discriminarea algoritmică, dezinformarea și vulnerabilitățile cibernetice.

Responsabilitatea pentru implementarea și supravegherea acestor măsuri se va concentra pe crearea unui cadru sigur și responsabil al utilizării inteligenței artificiale în România.