ONU cere interzicerea roboților ucigași și avertizează asupra armelor autonome cu AI

Secretarul general al ONU, António Guterres, a solicitat statelor lumii să interzică armele autonome capabile să ia decizii letale fără controlul uman, în contextul unei creșteri a interesului global pentru utilizarea inteligenței artificiale (AI) în domeniul militar. Anunțul a fost făcut în cadrul primului Global Dialogue on AI Governance desfășurat la Geneva, înregistrând un apel ferm pentru menținerea deciziei de a da viață sau de a face rău în mâinile omului.

Interdicție globală pentru armele autonome

Guterres a subliniat că anumite decizii trebuie să rămână exclusiv umane, afirmând că folosirea AI în război reprezintă o problemă morală majoră. El a evidențiat riscul ca aceste sisteme să selecteze și să atace ținte fără intervenția unui operator uman, punând în pericol principiile etice și responsabilitatea umană.

Guvernul ONU a evidențiat că delegarea deciziilor de viață și de moarte către mașini este în opoziție cu valorile morale și drepturile fundamentale. Rămâne cert faptul că aceste aspecte au generat preocupări constanteîn ultimii ani, experți în tehnologie și cercetători avertizând asupra riscurilor sistemelor autonome în conflicte armate.

Risc și probleme tehnice

Un motiv esențial pentru interdicție este transparența limitată a sistemelor AI în domeniul militar. Modelele avansate de inteligență artificială pot fi opace chiar pentru propriile creatoare, ceea ce poate conduce la decizii fără explicație clară. În situații de conflict, astfel de lipsuri de transparență cresc riscul de erori, victime civile și escaladări necontrolate.

PUBLICITATE

Eroarea de identificare sau reacțiile automate pot provoca consecințe grave, iar identificarea responsabilității devine dificilă din cauza naturii opace a algoritmilor utilizati în armele autonome. Aceste riscur au fost întotdeauna în centrul dezbaterii internaționale privind utilizarea AI în domeniul militar.

Relația dintre tehnologie și apărare în Silicon Valley

De-a lungul timpului, companiile de tehnologie din Silicon Valley s-au confruntat cu controverse legate de implicarea în proiecte militare. În 2018, mii de angajați Google au protestat împotriva colaborării cu Pentagonul în Programul Maven, destinat analizării imaginilor video prin AI.

Microsoft a avut și ea un episod similar, după acordul pentru furnizarea de ochelari HoloLens pentru armata americană. Astăzi, discuțiile despre AI în domeniul militar sunt mai intense, având în vedere capacitatea modelelor avansate de a analiza volume mari de date, de a identifica tipare și de a lua decizii autonome în anumite contexte.

Unele companii susțin că tehnologia lor poate contribui la securitatea națională, evitând utilizarea în scopuri precum supravegherea ilegală sau armele autonome. Totuși, refuzul anumitor utilizări reflectă diferențe de opinie privind responsabilitatea și etica în acest domeniu.

Tranziția geopolitică și cursa înarmărilor AI

Susținătorii AI-ului militar argumentează că, dacă democrațiile nu vor dezvolta astfel de sisteme, rivalii geopolitici vor face acest lucru oricum, menționând conflicte între Statele Unite, China, Rusia și Iran. Această logică motivează, de multe ori, accelerarea cercetărilor și dezvoltarea de arme autonome ca beneficii strategice.

Există și opinia că armele autonome, dacă sunt mai precise, pot reduce victimele civile, fiind capabile să identifice și să neutralizeze amenințările cu o precizie mai mare decât oamenii. Totuși, aceste argumente sunt contrabalanse de criticile legate de riscurile morale și de securitate.

Criticii afirmă că această cursă a înarmării AI alimentată de preocupările de securitate internațională poate duce la o escaladare rapidă, într-un moment în care regulile globale privind utilizarea armelor autonome nu sunt încă stabilite. În acest fel, riscă să se creeze o situație în care armele autonome cu decizie de viață și de moarte să ajungă pe câmpul de luptă înainte ca regulamentele internaționale să fie adoptate.