Guvernele și companiile de tehnologie din domeniul inteligenței artificiale (IA) se confruntă cu critici legate de utilizarea potențial periculoasă a sistemelor AI în domenii sensibile, cum ar fi armele chimice, radiologice și explozivele. Unele companii caută să angajeze experți cu experiență în prevenirea utilizării necorespunzătoare a acestor tehnologii, ceea ce stârnește îngrijorări privind riscurile și securitatea națională.

Angajări în domeniul securității și riscurilor chimice

O companie a publicat pe LinkedIn un anunț de recrutare pentru un specialist cu cel puțin cinci ani de experiență în apărarea contra armelor chimice și explozivi. Candidatul trebuie să aibă cunoștințe despre dispozitive de dispersie radiologică, cunoscute și sub denumirea de bombe murdare. Firma precizează că rolul este similar cu alte poziții din domenii sensibile deja create.

Strategia companiilor de IA

Compania a confirmat pentru BBC că astfel de poziții vizează gestionarea riscurilor generate de tehnologia IA, similar cu alte posturi din domenii sensibile. Anthropic nu este singura entitate care adoptă această abordare; și OpenAI a publicat un anunț pentru un cercetător în „riscuri biologice și chimice”. Salariul maxim oferit de OpenAI pentru această poziție ajunge la 455.000 de dolari, aproape dublu față de oferta Anthropic.

Controverse și preocupări privind riscurile

Unii experți avertizează că această strategie poate favoriza diseminarea informațiilor despre fabricarea armelor sau dispozitivelor exotice, chiar dacă angajatorii solicită să nu fie folosite în scopuri agresive. Industria IA recunoaște potențialele riscuri ale tehnologiei, însă nu au fost făcute încercări semnificative de a limita progresul acesteia.

Legături cu conflicte și tensiuni geopolitice

Situația devine acută în contextul în care guvernul SUA folosește ia în activități militare, inclusiv în războiul declanșat în Iran și în operațiuni din Venezuela. Anthropic a intentat acțiune în justiție împotriva Departamentului Apărării, argumentând că riscă lanțul de aprovizionare și că sistemele sale nu trebuie utilizate în arme autonome sau pentru supraveghere internă masivă.

Reacțiile și pozițiile companiilor

Co-fondatorul Anthropic, Dario Amodei, a afirmat că tehnologia nu este încă suficient de avansată pentru astfel de utilizări. Casa Albă a transmis că forțele militare ale SUA nu vor fi condusă de companii de tehnologie. Angajamentele și pozițiile companiilor, cum ar fi OpenAI, sunt diverse, dar în privința utilizării în operațiuni militare s-au exprimat cu rezerve.

Impactul asupra securității naționale și controversele

Eticheta de risc aplicată companiei americane asociază activitatea sa cu situații similare celei a Huawei, firma chineză de telecomunicații, vizată din motive de securitate națională. OpenAI a susținut că este de acord cu poziția Anthropic, dar a negociat un contract cu guvernul SUA, care nu a fost încă implementat. Asistentul AI al Anthropic, numit Claude, rămâne activ în sistemele utilizate de Palantir și este folosit în conflictele din Orientul Mijlociu.

Această situație evidențiază dificultățile și controversele generate de utilizarea avansată a inteligenței artificiale în domenii militare și de securitate națională.