Cercetători tem că inteligența artificială poate duce la o catastrofă globală

Știința inteligenței artificiale și riscurile globale: apel la cooperare internațională

Cercetători din Statele Unite și China avertizează asupra pericolelor dezvoltării necontrolate a inteligenței artificiale, solicitând o colaborare internațională pentru a evita o eventuală catastrofă. Declarațiile au fost făcute în contextul unei conferințe importante la Beijing, unde specialiști din domeniu și-au exprimat îngrijorarea față de riscurile asociate tehnologiei.

Avertisment de la specialiști în domeniul IA

Stephen Casper, informatician la MIT, a afirmat că aproape toți experții în IA sunt de acord privind nevoia de a preveni un incident grav care să afecteze percepția publicului. El a spus că un accident similar dezastrului de la Cernobîl în domeniul energiei nucleare ar putea avea consecințe catastrofale pentru promovarea și dezvoltarea tehnologiei IA.

Casper nu a detaliat analogia, însă a subliniat îngrijorarea că o astfel de tragedie ar putea suprima sau încetini avansul în domeniul inteligenței artificiale, având un impact negativ asupra cercetărilor și investițiilor.

PUBLICITATE

Scenarii apocaliptice și riscuri concrete

Specialiștii au analizat multiple scenarii în care IA ar putea genera crize globale. Printre cele mai discutate se află situațiile în care inteligența artificială preia controlul asupra sistemelor, înlocuind forțele umane și provocând șomaj în masă.

Un alt pericol major identificat recent ține de securitatea cibernetică. Se crede că IA, singură sau la comandă, poate realiza atacuri cibernetice devastatoare, afectând infrastructuri critice.

Progrese și riscuri în dezvoltarea IA

Un exemplu concret îl reprezintă refuzul companiei Anthropic de a lansa public modelul de IA numit Claude Mythos, considerat de experți prea puternic. Se susține că acest model are capacitatea de a pătrunde în majoritatea sistemelor de operare și browsere web majore, ceea ce ridică probleme privind securitatea.

Specialiștii avertizează asupra posibilității ca astfel de tehnologii să fie exploatate în mod malițios sau să se dărâme sistemele de securitate existente dacă sunt utilizate necontrolat.

Necesitatea unui cadru global pentru IA

Incertitudinea legată de utilizarea și controlul tehnologiei IA accentuează apelul pentru elaborarea unor norme și colaborări internaționale. În condițiile în care dezvoltarea acestui domeniu avansează rapid, lipsa unui vector comun de reglementare ar putea duce la situații greu de gestionat.

Experții subliniază importanța stabilirii unui cadru global menit să monitorizeze și să reglementeze utilizarea IA, mai ales în domenii cu potențial de risc crescut, precum securitatea cibernetică sau infrastructurile critice.

Cercetătorii din domeniu atrag atenția că dezvoltarea fără control a inteligenței artificiale poate avea consecințe neașteptate și potențial mortale, motiv pentru care solicită o colaborare internațională pentru prevenirea raționamentului singuler sau a utilizării malițioase.

Este așteptată o reacție din partea organismelor internaționale pentru stabilirea unor reglementări comune.