Compania americană recunoaște că viitoarele sale modele de inteligență artificială ar putea facilita crearea unor agenți biologici periculoși, deși susține implementarea unor măsuri stricte de siguranță.

Într-un comunicat recent, OpenAI a declarat că evoluția noilor sale modele de inteligență artificială ar putea atinge un nivel de sofisticare ce le permite să contribuie la dezvoltarea unor agenți biologici cu potențial devastator.

În timp ce compania evidențiază beneficiile tehnologiei în cercetarea medicală și apărarea biologică, recunoaște riscul ca această tehnologie să fie utilizată în scopuri periculoase, inclusiv la producerea de arme biologice.

Această declarație este conținută într-un articol oficial publicat pe blogul OpenAI, unde se discută despre responsabilitatea companiei de a echilibra inovația științifică cu limitarea accesului la informații sensibile.

Cu alte cuvinte, deși modelele AI pot contribui la progresul medical sau la prevenirea pandemiilor, există un risc ca acestea să faciliteze acțiuni cu consecințe negative semnificative pentru sănătatea publică.

Viitoarele modele ar putea sprijini utilizatori fără expertiză avansată

Johannes Heidecke, responsabilul pentru siguranță la OpenAI, a declarat într-un interviu că modelele actuale nu pot crea agenți biologici complet noi, dar pot facilita replicarea unora deja cunoscuți.

Problema, potrivit lui Heidecke, este că aceste modele ar putea oferi suficient sprijin chiar și persoanelor fără competențe avansate în biologie, ceea ce ridică un pericol major pentru securitatea globală.

„Nu ne confruntăm încă cu amenințări complet noi în domeniul biologiei sintetice, dar ne apropiem de acel moment”, a afirmat Heidecke.

Între acestea, el a subliniat că unele dintre modelele care urmează celui actual ar putea atinge acest nivel critic de performanță în viitorul apropiat.

OpenAI susține o strategie preventivă, implementând filtre și sisteme de monitorizare pentru a detecta utilizările riscante ale inteligenței artificiale încă din faze incipiente.

Cu toate acestea, Heidecke avertizează că acuratețea este crucială: „Nu este suficient ca un model să detecteze 99% din cazurile periculoase. O singură defecțiune poate avea consecințe devastatoare.”

Controverse legate de utilizarea în scopuri guvernamentale

În ciuda angajamentului declarat pentru siguranță, OpenAI continuă dezvoltarea acestor tehnologii, implicându-se în proiecte „biodefensive”, inclusiv colaborări cu guverne, fapt ce a generat îngrijorări cu privire la posibile utilizări improprii.

Criticii subliniază că o tehnologie cu asemenea capacități, în mâinile unui actor statal cu interese dubioase, ar putea fi utilizată în scopuri represive sau militare.

De asemenea, apare întrebarea cine stabilește limitele etice și juridice pentru utilizarea acestor sisteme, odată ce acestea vor face parte din arsenalul tehnologic al unei puteri globale.