De ce Anthropic implementează măsuri de siguranță pentru modelele sale de inteligență artificială

Compania Anthropic a lansat modelul Claude Fable 5, considerat unul dintre cele mai avansate din domeniu în ceea ce privește capacitatea de procesare și aplicabilitatea în cercetare și sarcini complexe. Deși modelul este accesibil publicului, compania a subliniat că anumite funcții pot fi exploatate în scopuri dăunătoare, în special în domeniul securității cibernetice.

în acest context, Fable 5 nu este disponibil fără restricții și dispune de mecanisme de limitare a răspunsurilor în situațiile sensibile. În situații în care întrebările pot avea impact negativ, sistemul poate redirecționa solicitările sau poate limita răspunsurile pentru a preveni utilizarea în mod inadecvat.

Informațiile anterior publicate menționau deja faptul că AI-ul dezvoltat de Anthropic încearcă să identifice vulnerabilități înainte ca hackerii să le exploateze, iar lansarea actuală accentuează complexitatea și rapiditatea cu care evoluează această cursă.

Utilizări și riscuri în domeniul securității cibernetice

Modelele precum Mythos pot fi de un real ajutor pentru echipele de securitate. Acestea pot identifica breșe de securitate mai rapid, pot prioritiza riscurile și pot accelera procesul de remediere a vulnerabilităților.

Totuși, apar și riscuri semnificative dacă aceste tehnologii cad în mâini greșite. Experți precum Derek Manky, citat de El País, avertizează că numărul atacurilor cibernetice ar putea să se dubleze dacă modelele avansate de AI sunt utilizate de hackeri.

Deja există exemple concrete: Playtech.ro a explicat modul în care inteligența artificială a devenit un instrument folosit de infractorii cibernetici pentru atacuri la scară largă. Printre acestea se numără și primul ransomware bazat pe AI, teste efectuate de infractori pentru a descoperi limitele noilor tehnologii.

Efecte asupra utilizatorilor obișnuiți și infrastructurii online

Impactul acestor atacuri nu se limitează la nivelul companiilor mari sau al specialiștilor în securitate. La nivel individual, datele bancare, aplicațiile digitale și serviciile publice pot fi compromise fără ca utilizatorii să conștientizeze pericolul.

Utilizarea AI în cybersecurity are o dublă față: facilitează, pe de o parte, detectarea rapidă a vulnerabilităților, și, pe de altă parte, poate servi ca instrument de atac pentru infractori dacă nu sunt implementate măsuri de control adecvate.

Astfel, dezvoltarea și implementarea de măsuri de siguranță în cadrul modelelor de AI rămân esențiale pentru prevenirea utilizării lor în acțiuni malițioase în domeniul digital.