Un nou model de inteligență artificială, antrenat folosind o tehnică specială de reinforcement learning, a reușit să creeze programe dăunătoare capabile să eludeze sistemul Microsoft Defender for Endpoint. Specialistul în securitate ofensivă Kyle Avery, de la Outflank, a prezentat acest instrument la conferința Black Hat 2025 din Las Vegas, demonstrând un prototip funcțional cu potențial dăunător.

Se cunoștea potențialul modelelor lingvistice mari (LLM) în crearea de programe dăunătoare. Până acum, exemplele se limitau la scripturi simple, tentative de phishing și analiză a țintelor. Acum, inteligența artificială învață să ocolească sistematic sistemele de securitate.

Modelul dezvoltat de Avery folosește o versiune open-source Qwen 2.5, antrenat într-un mediu controlat unde interacționează cu Microsoft Defender. Un proces de încercare și eroare, prin sute de sesiuni de testare, a condus la rezultate eficiente. Costul de dezvoltare, aproximativ 1500 de dolari, demonstrează accesibilitatea tehnologiei pentru actori cu intenții malițioase.

Reinforcement learning: cheia evaziunii digitale

Noutatea acestui model constă în utilizarea reinforcement learning în securitatea ofensivă. În loc de a fi hrănit cu exemple de cod, modelul a învățat independent ce strategii funcționează. La fiecare pas, modelul primea recompensă pentru rezultatele parțiale (de exemplu, malware funcțional chiar și detectat) , procesul fiind rafinat până la generarea de programe nedetectabile.

Modelul interacționa constant cu o interfață API conectată la Microsoft Defender. Scopul era minimizarea avertizărilor generate de fiecare variantă de cod. Rezultatul a fost clar: aproximativ 8% din probele generate au trecut complet nedetectate, un succes semnificativ mai mare decât alte modele AI.

Un aspect îngrijorător este dimensiunea redusă a modelului, care poate rula pe o placă grafică standard, accesibilă multor atacatori.

Consecințele pentru viitorul securității cibernetice

Această prezentare practică pune sub semnul întrebării viitorul securității digitale. Dacă un specialist a reușit cu resurse limitate, ce se va întâmpla când aceste tehnologii vor ajunge în mâinile actorilor malițioși?

Atacurile cibernetice ar putea fi automatizate, sistemele de securitate testate constant, vulnerabilitățile identificate și atacurile la scară largă implementate. Ne confruntăm cu o nouă eră, în care algoritmii autonomi vor domina lupta cibernetică.

Kyle Avery a subliniat că limita de 8% eficiență a fost arbitrară. O continuare a antrenamentului ar putea conduce la o rată mult mai mare. El consideră că este doar o chestiune de timp până când aceste metode vor fi replicate de grupuri infracționale.

Concluzie: o nouă frontieră în securitatea digitală

Nu mai este o simplă speculație despre utilizarea inteligenței artificiale pentru scopuri dăunătoare, ci o realitate concretă. Demonstrația de la Black Hat 2025 necesită o reacție din partea firmelor de securitate, dezvoltatorilor și autorităților. Aceștia trebuie să se pregătească pentru un nou tip de adversar: un algoritm automat de atac.

Utilizatorii trebuie să fie mai vigilenți decât oricând, urmărindu-se actualizările sistemelor și potențialele anomalii. În această lume a malware-ului autonom, vigilența este esențială.