Un nou raport evidențiază amploarea îngrijorătoare a unei campanii pro-ruse de manipulare informațională, care folosește instrumente AI accesibile pentru a produce în masă conținut fals.

Cunoscută sub numele de Operațiunea Overload, această campanie este activă din 2023 și a fost asociată cu guvernul rus de către diverse organizații.

Această campanie vizează diverse țări, dar Ucraina rămâne un țintă principală. Între septembrie 2024 și mai 2025, cercetătorii au observat o creștere dramatică a volumului de conținut produs: 587 materiale unice, inclusiv imagini și videoclipuri manipulate, coduri QR și site-uri false.

Majoritatea acestora sunt generate cu ajutorul inteligenței artificiale, printr-o tactică de combinare a narațiunilor pentru a maximiza impactul.

Propaganda sofisticată, scalabilă și multilingvă

Conform unui raport realizat de organizațiile Reset Tech și Check First, această tactică reprezintă o schimbare radicală: propaganda devine din ce în ce mai accesibilă, rapidă și diversificată.

„Diversitatea conținutului mi-a surprins atenția”, declară Aleksandra Atanasova de la Reset Tech. „Ei combină diverse tipuri de conținut – text, imagine, voce – pentru a aborda aceleași subiecte din perspective multiple.”

Campania nu utilizează unelte complexe, ci instrumente AI comerciale, disponibile gratuit. Un exemplu este Flux AI, un generator text-imagine dezvoltat de compania germană Black Forest Labs, suspectat de generarea numeroaselor imagini false distribuite, unele reprezentând revolte violente imaginare în Berlin sau Paris.

AI-ul este folosit și pentru clonarea vocii unor figuri publice pentru a manipula videoclipuri. Un exemplu este transformarea unei profesoare franceze într-o purtătoare de cuvânt falsă pentru extremismul de dreapta german, dintr-un material original despre un premiu academic.

Numărul videoclipurilor falsificate a crescut semnificativ, de la 150 în perioada iunie 2023 – iulie 2024, la 367 în următoarele opt luni.

Rețele de diseminare și tactici paradoxale

Conținutul generat este răspândit prin peste 600 de canale Telegram, conturi bot pe platforme online, precum și pe TikTok, unde 13 conturi au reușit să acumuleze peste 3 milioane de vizualizări înainte de a fi moderate. TikTok a reacționat rapid, în timp ce alte platforme par să acționeze mai puțin.

O tactică neobișnuită a acestei campanii este trimiterea directă a materialelor către organizații de verificare a faptelor, solicitând verificarea lor.

Scopul real este ca aceste materiale să fie menționate, chiar și în articolele de dezmințire, ceea ce le conferă notorietate și distribuire suplimentară.

Se estimează că peste 170.000 de astfel de emailuri au fost trimise către 240 de destinatari din septembrie 2024.

Impactul și viitorul luptei împotriva dezinformării generate prin AI

Deși multe dintre site-urile false create nu generează trafic semnificativ, promovarea lor agresivă pe rețelele sociale poate plasa conținutul fals în fruntea rezultatelor de căutare Google.

Producția de articole false generate de AI de către rețelele de dezinformare rusești este extrem de vastă, atingând cel puțin 3 milioane anual. Ele încearcă să infiltreze activitățile chatbot-urilor, inclusiv răspunsurile ChatGPT sau Google Gemini. „Deja au găsit formula care funcționează”, avertizează Atanasova.