Inteligența artificială promite informații rapide, clare și relevante. Însă, acest progres ascunde o problemă tot mai serioasă: răspunsurile generate de modele precum ChatGPT sunt adesea otrăvite cu date false provenite de pe site-uri compromise. Specialiștii în securitate digitală au documentat acest fenomen, demonstrând cum infrastructura web abandonată devine o armă în mâinile spammerilor, afectând calitatea informațiilor disponibile utilizatorilor.

Chatboții precum ChatGPT și Gemini sunt antrenați pe volume mari de conținut online. Lipsa filtrelor sau a metodelor de verificare a surselor permite acestor modele să absoarbă cu aceeași încredere informații de pe site-uri de încredere, dar și de pe domenii abandonate, preluate ulterior pentru scopuri comerciale sau frauduloase. Rezultatul? O inteligență artificială care pare convingătoare, dar poate prezenta minciuni ca adevăruri.

Totul pornește de la site-uri legale care cad în declin: lipsa vizitatorilor, abandonarea de către proprietari sau modificările algoritmilor, precum cele de la Google, pot duce la dispariția acestora. Domeniile expirate sau disponibile pentru achiziționare sunt cumpărate de rețele obscure, specializate în spam și dezinformare. Noii proprietari exploatează reputația inițială a acestor site-uri, umplându-le cu conținut dubios menite să promoveze produse, cazinouri online sau teorii conspiraționiste.

ChatGPT, antrenat pe date din surse publice, nu poate detecta automat această preluare frauduloasă. Dacă un site avea anterior autoritate, de exemplu, dacă era gestionat de un avocat sau era afiliat unei organizații internaționale, chatbotul continuă să considere domeniul respectiv credibil. Acest lucru creează situații problematice, precum cele relatate de CEO-ul Digitaloft, James Brockbank, unde o fostă platformă de avocatură a devenit un promotor de jocuri de noroc sau un portal al ONU pentru tineret a fost transformat într-o platformă de cazinouri online.

Problema se agravează când realizăm că majoritatea utilizatorilor nu verifică sursele. Chiar dacă unele răspunsuri ale ChatGPT indică vag sursa, puțini sunt cei care verifică domeniul, autorul sau coerența informației. Astfel, dezinformarea sau conținutul de slabă calitate se infiltrează rapid, protejate de aspectul convingător al răspunsului generat.

Chatboții preiau, dar nu filtrează

O vulnerabilitate a modelelor AI este preluarea pasivă a informațiilor online, fără a le putea evalua editorial sau moral. ChatGPT nu se întreabă dacă un site a fost deturnat, cine este autorul conținutului sau intenția din spatele unei pagini. Modelul este antrenat să ofere răspunsuri coerente, bazate pe surse publice, dar nu are mecanisme încorporate de validare contextuală sau detectare a manipulării.

În plus, modelele tind să prioritizeze conținutul recent. Dacă un domeniu a fost recent deturnat și activează, ChatGPT poate include conținutul într-un răspuns, chiar dacă acesta este irelevant sau părtinitor. Rezultatul e un cerc vicios: sursele credibile dispar, cele noi sunt adesea spam, iar inteligența artificială devine pur și simplu un amplificator al zgomotului digital.

Acest fenomen afectează nu doar calitatea informațiilor, ci și încrederea în tehnologiile AI. Utilizatorii care primesc continuu informații inexacte sau contradictorii se îndoiesc de utilitatea și etica acestor instrumente. Mai ales că unele răspunsuri pot avea consecințe reale, de la recomandări financiare și juridice, la decizii de sănătate sau profesionale.

Ce poți face ca utilizator și de ce este importantă verificarea

Deși nu poți controla sursele folosite de chatbot-uri, ai la dispoziție instrumente de protecție. În primul rând, fii sceptic față de informații prea clare, perfecte sau bine formulate. Prezentarea atractivă nu garantează veridicitatea.

Când un răspuns îți oferă o sursă, verific-o: evaluează dacă conținutul este coerent, actualizat și consistent. Dacă observi pagini dezordonate, reclame excesive, link-uri către cazinouri sau articole fără legătură cu tema, există mari șanse să fie un site deturnat.

De asemenea, folosește mai multe surse pentru aceeași întrebare. Dacă un răspuns te deranjează sau ți se pare prea bun ca să fie adevărat, cauta confirmări din surse credibile. Nu te baza pe un singur răspuns, mai ales în subiecte importante.

Într-o lume unde atât oamenii, cât și AI-ul pot fi înșelați, spiritul critic rămâne cea mai importantă armă. Nu tot ce pare convingător este adevărat. Verifică, pune întrebări și nu te lăsa manipulat, nici măcar de un robot.