Google se pregătește să implementeze în Europa o nouă funcție AI, care generează rezumate inteligente. Această funcție, deja controversată în Statele Unite, oferă rezumate „relevante” în locul listelor clasice de link-uri. Din păcate, în unele situații, aceste rezumate sunt absurde, periculoase sau chiar jignitoare.

Exemplele virale includ recomandări de a folosi lipici pentru a ține brânza pe pizza sau de a consuma pietre. Problema este sistemică, „halucinațiile” inteligenței artificiale (răspunsuri greșite sau nepotrivite) fiind o caracteristică inerentă a modelelor lingvistice mari. Pe măsură ce aceste modele devin sursa principală de informații pentru milioane de persoane, riscurile cresc dramatic.

Funcția controversată ajunge în Europa, fără opțiune de dezactivare

După testarea în SUA și Marea Britanie, funcția este acum disponibilă și în mai multe țări europene, inclusiv Germania, Italia, Polonia, Spania și Irlanda. Introducerea funcției este automată și utilizatorii nu o pot dezactiva. Rezultatele AI apar deasupra celor clasice, chiar dacă pot fi incomplete, scoase din context sau incorecte.

Google susține că tehnologia este folosită de peste un miliard de utilizatori și că sistemul se va îmbunătăți treptat. Cu toate acestea, criticii avertizează asupra riscurilor pentru calitatea informației, impactând negativ industria media. Site-urile pierd vizitatori, presa venituri, iar creatorii de conținut sunt afectați.

De la inadvertențe la scandaluri internaționale

Funcția AI Overviews nu este singura problemă pentru Google. În ultimele luni, compania a mai întâmpinat dificultăți cu produsele sale AI. Modelul Gemini, de exemplu, a fost criticat pentru afișarea unor imagini istorice inexacte, cum ar fi prezentarea unor soldați naziști ca persoane de culoare. Aceste erori nu sunt accidente, ci rezultatul unei corecții exagerate a datelor de antrenament, în încercarea de a promova diversitatea.

Reacții au venit și la nivel înalt: Ministrul indian al Tehnologiei Informației a criticat aspru Google după ce Gemini a generat un răspuns considerat părtinitor. Compania a trebuit să suspende temporar funcționalitățile de generare de imagini și să restructureze echipele de AI.

Google recunoaște dificultăți în controlul acestor modele AI, precum și în prevenirea răspândirii dezinformării, fapt ce ridică semne de întrebare privind gestionarea puterii companiei.

Halucinațiile AI: creativitate sau pericol?

Sam Altman, CEO OpenAI, susține că halucinațiile AI pot fi o formă de creativitate, mai ales în contexte recreative. Dar când devin sursa principală de informații, discuția se schimbă. Modelele AI nu au discernământ și nu înțeleg sensibilitățile sociale.

Specialiștii propun soluții tehnice pentru a reduce aceste probleme, precum integrarea bazelor de date vectoriale sau utilizarea sistemelor hibride, care combină rezultatele căutării clasice cu modelele AI, pentru a oferi răspunsuri mai precise.

În prezent, însă, tranziția Google către un internet dominat de AI rămâne disputată, iar greșelile pot avea consecințe semnificative asupra percepției noastre despre lume.