Industria inteligenței artificiale riscă o criză de încredere asemănătoare cu dezastrul dirijabilului Hindenburg din 1937, dacă presiunea de a lansa rapid sistemele nu este însoțită de o evaluare adecvată a riscurilor și limitele acestora. Avertismentul a fost făcut de prof. Michael Wooldridge, specialist în inteligență artificială la Universitatea Oxford, care susține că tehnologia poate ajunge într-un punct de cotitură dacă accidentele sau erorile majore devin vizibile și perturbatoare.

De ce „momentul Hindenburg” pentru AI nu mai este doar o metaforă

Conform lui Wooldridge, comparația cu dezastrul dirijabilului Hindenburg din 1937 nu este doar o figură de stil, ci o explicație a unui posibil impact psihologic și societal. Dirijabilul a ars în timp ce ateriza în New Jersey, ucigând 36 de persoane, iar dezastrul a dus la pierderea încrederii în tehnologia respectivă. Specialistul avertizează că un eveniment similar în domeniul AI, vizibil și cu consecințe și mai semnificative, ar putea schimba rapid percepția publică și modul în care tehnologia este acceptată sau reglementată.

Pentru AI, riscul actual este mai mare deoarece tehnologia nu mai este izolată în cercetare, ci este integrată în aplicații, infrastructuri, servicii publice, procese industriale și logistică. Astfel, un eșec major sau un accident poate avea repercusiuni în multiple sectoare. Wooldridge subliniază că presiunea pieței duce la lansarea a numeroase produse înainte ca limitele lor să fie complet înțelese sau testate în condiții de siguranță.

Specialistul enumeră scenarii precum un update software defectuos care ar putea provoca accidente fatale în cazul mașinilor autonome, un atac cibernetic amplificat de AI ce poate paraliza operațiuni globale în aviație sau un colaps bancar cauzat de decizii automate eronate la scară largă, asemănător falimentului Barings. Aceste situații sunt considerate „foarte plauzibile” din cauza răspândirii AI în sisteme complexe, unde greșelile pot duce la pierderi de vieți sau pagube economice considerabile.

De ce AI-ul de astăzi este doar „aproximativ”?

Wooldridge evidențiază diferența dintre așteptările din cercetare și realitatea aplicată. Modelele lingvistice mari (LLM), de exemplu, generează răspunsuri bazate pe probabilități, predictive, ceea ce duce la performanțe imprevizibile și erori neașteptate. Aceste sisteme nu dețin o conștiință a propriilor greșeli și pot oferi răspunsuri fluente, convingătoare, dar greșite.

Un risc major este ca utilizatorii să ajungă să trateze AI-ul ca pe o persoană, atribuindu-i autoritate și încredere excesivă, chiar dacă este doar un instrument cu limitări. Wooldridge invocă un exemplu din serialul „Star Trek” din 1968, în care computerul navei răspunde sec, non-uman, că nu are suficiente date pentru un răspuns. O astfel de abordare ar fi mai sănătoasă și pentru AI-ul actual, dacă ar putea recunoaște și exprima clar propria lipsă de informații.

Specialistul critică industria pentru că a promovat și lansat chatboți cu „garduri de protecție” ușor de ocolit, impulsionată de presiunea comercială de a câștiga utilizatori și de a nu fi devansată de competitori. În acest climat, prudența și testarea riguroasă sunt adesea neglijate, mai ales pentru aplicațiile care devin parte a sistemelor critice.

Riscurile concrete ale vitezei și presiunii de piață

Wooldridge avertizează că viteza de dezvoltare și lansare a AI-urilor, combinate cu lipsa unor măsuri suficiente de siguranță, pot genera scenarii fatale. Printre acestea se numără accidente majore cauzate de update-uri defectuoase în vehicule autonome, atacuri cibernetice cu efect devastator asupra operațiunilor globale sau prăbușiri financiare cauzate de decizii automate la scară largă, fără o verificare riguroasă.

El insistă că astfel de incidente sunt foarte plauzibile, deoarece AI-ul ajunge în sisteme unde greșelile nu doar afectează răspunsurile, ci pot duce la oprirea serviciilor sau pierderea de vieți. Riscul major nu constă în ideea unei catastrofe apocaliptice, ci în probabilitatea și vizibilitatea unui incident care ar putea răsturna rapid încrederea în tehnologie.

Ce trebuie avut în vedere pentru un viitor sigur al AI

Wooldridge nu consideră că AI-ul devine responsabil de propriile sale pericole, ci atrage atenția asupra modului în care este dezvoltat și implementat. El subliniază că AI-ul ar trebui să fie proiectat pentru a recunoaște propriile limite și să admită când nu are suficiente informații pentru un răspuns sigur.

El sugerează, de asemenea, că industrie trebuie să fie mai prudență și să evite lansarea sistemelor prea repede, în special în contexte critice. Tratamentele de siguranță, testarea amănunțită și acceptarea riscurilor controlate sunt esențiale pentru evitarea unui dezastru care să devină punct de cotitură pentru percepția publicului față de AI.