Cât de bine înțelegem inteligența artificială pe care o dezvoltăm constant? Dacă ai crezut că experții au controlul total, te așteaptă o surpriză: chiar creatorii unor modele AI avansate recunosc că nu înțeleg pe deplin cum funcționează acestea. Dario Amodei, CEO-ul Anthropic și fost membru important al OpenAI, a publicat un eseu în care afirmă, direct, ceea ce mulți bănuiau: înțelegerea actuală a inteligenței artificiale este superficială și incompletă.

Această afirmație este îngrijorătoare nu doar pentru comunitatea tehnologică, ci și pentru oricine se întreabă despre viitorul umanității. Când nici experții nu pot explica exact de ce un sistem AI alege anumite cuvinte sau comite erori, ne confruntăm cu un fenomen necunoscut.

Amodei subliniază că în momentul în care un sistem AI generează text sau rezumă documente, nu există o explicație clară pentru deciziile sale. De ce alege un cuvânt în locul altuia? De ce greșește uneori, deși în general este corect? Aceste întrebări rămân fără răspuns, deoarece, cum spune el, „nu înțelegem pe deplin ce se întâmplă în interiorul acestor modele”.

Această lipsă de transparență nu este doar o problemă academică, ci o situație fără precedent în istoria tehnologiei. Majoritatea inovațiilor tehnologice, de la mașini la circuite electronice, au fost construite pe înțelegerea profundă a principiilor care le guvernează. AI, în schimb, se bazează pe statistici și modele antrenate pe cantități mari de date, imitând creația umană fără a înțelege, în mod propriu, procesul.

Ce își propune Anthropic: un fel de RMN pentru creierul AI

Pentru a descoperi ce se ascunde în spatele acestor „cutii negre”, Anthropic își propune să dezvolte un sistem de „RMN al inteligenței artificiale” în următorul deceniu. Scopul este să înțeleagă cum funcționează aceste modele înainte ca acestea să devină periculos de puternice.

Amodei explică că Anthropic a început deja experimente. Într-un test recent, au introdus intenționat o eroare într-un model AI și au cerut mai multor echipe să o identifice. Unele echipe au reușit folosind instrumente de analiză AI, ceea ce sugerează că există o cale pentru a înțelege aceste sisteme.

Acest proces de „dezasamblare” a AI-ului nu este simplu și instrumentele actuale sunt departe de a fi suficient de performante. Dar faptul că Anthropic se concentrează pe atât pe performanță, cât și pe înțelegerea internă, contrastează cu abordarea unor companii rivale.

De ce contează interpretabilitatea înainte ca lucrurile să scape de sub control?

Inteligența artificială reprezintă o miză complexă, nu doar tehnologică, ci și civilizațională. Amodei avertizează că IA va influența viitorul umanității și este vital să o înțelegem înainte ca aceasta să transforme radical economia, viața de zi cu zi și viitorul speciei umane.

Motivul plecării lui Amodei de la OpenAI, în 2020, alături de alți colegi, a fost tocmai preocuparea pentru siguranță, considerată sacrificată în favoarea profitului. Anthropic încearcă să găsească un echilibru: dezvoltarea IA, dar și controlul acesteia.

„Oamenii au motive serioase de îngrijorare” spune Amodei, pentru că ne confruntăm cu o tehnologie capabilă de decizii și acțiuni neașteptate pentru noi. Daca nu vom înțelege cum funcționează, viitorul ar putea vedea AI luând decizii în locul nostru, fără ca noi să înțelegem motivul.

Această recunoaștere din partea unui lider de top din domeniul IA ar trebui să ne pună pe gânduri. Trăim o epocă în care tehnologia avansează mai rapid decât înțelegerea noastră. Urmarea viitoarelor provocări nu va fi viteza, ci transparența și înțelegerea. Pentru că construirea viitorului înseamnă și înțelegerea acestuia.