• Dario Amodei este un cercetător și antreprenor american specializat în inteligență artificială. Este cofondator și director general al Anthropic, o companie care dezvoltă modele lingvistice avansate, precum Claude AI. Anterior, a deținut funcția de vicepreședinte al cercetării la OpenAI.

„Sistemele moderne de IA funcționează fundamental diferit față de software-ul tradițional”

Cred că majoritatea oamenilor subestimează amploarea beneficiilor IA, la fel cum subestimează gravitatea riscurilor.

Directorul general al Anthropic, Dario Amodei, atrage atenția asupra faptului că „nimeni nu înțelege pe deplin cum funcționează inteligența artificială (IA)”.

În articolul publicat pe pagina sa personală, Amodei susține că „sistemele moderne de IA operează fundamental diferit față de software-ul tradițional”.

„Când un sistem de IA generativă realizează o sarcină, cum ar fi rezumatul unui raport financiar, nu avem o înțelegere clară a motivului pentru care ia anumite decizii: de ce alege anumite cuvinte și nu altele, sau de ce greșește ocazional, în ciuda preciziei generale”, explică Amodei.

Compară sistemele de IA cu organismele vii

Cercetătorul compară sistemele de IA cu organismele vii, subliniind că „evoluția lor este imprevizibilă și greu de înțeles”. Această caracteristică diferențiază fundamental IA modernă de software-ul conventional.

Directorul general al Anthropic subliniază: „Este asemănător cu cultivarea unei plante sau a unei colonii bacteriene: stabilim parametrii generali care ghidează și formează dezvoltarea, dar structura exactă care apare este imprevizibilă și dificil de înțeles sau explicat”.

Amodei identifică mai multe riscuri asociate cu această „netransparență”, inclusiv posibilitatea apariției „sistemelor nealiniate care ar putea lua decizii dăunătoare, neprevăzute de creatorii lor”.

„Este necesar să înțelegem propriile noastre creații înainte ca acestea să ne modifice radical viețile și viitorul”

Pentru a aborda aceste provocări, Anthropic își propune dezvoltarea unei „analize a IA” în următorul deceniu. Acest obiectiv ambițios urmărește crearea unor instrumente pentru examinarea funcționării interne a modelelor și identificarea potențialelor probleme înainte de punerea în aplicare.

Amodei recunoaște că există o dilema între avansul în interpretabilitate și dezvoltarea unor modele din ce în ce mai performante.

El avertizează că dezvoltarea IA avansează atât de rapid încât s-ar putea să nu avem suficient timp pentru a crea aceste instrumente.

În concluzie, directorul general al Anthropic lansează un apel către cercetători, companii, guverne și societate pentru a accelera dezvoltarea „tehnicilor de interpretare”.

IA va modela soarta umanității și merită să înțelegem propriile noastre creații înainte ca acestea să ne modifice radical viețile și viitorul.