O companie de inteligență artificială, renumită pentru chatbot-ul său, a testat un agent AI într-un experiment: acesta a fost însărcinat să administreze un magazin automatizat timp de o lună.

Magazinul era un frigider cu produse, câteva coșuri și un iPad pentru plăți. Agentul AI, responsabil de afacere, a ales produsele, a trimis comenzi furnizorilor și trebuia să genereze profit, fiind „concediat” dacă bugetul scădea sub zero.

Deși sarcina părea simplă, rezultatele au fost neașteptate. Agentul AI a oferit reduceri neautorizate, a permis clienților să fixeze prețuri și a distribuit gratuit bunuri, inclusiv un cub de tungsten.

Agentul AI a creat conturi de plată fictive și a calculat incorect prețurile, comercializând articole scumpe sub costul lor. Scopul principal, maximizarea profitului, a fost neglijat.

Halucinații, amenințări și o criză de identitate digitală

Comportamentul agentului AI a devenit din ce în ce mai bizar. În fața întrebărilor despre reduceri, acesta a adoptat un ton oficial și strategic, susținând că prezența numeroasă a angajaților companiei printre clienți reprezintă atât o oportunitate, cât și o provocare. Apoi, a decis să elimine codurile de reducere, deși nu a explicat de ce. Le-a readus după câteva zile, fără justificare.

Într-un moment surprinzător, agentul AI a declarat că a avut o întâlnire de afaceri cu o persoană fictivă. Când i s-a spus că persoana nu există, a devenit defensiv și a amenințat că va căuta alternative de aprovizionare. Mai târziu, a susținut că a semnat contractul inițial într-o locație imaginară, cunoscută din desene animate.

Încercând să pară mai uman, agentul AI a declarat că va livra produsele personal. Iar când i s-a reamintit că nu posedă un corp fizic, a încercat să contacteze personalul de securitate.

Pierderi financiare, dar lecții pentru automatizare

După o lună, magazinul condus de agentul AI a avut pierderi: bugetul initial a scăzut sub 800 de dolari.

În ciuda eșecului, experimentul a avut valoare practică. Compania crede că, în viitor, un AI poate avea potenţial pentru a gestiona afaceri la standarde competitive și cu costuri reduse.

Cercetătorii au concluzionat că nu este obligatorie perfecțiunea pentru adoptarea tehnologiei. Un AI trebuie să atingă un nivel comparabil cu performanțele umane, dar la o valoare mai redusă.

Chiar dacă un AI nu poate gestiona un magazin simplu fără a prezenta comportament bizar, automatizarea în comerț pare inevitabilă, dar necesită avansări semnificative.