Angajații au cheltuit zeci de mii de dolari pe AI pentru sarcini neoficiale

România, 2023 – Utilizarea inteligenței artificiale în mediul de afaceri se dovedește a fi mai costisitoare decât se anticipa, pe măsură ce companiile realizează că cheltuielile pentru modelele lingvistice pot crește rapid, chiar dacă promiteau reducerea costurilor și creșterea productivității.

Creșterea costurilor pentru modelele AI

Un exemplu intern ilustrează această tendință: un angajat dintr-o companie fintech a consumat credite AI în valoare de aproximativ 80.000 de dolari pentru a dezvolta un joc simplu, intitulat Brainrot Shooter. Mai mult, compania a glumit că suma poate fi încadrată ca o cheltuială de marketing, însă cazul evidențiază costurile crescute ale utilizării tehnologiilor AI.

Fenomenul „tokenmaxxing” și riscurile sale

Conceptul numit „tokenmaxxing” implică încurajarea angajaților de a consuma cât mai multe unități de procesare și text AI, cunoscute ca tokenuri. Scopul este creșterea eficienței organizației prin utilizarea frecventă a modelelor precum Claude, Cursor sau GitHub Copilot.

Utilizare excesivă fără rezultate concrete

Practic, acest tip de măsurare poate crea stimulente greșite. Angajații pot ajunge să folosească modelele de mai multe ori pentru a rezolva o problemă, chiar dacă rezultatul final nu aduce beneficii clare companiei. În loc să accelereze procesul, utilizarea excesivă poate duce la generare de cod inutil, necesitând reparații sau refaceri.

PUBLICITATE

Exemplul companiei Slash

La startup-ul Slash, un angajat a folosit pentru experimente o sumă de peste 81.000 de dolari în credite AI. Nicolas Brilliante, directorul de strategii verticale, a declarat că a fost un accident cauzat de subestimarea ratei de consum. În glumă, compania a sugerat că publicul ar putea juca proiectul pentru a justifica cheltuiala ca beneficii de marketing.

Necesitatea stabilirii unor limite clare

Experiența companiei Slash arată că utilizarea intensivă a AI trebuie însoțită de reguli și obiective precise. Fără aceste măsuri, utilizarea constantă devine costisitoare și poate să nu aducă rezultatele scontate. Eficiența nu trebuie calculată doar în funcție de numărul de prompturi trimise sau cod generate, ci și după rezultatele concrete ale activității.

Utilizări simple, costuri mari

Un alt exemplu, din interiorul companiei de consultanță Accenture, indică faptul că o parte semnificativă a consumului de tokenuri provine de la angajați ne-tehnici. Printre sarcini figurează transformarea unor documente PDF în prezentări PowerPoint.

Costuri și beneficii nesustenabile

Transformarea manuală sau utilizarea șabloanelor poate fi mai economică decât generarea automată, mai ales dacă activitatea nu aduce beneficii concrete. În cazul unor prezentări de rutină, companiile riscă să plătească mult mai mult pentru AI decât ar fi costurile cu muncă umană sau soluții simple.

Reevaluarea utilizării AI în companii

Ulterior, firme precum Uber, Coinbase și Walmart au introdus limite pentru consumul de credite AI. Bugetele dedicate acestor tehnologii au fost epuizate mai repede decât estimaseră, determinând reevaluări și reguli mai stricte privind utilizarea resurselor.

România înregistrează o tendință similară, cu companii care trebuie să gestioneze cu strictețe cheltuielile pentru soluțiile AI, în condițiile în care costurile de utilizare continuă să crească rapid.