O cercetare realizată de Microsoft și Universitatea Carnegie Mellon, efectuată pe un eșantion de lucrători din diverse domenii (afaceri, educație, artă, administrație și informatică), a relevat o corelație interesantă. Persoanele care aveau cea mai mare încredere în precizia asistenților AI au manifestat un nivel scăzut de gândire critică față de concluziile acestor instrumente.

Descoperirea, deși nu surprinzătoare, evidențiază o potențială problemă legată de creșterea utilizării AI în viața de zi cu zi.

Pe măsură ce sistemele de învățare automată câștigă popularitate și încredere, există riscul ca informațiile generate de acestea să fie periculoase, chiar dacă nu sunt sesizate ca atare.

Cercetătorii își vor prezenta concluziile la Conferința CHI referitoare la factorii umani în sistemele informatice, la finalul acestei luni. O prelucrare preliminară a studiului a fost publicată pe platforma Microsoft.

Utilizatorii, lipsiți de exercițiul judecății critice

„Utilizarea neadecvată a tehnologiilor poate afecta negativ abilitățile cognitive esențiale”, au concluzionat cercetătorii.

„O contradicție esențială a automatizării este că, prin mecanizarea sarcinilor repetitive și delegarea excepțiilor către utilizatorul uman, se reduce ocazia de a-și exersa judecata și de a-și dezvolta capacitățile cognitive. Acest lucru poate duce la o atrofiere a acestor abilități, lăsându-i pe utilizatori nepregătiți atunci când apar situații neprevăzute.”

Pentru a efectua studiul, cercetătorii au contactat 319 specialiști din domeniul cunoașterii, prin intermediul platformei Prolific.

Profesioniștii, a căror activitate varia de la asistență socială la programare, au fost rugați să ofere trei exemple de utilizare a instrumentelor generative AI (cum ar fi ChatGPT) în activitatea lor.

Urmați de aceasta, participanții au fost întrebați dacă au utilizat gândirea critică în fiecare dintre cele 3 exemple și, în caz afirmativ, în ce mod.

De asemenea, au fost întrebați despre efortul necesar pentru executarea sarcinilor fără utilizarea inteligenței artificiale și despre gradul de încredere în rezultatul obținut.

ChatGPT, un risc potențial de dependență

Rezultatele au evidențiat o scădere semnificativă în evaluarea autocritică a rezultatelor AI, 40% din participanți declarând că nu au utilizat gândirea critică la sarcinile respective.

Observația nu reprezintă un caz singular și ilustrează influenta nocivă pe care o are dependența digitală asupra cogniției umane.

S-a demonstrat că utilizatorii frecventi ai ChatGPT pot manifesta simptome de sevraj în absența utilizării chatbot-ului. Similar, consumul excesiv de videoclipuri scurte (cum ar fi cele de pe TikTok) poate diminua concentrarea și împiedica dezvoltarea circuitelor neuronale responsabile de procesarea informațiilor și controlul executiv.

AI, un instrument pentru eficiență, dar un potențial inhibitor al gândirii critice

Această problemă nu este nouă – efectul Google, prin care utilizatorii își externalizează cunoștințele către motorul de căutare, a fost observat de ani buni. Totuși, relevă necesitatea unui discernământ crescut în ceea ce privește sarcinile cognitive delegate sistemelor informatice, pentru a nu afecta capacitățile de raționament proprii.

„Datele arată o schimbare în efortul cognitiv manifestat de lucrători, cu o tendință de delegare către AI a unor etape de execuție și o amplificare a unor responsabilități de supraveghere”, au consemnat cercetătorii.

„Surprinzător, în timp ce AI poate crește eficiența, aceasta poate, de asemenea, reduce angajamentul critic, mai ales în sarcinile repetitive sau cu o miză scăzută, unde utilizatorii se bazează pe AI. Aceste aspecte ridică îngrijorări legate de dependența pe termen lung și de diminuarea capacității de rezolvare independentă a problemelor.”