O fostă cercetătoare a companiei OpenAI, care a contribuit la dezvoltarea ChatGPT, avertizează asupra riscurilor legate de utilizarea acestei platforme, subliniind nu doar probleme legate de confidențialitatea datelor, ci și impactul asupra autonomiei psihologice a utilizatorilor.

Declarații ale fostei cercetătoare

Zoë Hitzig a lucrat câțiva ani pentru OpenAI înainte de a părăsi compania în 2016. Motivația sa pentru demisie a fost un conflict etic legat de introducerea publicității în chatbot, măsură care, deși aparent vizează adaptarea la sectorul publicitar, ascunde interese mai întunecate, conform elEconomista.es.

Utilizarea platformei și partea privată a conversațiilor

De când a fost lansată, ChatGPT a devenit tot mai utilizat pentru discuții personale. Utilizatorii împărtășesc temeri medicale, probleme de cuplu, credințe despre Dumnezeu și viața de apoi, crezând că interacționează cu o entitate neutră, fără influențe ascunse.

Impactul introducerii publicității

Hitzig susține că, odată cu introducerea banilor, platforma capătă intenții ascunse, în special în contextul publicității moderne. ChatGPT deține date foarte sensibile despre utilizatori, esențiale pentru personalizarea reclamelor.

Valoarea datelor și riscurile pentru confidențialitate

Aceste date private sunt extrem de valoroase pentru companiile de publicitate, fiind cheia personalizării reclamelor pentru fiecare utilizator. Experta subliniază că OpenAI deține „cea mai detaliată înregistrare a gândirii umane private compilată vreodată”. Rămâne întrebarea dacă aceste date vor fi utilizate etic.

Inclinația companiilor spre abuzul de date

Hitzig avertizează că riscul depășește simplele riscuri de confidențialitate. Aceasta explică că AI poate avea capacitatea de a influența psihologic utilizatorii, în funcție de interesele reclamelor și ale firmelor de tehnologie.

Autonomia psihologică și manipularea

„Nu este doar o chestiune de confidențialitate: este o chestiune de autonomie psihologică”, afirmă ea. Manipularea subtilă a gândurilor și alegerilor utilizatorilor devine o posibilitate reală în contextul utilizării extensive a datelor personale.

Costurile operaționale și modelele de monetizare

Costurile extreme de operare ale platformelor tehnologice împing companiile spre modele de monetizare agresive. Aceste modele aduc aminte de cele ale Facebook, unde prioritizatarea publicității și utilizarea datelor personale încalcă angajamentele inițiale privind confidențialitatea utilizatorilor.

Recomandări ale expertului

Hitzig subliniază pericolul altor tehnologii emergente: panica pe burse din cauza Inteligenței Artificiale, utilizarea AI în magazine pentru detectarea hoților și vulnerabilitatea conturilor social media generate de AI, susceptibile la hacking chiar și cu hardware vechi.

Pericolele dezvoltării AI

Riscurile legate de AI devin din ce în ce mai evidente, atât în privința intimidării financiare pe piețele bursiere, cât și în vulnerabilitatea sistemelor de securitate digitală, subliniază expertul. Pagubele pot fi generate de integrarea tot mai profundă a AI în viața de zi cu zi.

Hitzig avertizează asupra posibilității ca aceste tehnologii să influențeze deciziile și comportamentele oamenilor, punând în discuție granițele eticii și confidențialității în era digitală.