Inteligența artificială a cunoscut progrese remarcabile în ultimii ani, iar tehnologiile de clonare vocală au devenit tot mai accesibile. Un studiu recent realizat de Consumer Reports (CR) relevă faptul că numeroase aplicații în acest domeniu nu dispun de mecanisme eficiente de prevenire a fraudării, expunând utilizatorii la riscul acțiunilor frauduloase.

Cum funcționează clonarea vocală și care este riscul?

Multe aplicații de clonare vocală permit crearea unei copii virtuale a vocii unei persoane, utilizând doar un scurt fragment audio. Această tehnologie poate avea aplicații legitime, cum ar fi dublarea în filme, automatizarea citirii sau editarea audio, însă, lipsită de măsuri de securitate adecvate, poate deveni un instrument puternic în mâinile infractorilor.

Potrivit studiului CR, cazurile de fraudă care implică imitarea vocală a rudelor pentru obținerea de bani sau crearea de declarații false ale unor personalități publice, în scopuri dezinformative, sunt în creștere.

Aplicații vulnerabile la abuzuri

Analiza Consumer Reports a inclus șase companii care oferă servicii de clonare vocală:

• ElevenLabs, Speechify, PlayHT și Lovo au permis generarea de voci sintetice fără verificarea consimțământului persoanei imitate. De la utilizator se cerea doar bifarea unei casete care declara o autorizație tacită.

• Descript și Resemble AI au fost mai riguroase, aplicând măsuri suplimentare pentru prevenirea clonării fără acord.

În plus, patru dintre aceste servicii oferă creare de cont cu doar o adresă de email, fapt ce face aproape imposibilă identificarea abuzurilor.

Măsuri necesare de prevenire a fraudei

Consumer Reports recomandă adoptarea unor măsuri stricte pentru a preveni abuzurile:

• Verificarea identității utilizatorilor înainte de autorizarea clonării vocale.

• Solicitarea unui cod unic pentru confirmarea consimțământului persoanei a cărei voce este imitată.

• Identificarea audio-urilor generate de IA prin amprentarea acestora.

• Limitarea accesului la vocile figurilor publice pentru a contracara răspândirea dezinformării.

• Implementarea unor filtre de conținut pentru a bloca automat fraze tipice în tentativele de fraudă.

Rolul autorităților în protejarea utilizatorilor

În prezent, Comisia Federală pentru Comerț (FTC) are responsabilitatea de a monitoriza utilizarea acestor produse și prevenirea abuzurilor, însă experții consideră că măsurile sunt insuficiente. Consumer Reports recomandă implementarea unor noi reglementări care să guverneze tehnologiile de clonare vocală și furnizarea de resurse suplimentare pentru investigarea cazurilor de abuz.

În plus, procurorii publici ar trebui să analizeze dacă aceste instrumente AI încalcă legile privind protecția consumatorilor.

O tehnologie cu potențial, dar periculoasă fără control

Deși clonarea vocală are numeroase aplicații legitime, lipsa unor măsuri de protecție eficiente o face extrem de periculoasă. Fără o reglementare adecvată, infractorii pot abusa de această tehnologie pentru a obține beneficii materiale, a fura identități sau a răspândi informații false. Pe măsură ce inteligența artificială evolueză, este crucial ca atât companiile din acest domeniu, cât și autoritățile să colaboreze pentru a preveni abuzurile.