Oamenii nu mai pot distinge vocile reale de cele deepfake generate de AI, arată un nou studiu

Potrivit cercetătorilor de la Universitatea Queen Mary din Londra, tehnologia vocală bazată pe inteligență artificială a devenit atât de sofisticată încât clonele vocale pot păcăli chiar și urechea antrenată.

Voci deepfake generate de AI – greu de diferențiat de cele reale

Studiul a analizat reacțiile a zeci de participanți care au ascultat 80 de mostre audio – 40 de voci umane reale și 40 de voci deepfake generate de AI. Rezultatele au fost surprinzătoare: 58% dintre vocile clonate au fost considerate reale, iar doar 62% dintre vocile autentice au fost corect identificate. Această mică diferență statistică sugerează că, pentru publicul larg, vocile deepfake generate de AI sunt practic indistinctibile de cele umane, scrie Live Science.

Autoarea principală, dr. Nadine Lavan, a avertizat că voci deepfake generate de AI pot fi folosite pentru fraude, manipulări sau escrocherii. Un caz recent o implică pe Sharon Brightwell, care a fost înșelată cu 15.000 de dolari, după ce a primit un apel în care credea că fiica ei îi cere ajutor legal urgent. Vocea falsificată cu AI era atât de convingătoare încât nu a suspectat nimic.

Între oportunitate și pericol

Studiul atrage atenția că vocile clonate folosite nu erau sofisticate și au fost create cu un software disponibil public, folosind doar 4 minute de înregistrări vocale. Această accesibilitate ridică întrebări serioase privind etica, securitatea și reglementarea tehnologiei de voce AI. Cu toate acestea, cercetătorii menționează și posibilități pozitive, cum ar fi folosirea vocilor sintetice în educație sau pentru accesibilitate.