OpenAI ia măsuri cu privire la informațiile false „lipsite de respect” cu Martin Luther King Jr.

Compania a recunoscut că generatorul de videoclipuri a creat conținut „lipsit de respect” despre activistul pentru drepturile civile.

Sora a devenit virală în SUA datorită capacității sale de a crea videoclipuri hiperrealiste, ceea ce a determinat oamenii să distribuie scene falsificate cu celebrități decedate și personaje istorice în scenarii bizare și adesea jignitoare, potrivit BBC.

OpenAI a declarat că va suspenda imaginile cu Dr. King „pe măsură ce întărește măsurile de protecție pentru personalitățile istorice”, dar continuă să permită oamenilor să realizeze clipuri cu alte persoane celebre.

Această abordare s-a dovedit controversată, deoarece videoclipuri cu personalități precum președintele John F. Kennedy, regina Elisabeta a II-a și profesorul Stephen Hawking au fost distribuite pe scară largă online.

Acest lucru a determinat-o pe Zelda Williams, fiica lui Robin Williams, să le ceară oamenilor să nu-i mai trimită videoclipuri generate de AI cu tatăl ei, celebrul actor și comediant american care a murit în 2014.

Trump publică dosarele secrete FBI despre Martin Luther King, în ciuda opoziției familiei

Printre videoclipurile generate de AI care îl înfățișau pe activistul pentru drepturile civile se aflau și unele care editau în diverse moduri celebrul său discurs „I Have a Dream”, Washington Post raportând că un clip îl arăta făcând zgomote rasiste.

În același timp, altele distribuite pe aplicația Sora și pe rețelele de socializare arătau personaje asemănătoare cu Dr. King și colegul său activist pentru drepturile civile Malcolm X luptându-se între ei.

Olivia Gambelin, specialistă în etica AI și autoare, a declarat pentru BBC că limitarea utilizării imaginii lui Dr. King de către OpenAI este „un pas înainte”.

Ea a afirmat însă că compania ar fi trebuit să ia măsuri încă de la început, în loc să adopte o abordare de tip „încercare și eroare” în lansarea unei astfel de tehnologii.

„Interesele libertății de exprimare”

Apariția deepfake-urilor – videoclipuri care au fost modificate folosind instrumente de inteligență artificială sau alte tehnologii pentru a arăta pe cineva vorbind sau comportându-se într-un mod în care nu a făcut-o – a stârnit îngrijorări că acestea ar putea fi folosite pentru a răspândi dezinformare, discriminare sau abuz.

OpenAI a declarat vineri că, deși consideră că există „interese puternice legate de libertatea de exprimare în reprezentarea personajelor istorice”, acestea și familiile lor ar trebui să aibă control asupra imaginii lor.

„Reprezentanții autorizați sau proprietarii de bunuri imobiliare pot solicita ca imaginea lor să nu fie utilizată în cameo-urile Sora”, a declarat compania.

Expertul în AI generativă Henry Ajder a afirmat că această abordare, deși pozitivă, „ridică întrebări cu privire la cine beneficiază de protecție împotriva reînvierii sintetice și cine nu”.

„Moștenitorii regelui au ridicat în mod justificat această problemă în fața OpenAI, dar multe persoane decedate nu au moștenitori cunoscuți și cu resurse suficiente pentru a le reprezenta”, a spus el.

„În cele din urmă, cred că vrem să evităm o situație în care, dacă nu suntem foarte faimoși, societatea acceptă ca, după moartea noastră, să existe o libertate totală în ceea ce privește modul în care continuăm să fim reprezentați”.

OpenAI a declarat la începutul lunii octombrie că a construit „mai multe niveluri de protecție pentru a preveni utilizarea abuzivă”.

De asemenea, a afirmat că se află „în dialog direct cu personalități publice și proprietari de conținut pentru a colecta feedback cu privire la controalele pe care le doresc”, cu scopul de a reflecta acest lucru în modificările ulterioare.