ANCOM avertizează asupra conținutului generat cu IA în perioada campaniei electorale

Autoritatea Națională pentru Administrare și Reglementare în Comunicații (ANCOM) avertizează asupra pericolelor de dezinformare și manipulare produse de mesaje cu conținut generat de Inteligența Artificială, în special în campania electorală.

Potrivit ANCOM, „Primul pas pentru a acţiona împotriva unui conţinut online generat sau manipulat cu inteligenţa artificială (IA), care nu este etichetat clar, este raportarea acestuia către platformele online unde a fost publicat.

Utilizarea unui deep-fake rău-intenţionat, respectiv a unui material generat cu IA fără a se dezvălui în mod clar şi distinct faptul că a fost creat sau manipulat în mod artificial, prin etichetarea în consecinţă a rezultatului generat de IA şi divulgarea originii sale artificiale, poate fi raportată direct către platforme, utilizând mecanismele de raportare instituite de acestea”.

Rețea de site-uri false care clonează instituții media și guvernamentale, identificată în România

ANCOM face precizări în legătură cu plângerile primite în context electoral

Conținutul de tip deep-fake pe platformele de socializare a crescut cu 550% între 2019 și 2024.

În documentele ANCOM, deep-fake este definit drept „o imagine ori un conținut audio sau video generat sau manipulat de IA care prezintă o asemănare cu persoane, obiecte, locuri sau alte entităţi ori evenimente existente şi care ar crea unei persoane impresia falsă că este autentic sau adevăratˮ.

Procesele electorale sunt printre cele mai vizate de autorii de conținut online. Astfel că Comisia Europeană a elaborat un Regulament care vizează să atenueze riscurile sistemice în timpul proceselor electorale.

Sunt menționate reguli de bune practici către furnizorii de platforme online și către motoarele de căutare, printre care – să le furnizeze utilizatorilor tool-uri prietenoase care să-i ajute să adauge etichete la conținutul IA generat.