Chatbotul lui Musk, reacții negative la nivel global din cauza imaginilor sexuale cu femei și copii

Cel mai înalt oficial britanic în domeniul tehnologiei a cerut, marți, platformei de socializare X a lui Musk să ia măsuri urgente, în timp ce un legislator polonez a invocat acest lucru ca motiv pentru adoptarea unor legi privind siguranța digitală, scrie Associated Press.

Executivul Uniunii Europene a denunțat Grok, în timp ce oficialii și autoritățile de reglementare din Franța, India, Malaezia și Brazilia au condamnat platforma și au solicitat anchete.

Alarma crescândă din partea unor națiuni disparate indică potențialul de coșmar al aplicațiilor de nudificare care utilizează inteligența artificială pentru a genera imagini deepfake sexual explicite.

Grok încă generează imagini sexuale postate de alții

Problema a apărut după lansarea, anul trecut, a Grok Imagine, un generator de imagini bazat pe inteligență artificială care permite utilizatorilor să creeze videoclipuri și imagini introducând comenzi textuale. Acesta include un așa-numit „mod picant” care poate genera conținut pentru adulți. Situația s-a agravat la sfârșitul lunii trecute, când Grok, care este găzduit pe X, a început aparent să accepte un număr mare de solicitări din partea utilizatorilor de a modifica imaginile postate de alții. Marți, utilizatorii Grok puteau încă genera imagini cu femei folosind solicitări precum „pune-o într-un bikini transparent”.

AI-ul lui Musk, folosit pentru a crea imagini cu copii abuzați sexual / „Ceea ce am văzut este absolut îngrozitor”

Cum a fost umplut vidul de informații despre capturarea lui Maduro cu deepfake-uri și IA

Problema este amplificată atât pentru că Musk își promovează chatbotul ca o alternativă mai îndrăzneață la rivalii săi, cu mai multe măsuri de siguranță, cât și pentru că imaginile Grok sunt vizibile public și, prin urmare, pot fi răspândite cu ușurință.

Grupul non-profit AI Forensics a declarat într-un raport că a analizat 20.000 de imagini generate de Grok între 25 decembrie și 1 ianuarie și a constatat că 2% dintre acestea înfățișau o persoană care părea să aibă 18 ani sau mai puțin, inclusiv 30 de femei sau fete tinere sau foarte tinere, în bikini sau haine transparente.

Compania de inteligență artificială a lui Musk, xAI, a răspuns la o solicitare de comentarii cu răspunsul automat „Legacy Media Lies” (Minciunile mass-media tradiționale).

Cu toate acestea, X nu a negat existența conținutului problematic generat prin Grok. Totuși, într-o postare pe contul său Safety, compania a afirmat că ia măsuri împotriva conținutului ilegal, inclusiv materialele cu abuzuri sexuale asupra copiilor, „prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu autoritățile locale și forțele de ordine, după caz”.

Platforma a repetat, de asemenea, un comentariu al lui Musk, care a spus: „Oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal”.

O listă tot mai mare de țări cer ca Musk să ia mai multe măsuri pentru a controla conținutul explicit sau abuziv.