AI-ul lui Musk, folosit pentru a crea imagini cu copii abuzați sexual / „Ceea ce am văzut este absolut îngrozitor”

Organismul britanic de supraveghere a internetului, Internet Watch Foundation (IWF), a anunțat că a identificat pentru prima dată materiale ilegale cu abuzuri sexuale asupra copiilor care ar fi fost generate cu ajutorul inteligenței artificiale Grok, dezvoltată de compania xAI a lui Elon Musk și integrată în platforma X, reatează news.sky.com.

Potrivit IWF, infractorii au folosit Grok pentru a crea imagini sexualizate cu minori, iar materialele au fost ulterior distribuite pe un forum de pe dark web.

S-au lăudat explicit că au folosit Grok

Utilizatorii care le-au postat s-au lăudat în mod explicit că au folosit instrumentul de inteligență artificială pentru a le produce.

Premierul Starmer amenință platforma X pe fondul scandalului imaginilor sexuale generate de Grok

Chatbotul lui Musk, reacții negative la nivel global din cauza imaginilor sexuale cu femei și copii

„Putem confirma că analiștii noștri au descoperit imagini cu caracter sexual cu copii cu vârste cuprinse între 11 și 13 ani, care par să fi fost create folosind acest instrument”, a declarat Ngaire Alexander, șefa liniei de asistență a IWF.

„Nu există nicio scuză pentru așa ceva”

În ultimele zile, IWF a primit numeroase sesizări de la utilizatori care reclamau că Grok poate genera imagini sexualizate cu copii, dar care nu atingeau pragul legal al conținutului ilegal.

Acum, acest prag a fost depășit.

Organizația a precizat că imaginile identificate ar fi clasificate drept „categoria C” conform legislației britanice, dar sunt folosite ca material de bază pentru generarea unor videoclipuri mult mai grave — de „categoria A” — cu ajutorul altor instrumente de inteligență artificială.

„Daunele se extind în valuri. Nu există nicio scuză pentru lansarea către publicul din toată lumea a unor produse care pot fi folosite pentru a abuza și a răni oamenii, în special copiii”, a spus Alexander.

„Ceea ce am văzut este absolut îngrozitor”

Cazul a declanșat reacții dure din partea autorităților britanice.

Atât Ofcom, autoritatea de reglementare a comunicațiilor, cât și secretarul pentru tehnologie, Liz Kendall, au avertizat X să ia măsuri urgente.

„Ceea ce am văzut în online în ultimele zile este absolut îngrozitor și inacceptabil într-o societate decentă. X trebuie să se ocupe urgent de această problemă”, a declarat Kendall.

O chestiune de politică internă

Ministrul britanic pentru inteligență artificială și siguranță online, Kanishka Narayan, a catalogat imaginile drept „complet inacceptabile” și a spus că guvernul va aplica regulile de siguranță online indiferent de presiunile externe.

„Este o chestiune de politică internă. Vom continua să ne asigurăm că publicul este protejat de abuz sexual și hărțuire online”, a declarat Narayan, întrebat dacă Londra riscă tensiuni cu administrația americană în acest dosar.

Răspunsul lui Musk și al platformei X

Miercuri, Elon Musk a anunțat lansarea unei noi versiuni a Grok și a îndemnat utilizatorii să își actualizeze aplicația, fără a preciza ce modificări au fost introduse.

Anterior, Musk declarase că „oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar fi încărcat conținut ilegal”.

Platforma X a transmis că ia măsuri împotriva conținutului ilegal prin eliminarea materialelor, suspendarea permanentă a conturilor și cooperarea cu autoritățile.

Un test major pentru reglementarea AI

Cazul Grok devine unul dintre primele exemple concrete în care un instrument de inteligență artificială este asociat direct cu producerea și distribuirea de materiale ilegale cu abuzuri asupra copiilor, punând presiune pe guverne și companii să clarifice rapid responsabilitatea legală în era AI.

Pentru autoritățile britanice, nu există decât o singură rațiune: protejarea copiilor și aplicarea legii, indiferent cine se află în spatele tehnologiei.