Lângă o pandemie globală de sănătate mintală a minorilor, cauzată rețelele sociale, AI-ul adaugă noi provocări

Inteligența artificială (IA) generativă și IA conversațională reprezintă două noi „provocări” în lupta împotriva abuzului sexual asupra minorilor pe internet, a declarat eurodeputatul spaniol Javier Zarzalejos (Partidul Popular European), în cadrul unei conferințe organizate de Biroul Parlamentului European în Spania despre protecția copiilor în mediul online, potrivit EFE.

„Suntem, în ceea ce privește protecția minorilor, într-o situație critică. În toate mediile digitale, nivelul de protecție a copiilor s-a înrăutățit”, a subliniat eurodeputatul vineri, acesta fiind raportorul Parlamentului European pentru regulamentul privind prevenirea și combaterea abuzului sexual asupra minorilor în mediul online.

El a adăugat că problema nu constă doar în creșterea „circulației conținuturilor de abuz sexual”, ci și în apariția unor „prădători care nu mai caută să genereze imagini pornografice cu minori, ci îi determină pe copii să se rănească singuri, să se sinucidă sau să comită acte de violență ori să fie recrutați de organizații criminale sau rețele de trafic de persoane”.

„Cei vinovați sunt cei care fac aceste lucruri”, a insistat Zarzalejos, subliniind că trebuie luptat împotriva lor „în lumea reală”, în timp ce se caută soluții „în lumea digitală”.

El a mai adăugat că victimele sunt din ce în ce mai tinere și că se observă „o violență tot mai mare în conținuturile difuzate”, menționând că „avem două noi provocări — inteligența artificială generativă și inteligența artificială conversațională”.

„Parlamentul European are deja, de doi ani, propriul său raport privind propunerea Comisiei Europene de regulament european pentru prevenirea și combaterea conținuturilor de abuz sexual asupra copiilor în mediul online”, a explicat eurodeputatul.

Acesta a criticat însă faptul că „de doi ani, statele membre — adică Consiliul — nu au reușit să ajungă la o poziție comună care să permită începerea negocierilor pentru ca acest regulament să devină realitate”.

Procuraturile pentru minori și instanțele lucrează de mult timp pentru a găsi soluții care să protejeze copiii atât în plan fizic, cât și online. Europol Stop Child Abuse – Trace An Object permite cetățenilor să furnizeze informații prin recunoașterea obiectelor din imagini, ajutând astfel la rezolvarea cazurilor de abuz asupra copiilor.

O reglementare a rețelelor pentru protejarea minorilor

Lipsa de atenție și somn, hărțuirea cibernetică, tulburările alimentare, autovătămarea sau suicidul sunt câteva dintre consecințele folosirii rețelelor sociale de către copii și adolescenți, în condițiile în care nu există o reglementare eficientă care să-i protejeze.

Acest subiect a fost dezbătut vineri de reprezentanți politici și ai societății civile în cadrul conferinței organizate de Biroul Parlamentului European în Spania, axată pe impactul rețelelor sociale asupra sănătății mintale a minorilor.

Eurodeputata socialistă Laura Ballarín a vorbit despre „o pandemie globală de sănătate mintală cauzată de utilizarea rețelelor sociale, a dispozitivelor mobile și a numeroaselor site-uri web” pe care copiii le consumă „fără control”.

„Modelul de afaceri al acestor platforme se bazează pe menținerea utilizatorilor cât mai mult timp conectați, iar metodele folosite devin tot mai sofisticate”, a avertizat Ballarín, cerând Comisiei Europene mai multă „rapiditate”, „eficiență” și „fermitate” în investigațiile împotriva platformelor precum Snapchat, YouTube și Google privind sistemele lor de verificare a vârstei, în conformitate cu Legea Serviciilor Digitale (DSA).

Deși a apreciat că este „o lege foarte bună”, Ballarín a subliniat că aceasta „a devenit deja depășită”, deoarece tehnologia evoluează mai repede decât legislația, invitând părinții și educatorii să împărtășească pe platforma Share to Protect mărturii care pot contribui la o mai bună elaborare a legilor.

Răspunsul platformelor

În cadrul sesiunii de întrebări, au intervenit reprezentanți ai Meta — compania-mamă a Facebook, Instagram și WhatsApp — și ai Google.

Purtătorul de cuvânt al Meta a declarat că „esențialul este atingerea majoratului digital”, subliniind că pe platformele companiei nu există pornografie și enumerând restricțiile impuse privind tipurile de conținut vizibile pentru minori.

Reprezentanta Google a pledat pentru „protecția prin design”, astfel încât „experiența minorilor online să fie adaptată vârstei lor”, adăugând că firma este „dispusă să colaboreze cu instituțiile pentru a identifica cea mai potrivită formă de reglementare a lacunelor existente”.