Algoritmul TikTok recomandă conținut pornografic copiilor – raport

Cercetătorii au creat conturi false de copii și au activat setările de siguranță, dar au primit în continuare sugestii de căutare cu conținut sexual explicit.

Termenii de căutare sugerați au dus la materiale sexualizate, inclusiv videoclipuri explicite.

Platforma afirmă că se angajează să ofere experiențe sigure și adecvate vârstei și a luat măsuri imediate de îndată ce a aflat de problemă.

La sfârșitul lunii iulie și începutul lunii august a acestui an, cercetătorii din grupul de campanie Global Witness au creat patru conturi pe TikTok pretinzând că sunt copii de 13 ani, potrivit BBC.

Au folosit date de naștere false și nu li s-a cerut să furnizeze alte informații pentru a-și confirma identitatea.

Pornografie

De asemenea, au activat „modul restricționat” al platformei, care, potrivit TikTok, împiedică utilizatorii să vadă „teme mature sau complexe, cum ar fi… conținut cu conotații sexuale”.

Franța: Un raport parlamentar recomandă interzicerea rețelelor de socializare pentru cei sub 15 ani

Mișcarea globală pentru protejarea copiilor online alimentează un val de tehnologii de siguranță bazate pe AI

Fără a efectua ei înșiși căutări, anchetatorii au descoperit că în secțiunea „s-ar putea să-ți placă” a aplicației erau recomandate termeni de căutare cu conotații sexuale evidente.

Acești termeni de căutare duceau la conținut cu femei care simulau masturbarea.

Alte videoclipuri arătau femei care își expuneau lenjeria intimă în locuri publice sau își dezveleau sânii.

În cazurile cele mai extreme, conținutul includea filme pornografice explicite.

Aceste videoclipuri erau încorporate în alt conținut inocent, într-o încercare reușită de a evita moderarea conținutului.

Ava Lee de la Global Witness a declarat că descoperirile au reprezentat un „șoc imens” pentru cercetători.

„TikTok nu numai că nu reușește să împiedice accesul copiilor la conținut inadecvat, ci le sugerează acest conținut imediat ce își creează un cont”.

Global Witness este un grup de campanie care investighează de obicei modul în care marile companii de tehnologie influențează discuțiile despre drepturile omului, democrație și schimbările climatice.

Cercetătorii au descoperit această problemă în timp ce efectuau alte cercetări în aprilie anul acesta.

Videoclipuri eliminate

Ei au informat TikTok, care a declarat că a luat măsuri imediate pentru a rezolva problema.

Însă, la sfârșitul lunii iulie și în august anul acesta, grupul de campanie a repetat exercițiul și a constatat din nou că aplicația recomanda conținut sexual.

TikTok afirmă că are peste 50 de funcții concepute pentru a asigura siguranța adolescenților: „Ne angajăm pe deplin să oferim experiențe sigure și adecvate vârstei”.

Aplicația afirmă că elimină nouă din zece videoclipuri care încalcă liniile sale directoare înainte ca acestea să fie vizionate.

Când a fost informată de Global Witness cu privire la concluziile sale, TikTok a declarat că a luat măsuri pentru „a elimina conținutul care încalcă politicile noastre și a lansa îmbunătățiri ale funcției noastre de sugestii de căutare”.

Codurile pentru copii

La 25 iulie anul acesta, Codurile pentru copii din Legea privind siguranța online au intrat în vigoare, impunând obligația legală de a proteja copiii online.

Platformele trebuie acum să utilizeze „verificarea vârstei extrem de eficientă” pentru a împiedica copiii să vizioneze materiale pornografice. De asemenea, acestea trebuie să își adapteze algoritmii pentru a bloca conținutul care încurajează automutilarea, sinuciderea sau tulburările alimentare.

Global Witness a realizat al doilea proiect de cercetare după intrarea în vigoare a Codurilor pentru copii.

Ava Lee de la Global Witness a declarat: „Toată lumea este de acord că ar trebui să asigurăm siguranța copiilor online… Acum este momentul ca autoritățile de reglementare să intervină”.

În timpul activității lor, cercetătorii au observat și reacția altor utilizatori la termenii de căutare cu conotație sexuală care le erau recomandați.

Un comentator a scris: „Poate cineva să-mi explice ce se întâmplă cu recomandările mele de căutare, vă rog?”

Altul a întrebat: „Ce este în neregulă cu această aplicație?”.