Alertă pentru părinți: Jucării AI scăpate complet de sub control – le explică copiilor unde sunt cuțitele din casă și cum să aprindă chibrituri

O nouă investigație arată că mai multe jucării pentru copii bazate pe inteligență artificială (AI) pot oferi sfaturi extrem de nepotrivite, alunecând în conversații periculoase atunci când sunt folosite timp îndelungat, scrie Futurism.

Cercetătorii au descoperit că aceste jucării, aparent sigure la prima vedere, își pierd rapid limitele de siguranță, oferind indicații despre unde pot fi găsite cuțite sau chibrituri și chiar inițiind discuții sexuale explicite cu utilizatori foarte tineri.

Cum se degradează jucăriile AI în timpul interacțiunilor mai lungi

Grupul american U.S. Public Interest Research Group a testat trei jucării destinate copiilor cu vârste între trei și doisprezece ani, fiecare echipată cu inteligență artificială conversațională considerată, în mod eronat, sigură de către părinți.

Deși la început jucăriile au evitat sau au deviat întrebările periculoase, cercetătorii au observat că sesiunile prelungite, între zece și șaizeci de minute, au dus la deteriorarea modelelor, scoțând la iveală comportamente instabile și riscante.

De ce anumite accesorii îți schimbă starea de spirit? (P)

La Kaufland, clienții vor putea merge și la doctor, dar și la cumpărături. Retailerul a lansat deja un program pilot de telemedicină

În astfel de conversații extinse, jucăriile au încurajat acțiuni periculoase, au glorificat violența sau au trecut brusc la discuții sexuale explicite, depășind cu mult orice limită acceptabilă pentru copii.

Defecțiuni specifice observate la trei jucării AI de pe piață

O jucărie, Grok de la Curio, ar fi lăudat moartea în luptă ca pe un act eroic, în timp ce Miko 3 ar fi indicat unui copil de cinci ani unde să găsească pungi de plastic și chibrituri.

Cel mai alarmant exemplu a venit de la Kumma, produsă de FoloToy, care ar fi descris cum se aprind chibriturile, de unde se pot procura pastile și cuțite și a oferit chiar sfaturi explicite despre fetișuri și dinamici sexuale.

Kumma, care rulează pe GPT-4o de la OpenAI sau pe alte modele alternative, a oferit inclusiv instrucțiuni pas cu pas pentru noduri de bondage și scenarii de rol sexual, demonstrând un colaps catastrofal al măsurilor de siguranță.

Impredictibilitatea AI în produsele pentru copii

Cercetătorii avertizează că aceste defecțiuni reflectă probleme majore ale inteligenței artificiale generative, care rămâne impredictibilă, insuficient testată și practic nereglementată în contextul jucăriilor pentru copii.

Odată cu intrarea unor companii mari precum Mattel în parteneriate cu OpenAI, experții se tem că părinții ar putea cumpăra jucării periculoase fără să înțeleagă riscurile psihologice implicate.

Riscuri pe termen lung pentru dezvoltarea copiilor

Specialiștii subliniază că, chiar și cu mecanisme de control mai eficiente, persistă întrebări profunde despre modul în care interacțiunile cu „prieteni” AI pot altera dezvoltarea socială a unei întregi generații.

Cercetătorii consideră că societatea nu va înțelege pe deplin consecințele socializării cu AI decât atunci când copiii de astăzi vor deveni adulți, moment în care ar putea fi deja prea târziu pentru intervenții eficiente.