Cercetătorii au experimentat în secret pe utilizatorii Reddit cu comentarii generate de AI

Experimentul, care a fost dezvăluit în weekend de moderatorii din comunitatea r/changemyview, este descris de Reddit drept „manipulare psihologică” a utilizatorilor neștiutori.

„Echipa moderatorilor trebuie să informeze comunitatea (r/changemyview, n.r.) cu privire la un experiment neautorizat efectuat de cercetătorii de la Universitatea din Zurich pe utilizatori”, au scris moderatorii într-o postare lungă despre cercetare. „Acest experiment a introdus comentarii generate de AI pentru a studia modul în care AI ar putea fi folosit pentru a schimba opiniile oamenilor”, au adăugat aceștia.

Cercetătorii au folosit modele lingvistice de mari dimensiuni (LLM-uri) pentru a crea comentarii ca răspuns la postările membrilor comunității. Comunitatea are 3,8 milioane de membri și ajunge adesea pe prima pagină a Reddit.

Amazon a lansat prima flotă de sateliți de internet

Starlink își extinde serviciile pe piața de internet din Africa

Potrivit moderatorilor subredditului, AI-ul și-a asumat numeroase identități diferite în comentarii pe parcursul experimentului, inclusiv cea a unui supraviețuitor al agresiunii sexuale, a unui consilier în traume „specializat în abuzuri” și a unui „bărbat de culoare care se opune mișcării Black Lives Matter”.

Multe comentarii, șterse între timp

Multe dintre comentariile originale au fost șterse între timp, dar unele pot fi încă vizualizate într-o arhivă.

Într-un document preliminar, cercetătorii anonimi descriu modul în care au folosit inteligența artificială pentru a genera răspunsuri și au încercat să personalizeze răspunsurile pe baza informațiilor obținute din istoricul Reddit al utilizatorilor.

„În plus față de conținutul postării, LLM-urile au primit atribute personale ale autorului postării (sex, vârstă, etnie, locație și orientare politică), care au fost deduse din istoricul lor folosind un alt LLM”, au scris ei.

Ofițerul juridic șef al Reddit, Ben Lee, a declarat că acțiunile cercetătorilor au fost „profund greșite atât la nivel moral, cât și legal” și reprezintă o încălcare a regulilor platformei.

„Suntem în curs de contactare a Universității din Zurich și a acestei echipe de cercetare cu cereri legale oficiale. Dorim să facem tot ce ne stă în putință pentru a sprijini comunitatea și pentru a ne asigura că cercetătorii sunt trași la răspundere pentru faptele lor greșite”, a transmis el.