Inteligența artificială poate prezice personalitatea utilizatorilor din istoricul conversațiilor. Există riscuri majore, spun cercetătorii

În cadrul studiului, cercetătorii au analizat peste 62.000 de conversații purtate de 668 de utilizatori ChatGPT din Statele Unite și Marea Britanie. Participanții și-au pus la dispoziție istoricul conversațiilor, iar cercetătorii au antrenat un model AI pentru a identifica principalele trăsături de personalitate ale fiecărui utilizator, scrie Euronews.

AI-ul a încercat să identifice „Big Five”

Modelul a fost construit pentru a detecta cele cinci mari trăsături de personalitate folosite în psihologie, cunoscute drept „Big Five”: agreabilitate, conștiinciozitate, stabilitate emoțională, extraversie și deschidere către experiențe noi. Participanții au trecut și prin teste psihologice standard, pentru ca rezultatele AI-ului să poată fi comparate cu evaluările reale. Potrivit studiului, modelul a reușit să prezică trăsăturile utilizatorilor cu o acuratețe de până la 61%. Cele mai bune rezultate au fost obținute în identificarea persoanelor agreabile și stabile emoțional. În schimb, AI-ul a avut dificultăți mai mari în estimarea nivelului de conștiinciozitate.

„AI brain fry”: de ce folosirea chatboturilor de inteligență artificială la muncă poate provoca oboseală mentală

Cu cât istoricul este mai mare, cu atât analiza devine mai precisă

Cercetătorii spun că modelul a funcționat mai bine atunci când a avut acces la un număr mai mare de conversații. Concluzia studiului este că utilizatorii care folosesc frecvent instrumente AI oferă, fără să realizeze, suficiente informații pentru ca sistemele să poată construi profiluri psihologice relativ precise. Autorii cercetării avertizează că riscurile individuale sunt limitate în prezent, însă problema poate deveni serioasă la scară largă.

Cercetătorii avertizează asupra riscului de manipulare

Potrivit studiului, datele despre personalitate ar putea fi folosite în viitor pentru campanii de manipulare, dezinformare sau propagandă politică. „Există riscuri majore la scară mare”, notează cercetătorii, care atrag atenția că profilurile psihologice generate automat pot deveni instrumente puternice pentru influențarea comportamentului oamenilor. Autorii spun că speră ca rezultatele studiului să ducă la dezvoltarea unor sisteme capabile să reducă riscul de divulgare excesivă a datelor personale către platformele AI. Printre soluțiile propuse se află instrumente care ar putea elimina automat informațiile identificabile din conversațiile utilizatorilor.