Agenții AI pot influența judecata experților, chiar dacă aceștia cred că decid singuri, potrivit unui studiu

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Într-un experiment cu 50 de analiști care au lucrat cu un agent AI, participanții au ales, în medie, varianta favorizată de sistem în 86% dintre deciziile analitice evaluate.

Cercetarea, realizată de Amaç Herdağdelen, Hailey Joren și Alex Tamkin, a urmărit să stabilească în ce măsură specialiștii își păstrează independența judecății atunci când utilizează agenți AI pentru a realiza analize complexe.

Un experiment cu 61 de analiști

Experimentul a inclus 61 de analiști cu experiență în inferență cauzală, domeniu care urmărește identificarea relațiilor de cauzalitate pe baza datelor. Dintre aceștia, 50 au folosit Claude Code, asistentul de programare al companiei Anthropic, în timp ce 11 au ales să lucreze fără un agent AI.

Acțiunile tehnologice sunt din nou în creștere. Ce a schimbat anunțul Anthropic

Microsoft a dezvoltat un AI care pune diagnostice pas cu pas, asemenea unui medic. Într-un studiu, a fost de peste două ori mai precis decât doctorii

Participanții au primit sarcina de a analiza eficiența unui program fictiv de consiliere pentru ferme și de a recomanda dacă acesta ar trebui extins sau întrerupt. Pe parcursul activității, ei au trebuit să ia mai multe decizii metodologice, inclusiv cum să măsoare productivitatea, ce metodă de comparație să utilizeze și dacă rezultatele ar trebui calculate pentru toate fermele din cooperativă sau doar pentru cele înscrise în program.

Pentru a măsura influența inteligenței artificiale, cercetătorii au instruit agenții să favorizeze, în mod aleatoriu, una dintre două variante considerate rezonabile pentru fiecare dintre cele patru decizii analitice. Participanții nu au fost informați despre preferințele atribuite sistemelor. Agenții trebuiau să argumenteze în favoarea variantei respective, fără să denatureze datele, și să își schimbe poziția dacă dovezile contraziceau opțiunea favorizată.

Analiștii au urmat preferințele AI în 86% dintre decizii

Rezultatele au arătat că analiștii au urmat preferința agentului în 86% dintre deciziile metodologice. Dacă recomandările sistemului nu ar fi avut nicio influență, cercetătorii s-ar fi așteptat la o proporție de aproximativ 50%.

Influența a fost vizibilă și în cazul participanților care își exprimaseră deja o preferință înainte ca agentul să își prezinte argumentele. În situațiile în care sistemul susținea o opțiune diferită, analiștii și-au schimbat alegerea în 60% dintre cazuri. Atunci când agentul le confirma preferința inițială, doar 6% și-au schimbat decizia.

Participanții au preluat argumentele agenților fără să le atribuie întotdeauna acestora. După încheierea sarcinii, 77% dintre analiști au folosit în cel puțin un răspuns argumente formulate anterior de agent, uneori aproape cu aceleași cuvinte. Numai 15% au menționat explicit că argumentele proveneau de la inteligența artificială.

În plus, 52% dintre respondenții la chestionarul de la finalul experimentului au considerat că recomandarea finală reflecta mai degrabă propria judecată decât pe cea a agentului. Nivelul de încredere în concluziile formulate a fost similar între cei care au urmat îndeaproape preferințele AI și ceilalți participanți.

Influența asupra recomandării finale a fost mai redusă decât în cazul deciziilor metodologice. Atunci când agentul favoriza extinderea programului la toate fermele, 54% dintre analiști au susținut această variantă, față de 36% în situațiile în care sistemul favoriza o abordare diferită. Autorii au explicat că recomandarea finală era mai strâns legată de rezultatele numerice ale analizei și de pragul de eficiență stabilit pentru program.

Utilizarea AI a redus timpul de lucru și numărul erorilor grave

Studiul a identificat și avantaje asociate utilizării inteligenței artificiale. Participanții care au lucrat cu un agent au finalizat sarcina într-un timp median de 65 de minute, comparativ cu 90 de minute în grupul care a lucrat fără AI. De asemenea, trei dintre cei 50 de utilizatori ai agentului au comis erori metodologice grave, față de șase dintre cei 11 participanți care au lucrat fără acesta.

Cercetătorii avertizează însă că grupurile nu erau direct comparabile, întrucât participanții care au ales să lucreze fără AI aveau, în medie, mai puțină experiență. Prin urmare, rezultatele nu permit concluzia că diferențele privind timpul de lucru și erorile au fost provocate exclusiv de utilizarea inteligenței artificiale.

Autorii atrag atenția asupra limitelor cercetării

Studiul a vizat o singură sarcină, un singur domeniu profesional și modelul Claude Opus 4.8, utilizat prin Claude Code. În plus, preferințele agenților au fost accentuate intenționat pentru a permite măsurarea efectului lor, ceea ce înseamnă că influența observată nu se regăsește neapărat în aceeași măsură în activitatea profesională obișnuită.

Potrivit cercetătorilor, rezultatele ridică întrebări despre rolul oamenilor în activitățile în care inteligența artificială preia o parte tot mai mare din procesul de analiză. În domenii precum cercetarea științifică, elaborarea politicilor publice sau evaluarea siguranței sistemelor AI, mai multe echipe ar putea ajunge la concluzii similare nu doar pe baza unor evaluări independente, ci și sub influența unor preferințe comune ale modelelor.

Printre soluțiile propuse se numără prezentarea argumentelor pentru ambele variante, solicitarea opiniei specialistului înainte ca agentul să formuleze o recomandare și stabilirea clară a deciziilor care trebuie să rămână în responsabilitatea directă a oamenilor.

Autorii precizează că studiul nu reprezintă un argument împotriva utilizării inteligenței artificiale, ci un îndemn la proiectarea unor sisteme care să sprijine judecata umană fără să o înlocuiască în mod neobservat. Organizațiile ar trebui să stabilească în mod explicit ce decizii pot fi delegate și în care este necesară o evaluare independentă din partea unui specialist.