Rapoarte despre inteligența artificială, pline de erori generate chiar de AI. O companie din „Big Four” recunoaște greșelile

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Compania vizată este PricewaterhouseCoopers (PwC), una dintre cele patru mari firme globale de audit și consultanță (Big Four). Erorile au fost identificate de GPTZero, specializată în detectarea conținutului generat de inteligența artificială, care a analizat patru rapoarte publicate în ultimii doi ani de divizia regională a PwC pentru Orientul Mijlociu.

Documentele au fost concepute pentru a promova expertiza PwC în domeniul inteligenței artificiale și pentru a atrage noi clienți de consultanță. Ele includeau recomandări privind utilizarea agenților AI autonomi în companii, ghiduri pentru modernizarea serviciilor publice și prognoze privind piața vehiculelor electrice și autonome.

Inteligența artificială schimbă regulile jocului: un model de afaceri de zeci de ani începe să dispară. Cine mai are nevoie de consultanți?

Meta, acuzată că a folosit inteligența artificială pentru concedieri. Angajații susțin că AI i-a discriminat în timpul concediilor medicale și de maternitate

Surse inexistente și citări greșite

Analiza a scos la iveală numeroase probleme în notele de subsol ale rapoartelor. Unele trimiteau către pagini web care nu conțineau informațiile invocate, iar altele către linkuri inexistente.

Într-unul din cazuri, un studiu academic despre calitatea aerului din Riad pare să fi fost inventat complet de AI. Cercetătorii nu au găsit nicio urmă a lucrării în revista științifică indicată și nici în publicațiile autorilor cărora le era atribuită.

Investigația a descoperit și citări din surse neobișnuite. De exemplu, un articol publicat de un adolescent pe platforma Medium, urmărit de doar câteva sute de persoane, este prezentat drept sursă pentru un exemplu privind utilizarea inteligenței artificiale de către JPMorgan.

Într-un alt raport, un sondaj realizat chiar de PwC este susținut printr-o notă de subsol care trimite către un articol de presă în care cercetarea nu este menționată deloc.

Un alt indiciu al utilizării instrumentelor AI apare chiar într-unul dintre linkurile citate, care conținea un parametru asociat platformei ChatGPT.

Compania răspunde acuzațiilor

PwC Middle East a declarat pentru sursa citată că tratează cu seriozitate acuratețea cercetărilor publicate și că actualizează un număr limitat de citări din rapoartele identificate.

Compania susține că dispune de proceduri interne de control al calității și de politici privind utilizarea responsabilă a inteligenței artificiale, însă nu a explicat cum au ajuns erorile în documentele publicate.

Nu este primul caz

În ultimii ani, marile firme de consultanță din grupul Big Four”au publicat sute de rapoarte despre inteligența artificială pentru a atrage noi clienți și, în același timp, și-au încurajat angajații să folosească instrumente AI în activitatea curentă.

GPTZero a descoperit anterior erori similare și în rapoarte publicate de Ernst & Young și KPMG, alte două companii din grupul „ig Four” care și-au retras ulterior documentele.

Specialiștii în detectarea conținutului generat de AI spun că unul dintre indiciile specifice acestui tip de conținut este citarea repetată a aceleiași informații folosind surse diferite. Într-un raport PwC, aceeași afirmație – că eroarea umană este responsabilă pentru 90% dintre accidentele rutiere – apare de trei ori în doar două pagini, de fiecare dată însoțită de alte surse.

„Afirmația nu este falsă, dar niciun autor uman nu ar cita aceeași informație de trei ori în două pagini, folosind trei surse diferite”, au explicat aceștia.