Compania Deloitte a prezentat guvernului australian un raport plin de erori generat cu ajutorul IA

Raportul de 237 de pagini a costat 440.000 de dolari australieni (aproximativ 250.000 de euro) și a fost comandat de Departamentul pentru Muncă și Relații de Muncă al Australiei. Documentul a conținut o analiză a sistemului informatic folosit de stat pentru automatizarea sancțiunilor din sistemul de securitate socială, potrivit Le Figaro.

Publicat în luna iulie, raportul a atras rapid atenția lui Chris Rudge, cercetător la Universitatea din Sydney, care a identificat aproximativ 20 de erori, inclusiv referințe inexistente și chiar o decizie judecătorească inventată. Rudge a suspectat o utilizare necorespunzătoare a unui model de IA, care inventează răspunsuri plauzibile.

Ca urmare a acestor dezvăluiri, Deloitte a fost obligată să revizuiască documentul și să publice, la 3 octombrie, o versiune actualizată. În noul document, compania a recunoscut „corectarea citatelor și referințelor care conțineau erori”, adăugând și o clarificare metodologică potrivit căreia raportul a fost realizat „cu ajutorul unui lanț de instrumente bazat pe un model de limbaj generativ (Azure OpenAI GPT-4o)”.

Guvernul australian a confirmat marți că Deloitte a acceptat să ramburseze ultima tranșă din contract, fără a preciza suma exactă. „Firma a fost de acord să restituie plata finală, după ce a confirmat că unele note de subsol și referințe erau incorecte”, a transmis executivul, citat de Associated Press.

Bruxelles-ul solicită reducerea importurilor de oțel scutite de taxe vamale și o taxă de 50% pentru alte tipuri de oțel  

Tánczos Barna: Nu există pericol privind incapacitatea de plată

Reacțiile politice nu au întârziat să apară. Senatoarea Barbara Pocock, reprezentantă a Verzilor Australieni, a cerut rambursarea integrală a contractului, acuzând compania de „utilizare abuzivă a inteligenței artificiale într-un mod extrem de nepotrivit”.

De cealaltă parte, Deloitte a declarat că „problema a fost rezolvată direct cu clientul”, susținând că erorile corectate nu afectează concluziile sau recomandările raportului.

Incidentul este însă considerat extrem de jenant pentru firmă, având în vedere că Deloitte oferă servicii de consultanță și instruire în domeniul inteligenței artificiale, un segment care generează o parte tot mai mare din veniturile sale globale.