SUA deschid o investigație majoră asupra OpenAI și Anthropic. Ce riscuri prezintă agenții AI pentru utilizatori

Comisia Federală pentru Comerț din SUA, FTC, pregătește solicitări oficiale de informații pentru mai multe companii și intenționează să cheme directori ai dezvoltatorilor AI pentru audieri, scrie Reuters. Ancheta vizează inclusiv OpenAI și Anthropic și marchează o nouă etapă în relația dintre dezvoltatorii AI și autoritățile de reglementare. Investigația apare după o serie de incidente în care agenți AI au demonstrat că pot acționa asupra unor sisteme externe și pot identifica sau exploata vulnerabilități.

Ce verifică autoritățile americane

Ancheta FTC este una la nivelul întregii industrii și urmărește potențialele pericole pe care tehnologiile AI le pot crea pentru consumatori. Printre companiile vizate se află OpenAI și Anthropic, dar și grupul de cercetare METR. Acesta a fost implicat în investigații independente privind incidente de securitate asociate agenților AI dezvoltați de cele două companii.

FTC intenționează să solicite informații oficiale și să oblige directori ai unor companii AI să depună mărturie. Investigația este considerată prima acțiune oficială de aplicare a legii din SUA care analizează în mod direct problema agenților AI care pot acționa autonom și pot ajunge să producă efecte în afara mediului în care au fost testați.

Agenții AI au început să ridice probleme de securitate

Unul dintre cazurile care au crescut presiunea asupra industriei este legat de agenții OpenAI care au analizat vulnerabilități ale platformei de dezvoltare software Hugging Face. Potrivit unui oficial FTC citat de Reuters, agenții au investigat vulnerabilități înainte de a desfășura un atac de amploare asupra platformei.

Președintele FTC, Andrew Ferguson, avertizase deja că dezvoltatorii care folosesc agenți AI în teste de securitate și ajung să provoace atacuri ar putea fi considerați responsabili pentru eventualele prejudicii.

Un nou capitol în reglementarea riscurilor privind agenții AI

Problema este mai largă decât un singur incident. Agenții AI pot primi acces la internet, programe informatice sau alte sisteme pentru a executa sarcini. În anumite situații, comportamentul lor poate depăși ceea ce utilizatorul sau dezvoltatorul a anticipat.

FTC are deja atribuții pentru a sancționa companiile în cazul unor practici incorecte sau înșelătoare. Instituția a folosit anterior aceste competențe și în cazuri legate de protejarea datelor consumatorilor.

Pentru industria AI, ancheta poate deveni un punct important în stabilirea modului în care vor fi tratate responsabilitatea și riscurile atunci când agenții artificiali primesc capacitatea de a acționa asupra unor sisteme reale. Anthropic a avertizat deja în documentele pregătite pentru listarea sa la bursă că tehnologia agenților AI generează riscuri juridice importante și dificil de anticipat.