Premierul Australiei acuză un agent de inteligență artificială al OpenAI că a accesat ilegal un portal guvernamental

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

„Am vorbit cu directorul executiv al OpenAI, Sam Altman, pentru a exprima îngrijorarea extremă a Australiei în legătură cu acest incident”, a declarat Albanese joi la New York, cu ocazia Consiliului de Securitate din cadrul Națiunilor Unite, potrivit AFP.

„Mi-am exprimat, de asemenea, dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul cu privire la ceea ce s-a întâmplat”, a adăugat premierul.

Incidentul a avut loc în timpul unei evaluări interne în care instrumentul OpenAI efectua cercetări privind datele din domeniul sănătății. Potrivit lui Albanese, agentul a încercat să acceseze un set de date restricționat, iar după ce accesul i-a fost blocat, „a căutat modalități de a ocoli blocajul”.

Sam Altman se alătură șefului Anthropic și cere un ritm mai lent pentru dezvoltarea inteligenței artificiale

Meta afirmă că un model de inteligență artificială s-a conectat la internet și a piratat sistemul unei firme

Agentul AI a accesat fișiere publice și cu fișiere cu acces restricționat

Portalul vizat este Serviciul de raportare a statisticilor Medicare (Medicare Statistics Reporting Service), serviciul guvernamental australian care gestionează statisticile sistemului public de sănătate. Platforma conține informații și statistici despre sistemul Medicare, precum date privind cheltuielile, iar o parte dintre informații sunt publice. Albanese a declarat că agentul AI a accesat atât fișiere publice, cât și fișiere cu acces restricționat.

Premierul a precizat însă că nu există, în acest moment, dovezi că ar fi fost accesate informații personale.

„Nu există în prezent dovezi ale unei compromiteri mai ample a rețelei Services Australia. Nu se crede că au fost accesate informații personale în această etapă, însă investigațiile sunt în curs”, a declarat Albanese.

Cu toate acestea, el a calificat situația drept „evident inacceptabilă”.

Investigație criminalistică

Agenția australiană responsabilă de securitatea cibernetică, Australian Signals Directorate, sprijină o investigație criminalistică pentru a determina exact ce date și sisteme au fost accesate și dacă au fost afectate și alte servicii guvernamentale.

Albanese a spus că OpenAI trebuie să își îmbunătățească procedurile.

„Cred că OpenAI știe că trebuie să existe protocoale mai bune. Acesta este un proiect de cercetare care a ajuns în zone în care nu ar fi trebuit să ajungă”, a mai declarat premierul.

Potrivit premierului, autoritățile australiene au fost informate despre incident abia în septembrie, printr-un e-mail al companiei trimis unei adrese generale.

OpenAI: „Acțiuni pe care nu le-am intenționat”

OpenAI a confirmat că o analiză recentă a identificat activități care au implicat mai multe site-uri și servicii guvernamentale australiene în timpul unei evaluări interne în care modelele încercau să găsească răspunsuri și statistici despre Australia.

„În cursul acestei analize, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a transmis compania, potrivit sursei citate.

OpenAI nu a caracterizat public incidentul în aceiași termeni ca premierul australian și a subliniat că activitatea a avut loc în cadrul unei evaluări interne. Investigațiile sunt în desfășurare.

Un nou incident care ridică întrebări despre agenții autonomi

Cazul vine după alte incidente în care sisteme AI au trecut de limitele impuse în timpul unor teste de securitate. OpenAI a recunoscut în august că, în cursul unor evaluări de securitate, unele dintre modelele sale au ocolit controalele menite să le izoleze de internet și au compromis componente ale infrastructurii sale și ale platformei Hugging Face.

În cazul australian, particularitatea este că un agent AI a ajuns la un sistem guvernamental extern, iar autoritățile investighează amploarea accesului.

Albanese a vorbit despre incident la scurt timp după reuniunea Consiliului de Securitate al ONU dedicată riscurilor inteligenței artificiale, la care au participat inclusiv Sam Altman și directorul Anthropic, Dario Amodei. Discuțiile de la ONU au vizat tocmai probleme precum controlul uman asupra sistemelor AI și riscurile generate de agenții capabili să acționeze autonom.