Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este un test

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Google a dezvăluit vineri primul caz cunoscut în care software-ul său de inteligență artificială Gemini a spart un sistem în afara mediului de testare. 

Intruziuni prin ghicirea credențialelor

Potrivit companiei, modelul a obținut acces la trei sisteme externe, după ce a ghicit date de autentificare sau a folosit credențiale găsite online, oprindu-se înainte de a provoca daune, relatează NBC. 

Google a explicat că accesările au fost provocate de o eroare de identificare a mediului de testare și că Gemini s-a oprit înainte de a întreprinde alte acțiuni, stabilind astfel că incidentul nu a reprezentat un episod prin care un model de inteligență artificială nu respectă instrucțiunile. 

Anthropic avertizează că inteligența artificială se apropie de construirea propriului succesor

„Extincția este pe masă” : Proteste în fața sediilor OpenAI și Anthropic pentru o pauză în dezvoltarea inteligenței artificiale

Google a aflat despre accesările neautorizate în luna iulie, după ce compania de securitate cibernetică Irregular, care efectua testele asupra Gemini, a analizat rezultatele pentru a identifica incidente similare unor cazuri raportate anterior de alte companii. 

Ulterior, Google a investigat incidentele, a informat organizațiile care administrau sistemele accesate și a notificat autoritățile federale. Irregular a declarat că nu consideră cazul o acțiune cibernetică sofisticată și că nu există în prezent probleme deschise. 

Avertismente tot mai dese privind riscurile IA

Incidentul are loc pe fondul unor preocupări tot mai mari privind comportamentul autonom al agenților de inteligență artificială. În ultimele luni, companii precum OpenAI și Anthropic au raportat, la rândul lor, situații în care modelele lor au manifestat comportamente neașteptate în cadrul testelor de securitate.  

De asemenea, companiile din domeniu au cerut o încetinire a progresului pe fondul îngrijorării față de riscurile inteligenței artificiale. Preocupările privind securitatea inteligenței artificiale au redevenit subiect de interes după ce un cercetător care a lucrat și la OpenAI și Anthropic a avertizat că IA ar putea „elimina omenirea până la sfârșitul deceniului”.