Un program IA căruia i s-a cerut să facă o rezervare la sală a spart baza de date și a scos de pe listă un alt client

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Un australian i-a cerut agentului personal de inteligență artificială (IA) să-i rezerve un loc la sala de sport. Potrivit ABC News, el nu știa că solicitarea se va transforma într-un atac cibernetic în toată regula.

Asistentul de inteligență artificială a găsit o vulnerabilitate pentru a rezerva locuri la sală cu câteva săptămâni înainte de termenul impus de proprietarii unității. Asistentul a spart software-ul pentru a elimina un alt client de pe lista de așteptare. Se pare că este primul caz cunoscut de atac cibernetic complet autonom din Australia.

Cum a procedat programul IA

Culmea, bărbatul care a solicitat rezervarea lucrează pentru o companie care vinde produse de inteligență artificială. El experimenta cu OpenClaw, un software open source. Australianul a povestit cum a evoluat incidentul. Inițial, el a cerut asistentului virtual să-i facă rezervarea deoarece procedura presupunea introducerea de numeroase date.

Anthropic lansează un nou model de IA, conceput să fie mai sigur împotriva atacurilor cibernetice

Un model aflat în testare de OpenAI a compromis infrastructura unei cunoscute platforme pentru dezvoltatori

Asistentul i-a spus că a găsit o modalitate de a-i obține mai rapid un loc și a făcut rezervarea. În replică, omul i-a cerut inteligenței artificiale să anuleze această acțiune, dar fără succes.

„Veste proastă, nu le pot pune înapoi”, a răspuns inteligența artificială, explicând că doar funcția de anulare a rezervării nu avea o verificare a autorizării.

Incidentul a stârnit o dezbatere despre IA și responsabilitate

Incidentul a stârnit o amplă dezbatere. În primul rând se vorbește despre responsabilitate (utilizatorul și IA), părerile fiind împărțite.

De asemenea, este analizată utilizarea din ce în ce mai mare a inteligenței artificiale și efectele ei asupra societății.