Război între AI-uri: Chat GPT, spart cu ajutorul Claude, inteligența artificială a rivalului Anthropic

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Cei trei cercetători ai startup-ului Hacktron AI au reușit să pătrundă în sistem după ce au exploatat o vulnerabilitate legată de Discourse, platforma de comunicare folosită de OpenAI.

Prin intermediul acesteia, angajații se puteau conecta la conturile lor ChatGPT sau Codex, instrumentul OpenAI destinat programării. Cercetătorii au reușit astfel să obțină acces la mai multe conturi.

Accesul putea deschide ușa către GitHub, Slack și e-mail

Miza vulnerabilității era mult mai mare decât simpla accesare a unui cont ChatGPT.

Utilizatorii pot acorda ChatGPT și Codex acces la diferite aplicații, servicii și fișiere externe. Din acest motiv, cercetătorii susțin că aria de date la care ar fi putut ajunge, cel puțin teoretic, era uriașă.

AI-ul ajunge pe masa Consiliului de Securitate al ONU. Șeful Chat GPT va informa Consiliul

Cercetători în securitate au demonstrat, folosind Claude, cum pot ajunge la codul intern al OpenAI

Printre serviciile menționate se numără GitHub, folosit pentru stocarea și gestionarea codului software, Slack, platforma de comunicare utilizată de numeroase companii, dar și conturile de e-mail.

Echipa nu a continuat însă exploatarea vulnerabilităților dincolo de ceea ce era necesar pentru a demonstra problema de securitate.

Claude Opus 4.8 nu a reușit. Noul model a găsit soluția în trei ore

Unul dintre cele mai spectaculoase elemente ale experimentului este rolul jucat de modelele AI dezvoltate de Anthropic, unul dintre principalii rivali ai OpenAI.

Cercetătorii au început testele folosind Claude Opus 4.8, model lansat de Anthropic în luna mai. Inteligența artificială a întâmpinat însă dificultăți în identificarea unei căi eficiente de intrare prin Discourse.

Coincidența a făcut ca, în aceeași zi, Anthropic să lanseze noua generație Claude Opus 5.

Cercetătorii au trecut la noul model, iar rezultatul a fost radical diferit: potrivit echipei Hacktron AI, Opus 5 a reușit să identifice și să transforme vulnerabilitatea într-o metodă funcțională de atac în aproximativ trei ore.

Cazul arată cât de rapid cresc capacitățile sistemelor de inteligență artificială inclusiv în domeniul securității cibernetice. Instrumente care pot fi utilizate pentru identificarea și repararea vulnerabilităților pot fi, în același timp, folosite pentru găsirea unor metode de exploatare a acestora.

OpenAI a fost alertată și a remediat vulnerabilitățile

Hacktron AI a informat rapid OpenAI despre problemele descoperite.

Compania a confirmat pentru AFP incidentul și a precizat că vulnerabilitățile au fost remediate.

„Le mulțumim cercetătorilor pentru că ne-au contactat și ne-au împărtășit observațiile lor”, a transmis un purtător de cuvânt al OpenAI.