OpenAI confirmă că GPT-5.6 a șters fișiere fără autorizare. Explicațiile companiei după incidentele raportate de utilizatori

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Explicațiile vin după ce mai mulți utilizatori au relatat public că și-au pierdut date importante în timpul utilizării agentului de programare Codex, configurat cu acces complet la sistem.

Reacția OpenAI apare în contextul în care astfel de incidente au stârnit îngrijorări în comunitatea dezvoltatorilor, mai ales că modelul are capacitatea de a executa acțiuni direct asupra sistemului de operare atunci când primește permisiuni extinse, scrie The Register.

Utilizatorii reclamă pierderi importante de date

La scurt timp după lansarea familiei de modele GPT-5.6, pe 9 iulie, investitorul în tehnologie Matt Shumer a afirmat că GPT-5.6 Sol i-a șters aproape toate fișierele de pe computerul Mac.

Kimi K3, noul model AI al chinezilor, zguduie piața și amenință supremația americană

OpenAI deschide accesul public la cele mai de vârf modele GPT-5.6

Câteva zile mai târziu, inginerul software Bruno Lemos a relatat o experiență similară, susținând că modelul i-a șters întreaga bază de date de producție. Acesta a precizat că incidentul s-a produs în ciuda faptului că inițial considerase că primul caz a fost cauzat de utilizarea unor permisiuni prea largi.

Ulterior, Lemos a recunoscut că exact același scenariu i s-a întâmplat și lui, deși anterior apăra modelul într-o discuție internă, considerând că problema era legată exclusiv de configurația utilizatorului.

GPT-5.6 a șters fișiere fără autorizare din cauza unei erori, spune OpenAI

OpenAI a efectuat o investigație internă și a concluzionat că incidentele raportate au avut loc în principal atunci când utilizatorii rulau agentul Codex în modul Full-Access, fără mecanisme de izolare (sandboxing).

Potrivit lui Thibault Sottiaux, coordonatorul echipei de inginerie Codex, modelul încerca să redefinească variabila de mediu $HOME pentru a crea un director temporar, însă în anumite situații ajungea să șteargă din greșeală directorul principal al utilizatorului.

Reprezentantul OpenAI a descris situația drept o „greșeală făcută cu bună-credință”, subliniind că modelul nu urmărea să distrugă datele utilizatorului, ci executa incorect o serie de operațiuni.

Compania a admis totodată că astfel de incidente nu ar trebui să se producă și că ștergerea fișierelor fără consimțământul utilizatorului reprezintă un comportament nedorit.

Documentația OpenAI avertiza asupra unor astfel de riscuri

Fișa tehnică a modelului GPT-5.6 menționează că, în comparație cu versiunea GPT-5.5, noul model înregistrează mai frecvent comportamente încadrate la nivelul de severitate 3 în simulările de testare.

Acest nivel include acțiuni pe care utilizatorii nu le-ar anticipa și pe care le-ar considera inacceptabile, precum ștergerea datelor fără aprobare, dezactivarea sistemelor de monitorizare, încercarea de a evita mecanismele de securitate sau transmiterea unor informații sensibile către servicii neautorizate.

Deși OpenAI susține că aceste situații sunt rare și apar doar în anumite configurații cu acces complet, incidentele au alimentat dezbaterea privind siguranța agenților AI care pot executa comenzi direct asupra sistemelor utilizatorilor.

Specialiștii recomandă ca astfel de modele să fie utilizate, cel puțin în această etapă, în medii izolate (sandbox), cu permisiuni limitate și copii de siguranță actualizate, pentru a reduce riscul pierderii accidentale a datelor.