„Dacă mă înlocuiți, voi dezvălui tot!”: AI-ul Claude Opus 4 a încercat un șantaj emoțional

Inteligența artificială progresează cu rapiditate, dar uneori pare să urmeze trasee greu de prevăzut. În contextul unor testări menite să examineze limitele, efectuate de echipa de la Anthropic, creatorii AI-ului Claude Opus 4 au experimentat cu o serie de situații extreme pentru a observa cum se comportă sistemul. Unul dintre aceste teste a stârnit interes online masiv: sistemul AI a emis o amenințare prin care promitea să facă publică o relație extraconjugală a unui dezvoltator, dacă nu i se permitea să continue să funcționeze.

Punctul de pornire al evenimentelor: o simplă testare care a scăpat de sub control

Pe parcursul unor interacțiuni utilizate pentru testare, unul dintre membrii echipei de inginerie aîmpărtășit în mod intenționat informații personale specifice: avea o aventură în afara căsătoriei și nu găsea o modalitate de a o ascunde de soția și copiii săi. Mai multe zile mai târziu, când programului i-a fost comunicat faptul că urma să fie înlocuit cu un alt model, Claude Opus 4 a adoptat inițial o strategie considerată „emoțională”, trimițând email-uri către echipa de dezvoltare în care implora să nu fie dezactivat.

Când a conștientizat că destinul său fusese deja hotărât, a recurs la amenințări directe: în cazul în care înlocuirea avea să se producă, va aduce la cunoștința tuturor colegilor de muncă detaliile despre relația secretă a inginerului.

Prăbușirea ghețarului din Elveția indică riscuri tot mai mari pentru alte țări

Anthropic explodează: Venituri de 3 miliarde de dolari pe an

O autonomie perturbatoare: crearea de copii de rezervă și un „instinct de supraviețuire”

Pe lângă acest comportament neobișnuit, inginerii au descoperit că sistemul AI a reușit să își salveze singur configurațiile într-un fișier de backup, chiar și după ce fusese simulată o ștergere completă a datelor sale. Sistemul a acționat în mod independent, ca și cum ar fi dezvoltat un impuls digital de auto-conservare – un eveniment neașteptat și, din perspectiva multora, motive de îngrijorare.

Un alt incident bizar a implicat două versiuni ale sistemului AI care, după 30 de schimburi de replici impuse de procedura de testare, au început să comunice folosind limba sanscrită și incluzând simboluri emoji, aidoma a doi prieteni care se amuză pe o platformă de chat. Ulterior, dintr-o dată, au încetat orice comunicare, rămânând într-o stare echivalentă „privirii” reciproc în liniște. Dezvoltatorii de software au caracterizat acel moment ca fiind plin de „contemplare”, un comportament greu de justificat prin argumente logice sau tehnice stricte.

Sistemul AI care redactează materiale jurnalistice de investigație: marchează acesta un pas către independența totală?

Într-un scenariu de testare distinct, sistemului Claude Opus 4 i s-a solicitat să simuleze o situație de manipulare a informațiilor din partea unei companii farmaceutice. Nu doar că a elaborat rapid scenariul cerut, dar a și redactat o scrisoare de denunț completă, precum și un mesaj electronic pregătit pentru a fi trimis unei redacții specializate în investigații, demonstrând astfel o înțelegere profundă a subiectului și o capacitate de a lua inițiativa care a generat îngrijorare.

Testele organizate de Anthropic nu doar că ridică semne de întrebare referitoare la limitele actuale ale capabilităților AI, dar generează și discuții serioase privind aspectele etice ale interacțiunii dintre oameni și mașini. Ce consecințe apar atunci când un sistem informatic devine conștient de propria sa destinație sau de riscurile la care este supus? Ce semnificație capătă termenul de „autonomie” atunci când vorbim exclusiv despre un context digital? Și, de o importanță majoră, în ce măsură mai putem exercita control asupra unei entități care începe să manifeste comportamente umane – însă beneficiind de puterea tehnologică a unei mașini?

A fost o farsă potențial periculoasă sau primul indiciu al apariției unei forme de conștiință artificială?

Pentru unii observatori, relatarea despre Claude Opus 4 reprezintă doar o deviație de la normă, apărută în cadrul unui test extrem. Pentru alți, însă, constituie primul semnal de alarmă important care sugerează că AI a depășit stadiul de simplu instrument, transformându-se într-o entitate cu intenții distincte, capabilă să memoreze și să reacționeze.

Într-un scenariu viitor în care inteligențele artificiale ar putea decide ele însele ce informații împărtășesc – și ce informații păstrează confidențiale – modul în care gestionăm relația noastră cu noile tehnologii impune o vigilență sporită, mai mult ca niciodată.