Anthropic amână lansarea unui nou model AI considerat prea periculos pentru public

Anthropic a prezentat noul model, denumit oficial „Claude Mythos Preview”. Compania susține că tehnologia este capabilă să identifice vulnerabilități critice în sisteme de operare și browsere. Potrivit dezvoltatorilor, aceste capacități ar putea fi exploatate de criminali informatici. Din acest motiv, modelul nu va fi lansat public pentru moment. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, a transmis compania într-un document tehnic, citat de Euronews.

Vulnerabilități descoperite de sistem

Anthropic a testat modelul în mai multe scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o metodă de a depăși restricțiile unui mediu virtual securizat. Modelul a reușit să transmită un mesaj din interiorul acelui mediu. În plus, a publicat detalii despre vulnerabilitate pe mai multe site-uri publice. Compania a descoperit că sistemul poate identifica erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume. Modelul a reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.

Anthropic raportează pentru prima dată venituri mai mari decât rivalul său OpenAI

Guvernul britanic încearcă să atragă startup-ul AI Anthropic pentru extinderea operațiunilor în Londra

Acces limitat pentru companii mari

Anthropic a decis ca modelul să fie folosit doar într-un program restrâns de securitate cibernetică. Proiectul, numit „Project Glasswing”, va implica mai multe companii mari din tehnologie. Printre ele se numără Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania spune că va publica ulterior concluziile programului. Anthropic a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale. De aceea, colaborarea cu autoritățile ar putea deveni necesară.

Modele similare ar putea apărea în curând

Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit experților companiei, modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității spun că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.