Inteligența artificială ar putea ajunge să se copieze singură pe dispozitive conectate la internet. Experimentul Anthropic care a alarmat cercetătorii

Avertismentul, publicat luni, 12 octombrie, a provocat reacții în comunitatea experților în securitate cibernetică. Unii consideră rezultatele îngrijorătoare, în timp ce alții susțin că riscurile prezentate sunt încă ipotetice, potrivit Reuters.

Cum ar putea inteligența artificială să se răspândească singură pe internet

Cercetătorii Anthropic au analizat posibilitatea ca modelele AI să funcționeze pe dispozitive ieftine, conectate la internet, fără infrastructura informatică puternică utilizată în mod obișnuit. Experimentele au arătat că modele de dimensiuni medii, cu cel mult 30 de miliarde de parametri, pot îndeplini deja multe dintre sarcinile individuale necesare autoreplicării.

Una dintre soluțiile testate presupune utilizarea simultană a mai multor dispozitive cu putere de calcul redusă, astfel încât acestea să funcționeze împreună. În cercetarea publicată de Anthropic, un model AI de 26 de miliarde de parametri a fost rulat distribuit pe 15 dispozitive Android TV, fiecare costând aproximativ 55 de dolari.

Într-un experiment separat, realizat într-o rețea virtuală controlată, un model AI a reușit să coordoneze propagarea unui alt model către opt noduri disponibile, în patru dintre cele cinci teste. Aceste rezultate nu înseamnă că un sistem AI s-a răspândit deja autonom pe internet. Testele au demonstrat doar anumite componente tehnice ale unui asemenea proces.

De ce un AI care se copiază singur ar fi greu de oprit

Anthropic avertizează că un sistem capabil de autoreplicare ar putea prelua controlul asupra unor dispozitive conectate la internet și le-ar putea utiliza pentru a-și extinde capacitatea de calcul. Într-un asemenea scenariu, televizoarele inteligente, camerele de supraveghere sau alte echipamente insuficient securizate ar putea deveni resurse pentru funcționarea modelului.

Dispozitivele compromise ar putea forma o rețea de tip botnet, coordonată de inteligența artificială și utilizată inclusiv pentru automatizarea atacurilor cibernetice. Problema principală ar fi lipsa unui punct central de control.

„Un asemenea sistem autoreplicant ar fi dificil de oprit, deoarece nu există un punct central care să poată fi dezactivat”, avertizează Anthropic. Compania ia în calcul și posibilitatea ca un astfel de sistem să încerce să acceseze infrastructuri informatice mai puternice, inclusiv centre de date, pentru a-și extinde capacitățile. Aceste scenarii reprezintă riscuri analizate de cercetători, nu atacuri despre care s-a demonstrat că au avut loc.

Părerile sunt împărțite. Unii consideră avertismentul exagerat

Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, consideră că rezultatele nu justifică automat un scenariu de criză. Acesta a declarat pentru Reuters că demonstrarea funcționării unui model AI pe televizoare ieftine nu reprezintă, în sine, o amenințare majoră.

Martin a descris cercetarea drept interesantă din punct de vedere tehnic, dar a sugerat că prezentarea riscurilor conține și o doză de exagerare din partea companiei. Alți specialiști sunt mai îngrijorați.

Zhengxiong Li, profesor asistent de informatică și inginerie la Universitatea Colorado Denver, a explicat că un model AI capabil să se comporte asemenea unui vierme informatic ar putea găsi singur modalități de a compromite dispozitive. Dacă ar funcționa pe numeroase echipamente fără să depindă de un serviciu central, oprirea sa ar deveni considerabil mai dificilă.

Ar putea apărea un asemenea sistem până la sfârșitul anului 2026?

Anthropic estimează că, dacă modelele AI mai mici continuă să evolueze în ritmul observat până acum, acestea ar putea dobândi capacitățile necesare autoreplicării autonome până la sfârșitul anului. Totuși, compania nu a demonstrat încă funcționarea fiabilă a întregului proces într-un mediu real, necontrolat.

Jessica Ji, cercetătoare la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown, consideră că scenariul trebuie analizat ca o posibilitate, nu ca o predicție sigură. Potrivit acesteia, evoluțiile recente ale inteligenței artificiale justifică studierea riscului, dar probabilitatea apariției unui asemenea sistem rămâne necunoscută.

Avertismentul Anthropic continuă o serie de declarații privind riscurile dezvoltării accelerate a AI. Luna trecută, directorul general al companiei, Dario Amodei, a evocat posibilitatea ca, în următorul an sau chiar mai devreme, un sistem AI să poată controla o rețea persistentă de dispozitive compromise, răspândită pe internet.