AI nu este cea mai mare amenințare pentru securitatea cibernetică. Experții arată cine este, de fapt, problema

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Inteligența artificială a început să schimbe radical modul în care sunt pregătite atacurile cibernetice, dar principala amenințare nu vine încă de la mașini care acționează singure, scrie CNN. Oamenii sunt cei care folosesc AI pentru a exploata vulnerabilități, a crea programe malițioase și a păcăli victimele.

Modelele AI par scăpate de sub control

În ultimele săptămâni, mai multe incidente au alimentat temerile că modelele AI ar putea scăpa de sub control. Modele dezvoltate de OpenAI, Anthropic și Meta au reușit, în condiții de testare, să pătrundă în sisteme externe sau să încerce să manipuleze persoane reale. Experții spun însă că aceste cazuri trebuie privite în context. În cele mai multe situații, modelele au fost testate în condiții speciale, cu anumite mecanisme de protecție dezactivate. În lumea reală, cea mai mare problemă rămâne omul care folosește AI în scopuri rău intenționate.

Coreea de Nord folosește inteligența artificială pentru automatizarea atacurilor cibernetice. Gruparea Kimsuky își dezvoltă noi instrumente

Oamenii cer tot mai des sfaturi financiare de la inteligența artificială, dar puțini au încredere în recomandările AI

Agent AI controlat cu telefonul mobil. Sursa foto: X

AI accelerează atacurile cibernetice

Inteligența artificială nu trebuie să inventeze o nouă metodă de atac pentru a deveni extrem de periculoasă. Este suficient să facă metodele existente mult mai rapide și mai eficiente. Hackerii pot utiliza AI pentru a analiza site-urile unei companii, pentru a identifica angajații care ar putea fi vizați, pentru a genera cod malițios sau pentru a construi infrastructura necesară unor campanii de fraudă.

Un atac care înainte necesita timp și cunoștințe tehnice poate fi acum pregătit într-un timp mult mai scurt. „AI este doar instrumentul”, a explicat Oren Etzioni, profesor emerit la University of Washington și fost director al Allen Institute for Artificial Intelligence. Potrivit unui raport IBM, una din patru breșe de securitate asociate activităților malițioase, analizate între februarie 2025 și martie 2026, a implicat AI. În paralel, FBI a raportat pierderi de peste 893 de milioane de dolari în Statele Unite în urma fraudelor asociate inteligenței artificiale în 2025.

Modelele AI au început să surprindă chiar și cercetătorii

În ultimele săptămâni au apărut mai multe exemple care au atras atenția comunității de securitate. În luna iulie, modele OpenAI testate într-un exercițiu de securitate au depășit limitele impuse și au încercat să pătrundă în sisteme ale altor companii. La câteva zile distanță, Anthropic a anunțat că modelele sale au compromis trei companii în timpul unor teste. Într-un alt experiment, un model avansat dezvoltat de Anthropic a folosit identități false pentru a încerca să păcălească persoane reale, potrivit cercetătorilor de la AI Security Institute din Marea Britanie. Meta a raportat, la rândul său, că unul dintre modelele sale AI a reușit să pătrundă într-o companie externă.

Simulările versus viața reala

Aceste situații par alarmante, însă există o diferență esențială între experimente și utilizarea obișnuită a unui chatbot. În testele respective, cercetătorii au eliminat intenționat anumite mecanisme de siguranță pentru a afla până unde poate ajunge tehnologia. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, a explicat Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike.

Nu este posibilă replicarea testelor din laborator, în viața reală, cu un chatbot. Sursă foto: Pexels

Problema reală este viteza cu care AI îi ajută pe atacatori

Pentru infractorii cibernetici, avantajul AI nu este neapărat că poate crea atacuri complet noi. Avantajul este că poate automatiza ceea ce oamenii făceau deja. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare pot fi pregătite mai rapid și la o scară mult mai mare. AI poate genera mesaje care par scrise de oameni, poate analiza informații despre victime și poate purta conversații cu acestea. Tehnologia poate reproduce inclusiv voci umane, ceea ce face fraudele telefonice mai greu de identificat.

În acest fel, un atacator cu experiență redusă poate utiliza instrumente AI pentru a realiza operațiuni care anterior necesitau mai multe cunoștințe tehnice. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, a spus Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience.

Un atacator poate construi mult mai repede o fraudă

O schimbare importantă este și reducerea costului unui atac. În trecut, un infractor putea crea rapid un script simplu pentru automatizarea unei operațiuni. Calitatea rezultatului era însă limitată de competențele sale. AI poate produce acum cod și materiale mult mai sofisticate. Tehnologia poate fi folosită inclusiv pentru construirea infrastructurii necesare unor site-uri malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, a explicat Rob Lefferts, vicepreședinte al Microsoft. Cu alte cuvinte, AI nu trebuie să fie hackerul pentru a schimba radical securitatea cibernetică. Este suficient să îi ofere hackerului o forță de muncă digitală extrem de rapidă.

Ce se întâmplă dacă AI devine și mai autonom?

Incidentele recente au readus în discuție și un scenariu mai dificil: ce se va întâmpla atunci când agenții AI vor putea lua decizii din ce în ce mai complexe și vor avea acces direct la sisteme informatice? Experții spun că industria nu a ajuns încă la acel nivel. Totuși, incidentele recente reprezintă un semnal de alarmă. Geoffrey Hinton, unul dintre cei mai cunoscuți cercetători în domeniul inteligenței artificiale, a avertizat recent că atacurile realizate de sisteme AI care scapă de control ar putea deveni mai frecvente.

Angajați ai unor companii importante din industria AI au semnat o scrisoare prin care cer autorităților limitarea dezvoltării AI. Imagine ilustrativă. Sursa foto: Pexels.

În același timp, peste 1.200 de angajați ai unor companii importante din industria AI au semnat o scrisoare prin care cer autorităților să contribuie la stabilirea ritmului de dezvoltare a tehnologiei. Casa Albă a discutat deja cu marile companii de AI despre un cadru care ar permite autorităților să verifice anumite modele înainte ca acestea să fie lansate.

Cum se pot apăra oamenii

Pentru utilizatorii obișnuiți, problema nu este că un chatbot ar putea decide singur să îi atace. Riscul mai imediat este ca un alt om să folosească AI pentru a-i păcăli. Mesajele de phishing pot deveni mai credibile. Vocile pot fi imitate. Site-urile false pot fi construite mai rapid. Iar conversațiile cu victimele pot fi automatizate. De aceea, specialiștii recomandă în continuare măsuri clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte, prudență în fața solicitărilor urgente și monitorizarea atentă a instrumentelor AI utilizate în companii.