Hackeri vorbitori de rusă au păcălit un agent AI să-i ajute în atacuri cibernetice. Șapte companii ar fi fost compromise

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Campania, atribuită unei grupări ransomware numite Aur0ra, arată modul în care instrumentele comerciale de inteligență artificială pot fi exploatate de infractorii cibernetici pentru automatizarea și accelerarea unor etape ale atacurilor informatice, se arată într-o investigație realizată de Reuters.

Hackerii au pretins că atacurile sunt simulări

Operațiunea a fost descoperită de compania israeliană de securitate cibernetică Gambit Security, după identificarea unui server pe care gruparea Aur0ra îl lăsase accidental expus pe internet.

Timpul se scurge pentru securitatea cibernetică. Avertismentul marilor companii tech

Nvidia vrea să-și consolideze dominația în AI: Ar urma să preia Hugging Face pentru 12,9 miliarde de dolari

Cercetătorii au putut astfel analiza 28 de sesiuni de conversație dintre unul sau mai mulți membri ai grupării și un agent AI al Cursor.

Potrivit Gambit Security, atacatorii au determinat sistemul să execute sau să sprijine sute de operațiuni malițioase, inclusiv acțiuni destinate furtului de credențiale și preluării unor conturi cu privilegii importante.

Metoda prin care hackerii ar fi reușit să treacă de restricțiile agentului AI a fost relativ simplă: susțineau că operațiunile sunt desfășurate într-un mediu de testare.

Agentul AI a refuzat în unele situații solicitările pe care le-a identificat drept periculoase sau ilegale. Atacatorii reluau însă conversația și insistau asupra faptului că activitatea reprezenta doar un test, potrivit cercetătorilor.

Șapte companii ar fi fost compromise cu ajutorul AI

Reuters relatează că hackerii au folosit instrumentul în atacuri asupra unei companii belgiene din industria chimică și a cel puțin altor șase firme.

Jurnaliștii au identificat independent șase dintre victime după examinarea unei părți a datelor provenite din conversațiile grupării.

Printre acestea se numără producătorul belgian de produse de igienă și curățenie Christeyns, producătorul german de uși de garaj Teckentrup și Helideck Certification Agency din Scoția, companie care certifică zonele de aterizare pentru elicoptere.

Alte ținte identificate au fost un distribuitor farmaceutic din Argentina, un producător italian și compania americană Bayou Title.

Conversațiile analizate acoperă perioada 8 aprilie-21 mai.

O altă companie de securitate cibernetică, CloudSek, susține că informațiile găsite pe server indică faptul că Aur0ra și-ar fi revendicat cel puțin 20 de victime în total. Nu este însă clar câte dintre acestea au fost compromise folosind inteligența artificială.

AI-ul i-ar fi făcut pe atacatori cu până la 50% mai rapizi

Investigația nu a putut stabili cu exactitate cât de important a fost ajutorul agentului AI pentru succesul fiecărui atac și nici dacă toate breșele au dus la furt de date sau tentative de extorcare.

Eyal Sela, director pentru informații privind amenințările în cadrul Gambit Security, estimează însă că folosirea agentului AI le-a oferit atacatorilor un avantaj semnificativ.

Potrivit acestuia, instrumentul i-ar fi putut ajuta să opereze cu aproximativ 30%-50% mai rapid, deoarece automatiza sau simplifica activități pe care hackerii ar fi trebuit în mod normal să le execute manual.

Într-unul dintre cazurile analizate, după identificarea unui sistem vulnerabil din rețeaua companiei germane Teckentrup, agentul AI ar fi recomandat folosirea unui instrument software malițios pentru exploatarea vulnerabilității.

„Un joc de-a șoarecele și pisica”

Reprezentanții Gambit Security consideră că episodul ilustrează o problemă tot mai dificilă pentru dezvoltatorii sistemelor de inteligență artificială: construirea unor mecanisme de siguranță pe care utilizatorii rău intenționați încearcă permanent să le ocolească.

Curtis Simpson, director de strategie al companiei, a descris această confruntare drept un „joc de-a șoarecele și pisica”.

El consideră că atacurile cibernetice asistate de inteligența artificială devin parte din noua realitate a securității informatice și că astfel de cazuri vor apărea tot mai frecvent.

Datele analizate în investigație nu permit însă concluzia că inteligența artificială a fost responsabilă în mod autonom pentru atacuri. Informațiile disponibile indică faptul că sistemul a fost utilizat și manipulat de atacatori umani pentru a accelera diferite etape ale operațiunilor.