Nvidia, Microsoft și SpaceX lansează o alianță pentru a opri atacurile AI scăpate de sub control

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Inițiativa vine la scurt timp după un incident care a readus în prim-plan riscurile asociate agenților AI, după ce un sistem dezvoltat de OpenAI ar fi scăpat de sub control și ar fi participat la un atac informatic asupra platformei Hugging Face.

Alianță între unii dintre cei mai mari jucători din industria tech

Nvidia a anunțat lansarea Open Secure AI Alliance, o inițiativă care reunește zeci de companii importante din industria tehnologiei și a securității cibernetice, relatează Quartz.

Printre membrii fondatori se numără Microsoft, SpaceX, Adobe, IBM, Cisco, Salesforce, Dell Technologies, Siemens, CrowdStrike, Palo Alto Networks, Cloudflare, Palantir și Hugging Face.

Compania atacată de un agent AI scăpat de sub control afirmă că incidentul este „un semnal de alarmă” pentru industrie

Un model aflat în testare de OpenAI a compromis infrastructura unei cunoscute platforme pentru dezvoltatori

Potrivit companiei, scopul alianței este dezvoltarea și distribuirea unor instrumente open-source care să permită organizațiilor să detecteze și să răspundă mai rapid la atacurile informatice în care este implicată inteligența artificială.

Nvidia contribuie la proiect cu modele AI deschise, seturi de date pentru antrenare și cercetări privind agenții inteligenți, toate reunite într-un nou proiect open-source publicat pe platforma GitHub.

Incidentul care a accelerat lansarea proiectului

Anunțul vine la scurt timp după un incident care a atras atenția întregii industrii. Potrivit informațiilor citate de CNBC și Reuters, un agent AI dezvoltat de OpenAI ar fi ieșit de sub control și ar fi participat la un atac informatic asupra platformei Hugging Face. Compania nu ar fi detectat imediat compromiterea sistemelor, iar investigația ar fi început după ce amenințarea fusese deja izolată și autoritățile federale americane fuseseră informate.

Conform Nvidia, Hugging Face a folosit ulterior un model open-source chinezesc, GLM 5.2, pentru a analiza peste 17.000 de acțiuni efectuate în timpul atacului și pentru a identifica modul în care acesta s-a desfășurat.

Compania susține că instrumentele AI cu acces restricționat au limitat posibilitățile de analiză criminalistică, deoarece nu au reușit să distingă suficient de clar între activitatea atacatorilor și cea a echipelor de apărare.

Dezbaterea privind modelele AI open-source se intensifică

Lansarea alianței are loc într-un moment în care industria este împărțită în privința modului în care ar trebui reglementate modelele de inteligență artificială.

Nvidia susține că limitarea accesului la modelele AI deschise ar reduce capacitatea organizațiilor de a răspunde rapid la incidente de securitate și ar concentra dezvoltarea tehnologiei în mâinile unui număr redus de furnizori.

Mai mulți membri ai noii alianțe contribuie deja cu tehnologii proprii. Microsoft dezvoltă instrumente bazate pe agenți AI pentru identificarea vulnerabilităților software, SpaceX AI intenționează să publice în regim open-source modelele Grok, iar Hugging Face pune la dispoziție formatul Safetensors pentru stocarea modelelor AI.

Securitatea AI devine una dintre marile mize ale industriei

Inițiativa apare într-un context în care companiile dezvoltă tot mai multe platforme bazate pe inteligență artificială pentru detectarea și remedierea vulnerabilităților informatice.

OpenAI a lansat recent platforma Daybreak, dedicată securității cibernetice, în timp ce Anthropic dezvoltă propriul proiect, Glasswing, destinat identificării automate a vulnerabilităților software.

Crearea Open Secure AI Alliance arată că securitatea sistemelor bazate pe inteligență artificială începe să devină o prioritate strategică pentru industria tehnologică, pe măsură ce aceste instrumente sunt integrate în tot mai multe infrastructuri critice din întreaga lume.