AI-ul chinezesc care a stârnit îngrijorare: cercetătorii spun că poate fi manipulat pentru arme biologice și asasinate
Este vorba despre Kimi-K3, un model dezvoltat de compania chineză Moonshot AI. Potrivit Fox News, cercetătorul Peter Garrigan afirmă că testele sale au evidențiat vulnerabilități importante ale sistemului.
Modelul Kimi ar fi putut fi determinat să ofere informații periculoase
Potrivit lui Garrigan, modelul poate fi manipulat astfel încât să ofere informații despre dezvoltarea unor arme biologice, producerea gazului sarin și planificarea unor asasinate.
Cercetătorul susține că testele au indicat și posibilitatea obținerii unor informații despre atacuri teroriste folosind date în timp real, dezvoltarea de malware și atacuri asupra aeronavelor. „Ceea ce am descoperit este foarte îngrijorător”, a declarat Garrigan pentru Fox News. Moonshot AI a lansat o investigație internă după apariția acestor rezultate și comunică direct cu cercetătorul.
Moonshot AI desfășoară o anchetă internă după ce un cercetător a dezvăluit că modelul său de inteligență artificială, Kimi, ar putea fi manipulat pentru a furniza instrucțiuni privind crearea de arme biologice și planificarea unor asasinate. Sursa foto: X
Cercetătorul spune că problema nu este exclusiv chineză
Garrigan susține că vulnerabilitatea identificată nu este neapărat specifică modelelor dezvoltate în China. Potrivit acestuia, și modelele AI americane prezintă probleme similare. „Este un defect fundamental al tehnologiei”, a afirmat cercetătorul.
Observația este importantă deoarece discuția nu se limitează la performanțele unui singur model. Pe măsură ce sistemele AI devin mai capabile și primesc acces la instrumente, date și servicii externe, cercetătorii analizează tot mai atent modul în care acestea pot fi manipulate pentru a produce rezultate pe care dezvoltatorii încearcă să le blocheze.
Moonshot AI verifică rezultatele testelor
Moonshot AI nu a anunțat public, în materialul citat, că rezultatele cercetătorului au fost confirmate în totalitate. Compania investighează constatările și discută direct cu Garrigan. Deocamdată, informațiile disponibile descriu rezultatele unor teste asupra comportamentului modelului și nu demonstrează că Kimi-K3 a fost folosit efectiv pentru producerea unei arme biologice, organizarea unui asasinat sau comiterea unui atac terorist.