Modelul AI care îngrijorează guvernele ajunge în mâinile serviciilor SUA

Potrivit unei persoane apropiate situației, citate de FT, Mythos ar putea fi util în operațiuni de infiltrare a rețelelor unor state precum China sau Iran. O altă sursă apropiată companiei a susținut că dezvoltarea unor capabilități ofensive este necesară pentru consolidarea apărării cibernetice, în condițiile în care adversarii SUA ar putea construi la rândul lor instrumente similare bazate pe AI.

Colaborarea are loc în pofida unui conflict juridic între Anthropic și Departamentul Apărării al SUA, instituție din care face parte și NSA. Compania a încercat să limiteze utilizarea modelelor sale Claude de către guvernul american pentru supravegherea în masă a cetățenilor americani și pentru drone autonome letale. În urma acestor restricții, Pentagonul a desemnat Anthropic drept „risc pentru lanțul de aprovizionare”, o premieră pentru o companie americană de acest tip. Anthropic a contestat decizia în instanță.

Mythos a atras îngrijorări

Lansarea Claude Mythos a atras îngrijorări în rândul guvernelor, instituțiilor financiare și companiilor IT, din cauza capacității modelului de a detecta și exploata vulnerabilități software. Anthropic a anunțat recent că va distribui Mythos către 150 de organizații din 15 țări, extinzând semnificativ accesul la tehnologie, care fusese inițial disponibilă doar unui număr restrâns de organizații din SUA.

Extinderea vine într-un moment în care Anthropic a depus documentele pentru o ofertă publică inițială ce ar putea evalua compania la peste 1.000 de miliarde de dolari, reflectând importanța tot mai mare a inteligenței artificiale în securitatea națională și competiția geopolitică.

Rivala OpenAI a lansat, de asemenea, un model cu capabilități similare, iar experții avertizează că astfel de sisteme pot ajuta hackerii să exploateze infrastructuri informatice, dar pot deveni și instrumente puternice pentru apărarea împotriva actorilor statali ostili.