CNN: „Aproape a declanșat un război între SUA și China”. Un raport fals generat de AI a pus armata SUA la un pas să intercepteze o navă chineză

Incidentul, care ar fi avut loc în primăvara acestui an, scoate la iveală riscurile utilizării inteligenței artificiale în operațiuni militare în care o informație falsă poate produce consecințe geopolitice majore.

O sursă apropiată dosarului, citată de CNN, a descris raportul drept „entirely false” și a afirmat că acesta „almost started a war” între Statele Unite și China. Informațiile au fost relatate vineri seară și de presa franceză.

Avioane americane fuseseră deja mobilizate

Potrivit celor patru surse familiarizate cu situația citate de CNN, raportul distribuit în interiorul armatei americane susținea că o navă chineză aflată în Orientul Mijlociu transporta componente destinate unui program de arme nucleare.

Reacția militară ar fi fost rapidă. Forțele americane au primit ordin să intercepteze vasul, avioane militare au fost trimise în zonă, iar militarii se pregăteau să urce la bordul navei.

Operațiunea a fost însă anulată cu puțin timp înainte de declanșare, după ce responsabili americani au constatat că informația pe care fusese construită misiunea era greșită. CNN nu a precizat ce transporta în realitate nava și nici care era destinația acesteia.

Relatări independente publicate vineri pe baza investigației CNN confirmă că armata americană ajunsese aproape de interceptarea navei chineze din cauza informației eronate produse cu ajutorul AI.

Cum ar fi inventat AI informația despre componentele nucleare

Problema ar fi pornit în momentul în care un analist militar a folosit un chatbot pentru a căuta informații despre o navă chineză menționată într-un alt raport, realizat de Comandamentul pentru Operațiuni Speciale al SUA în Pacific.

Nu este clar dacă sistemul AI folosit era un produs comercial sau un instrument dezvoltat special pentru armata americană.

Chatbotul ar fi combinat informațiile clasificate din raport cu date disponibile public pe internet și ar fi ajuns la concluzia falsă că nava transporta componente nucleare.

Analistul a folosit apoi din nou instrumentul AI pentru a compila informațiile într-un nou raport de intelligence, care a fost distribuit pe canalele armatei americane.

Semnal de alarmă privind AI în operațiunile militare

Surse citate de CNN susțin că armata americană folosește tot mai mult inteligența artificială inclusiv în operațiuni de identificare și selectare a țintelor, în timp ce regulile privind supravegherea umană rămân o problemă sensibilă.

Incidentul apare într-un moment în care riscurile utilizării AI în sistemele militare sunt discutate tot mai intens la nivel internațional. Experți americani și chinezi au propus chiar în această săptămână reguli de siguranță inspirate din mecanismele de control al armelor nucleare, inclusiv menținerea controlului uman asupra deciziilor critice și canale directe de comunicare pentru situațiile în care AI ar putea provoca o escaladare accidentală.