Anthropic propune reguli mai stricte pentru modelele avansate de inteligență artificială

Adaugă-ne ca sursă preferată în Google

Urmărește-ne în Discover

În documentul intitulat „Advanced AI Framework”, compania argumentează că guvernele ar trebui să primească autoritatea legală de a bloca sau descuraja lansarea unor modele de inteligență artificială care prezintă riscuri catastrofale pentru societate.

Potrivit Anthropic, modelele de ultimă generație devin tot mai capabile și pot genera riscuri în patru domenii principale: dezvoltarea armelor biologice, atacurile cibernetice, pierderea controlului asupra sistemelor de inteligență artificială și automatizarea cercetării în domeniul AI, care ar putea accelera toate celelalte riscuri.

Compania susține că actualele cerințe de transparență nu mai sunt suficiente și propune un cadru de reglementare aplicabil doar celor mai avansate modele de inteligență artificială, dezvoltate de companii cu venituri de peste 500 de milioane de dolari din activități AI sau cu investiții de peste un miliard de dolari în cercetare și dezvoltare.

Din august, utilizatorii vor fi avertizați când văd deepfake-uri sau conținut generat de AI

AI-ul este subvenționat: costurile reale ale inteligenței artificiale sunt plătite de alții. Când va veni nota de plată

Printre măsurile propuse se numără obligativitatea testării modelelor înainte de lansare, publicarea rezultatelor evaluărilor de siguranță, realizarea unor audituri independente și implementarea unor programe robuste de securitate cibernetică pentru protejarea modelelor și a infrastructurii de antrenare.

Anthropic recomandă, de asemenea, introducerea unor sancțiuni civile raportate la veniturile globale ale companiilor care încalcă regulile și acordarea unor competențe clare autorităților pentru a împiedica implementarea modelelor considerate periculoase.

În paralel, compania solicită măsuri pentru creșterea rezilienței societății în fața riscurilor asociate inteligenței artificiale. În domeniul biologic, propunerile includ consolidarea supravegherii epidemiologice și verificarea comenzilor pentru sinteza genelor. În domeniul cibernetic, Anthropic recomandă modernizarea infrastructurilor informatice critice și crearea unor mecanisme guvernamentale dedicate monitorizării capacităților cibernetice ale sistemelor AI de frontieră.

Compania th că progresele în domeniul inteligenței artificiale vor continua într-un ritm rapid în următoarele luni și solicită factorilor de decizie să înceapă dezbaterile și elaborarea cadrului de reglementare înainte ca noile generații de modele să devină și mai puternice.