Claude, asistentul AI creat de Anthropic, își va dezvolta următorul model, susține compania

Claude coordonează 26% din activitatea de cercetare și dezvoltare a modelelor Anthropic, ceea ce, potrivit companiei, înseamnă că modelul poate duce la bun sfârșit cea mai mare parte a unei sarcini date „de la început până la sfârșit, pornind de la o instrucțiune de nivel înalt”, rămânând totuși sub supraveghere umană, potrivit Associated Press. 

Modelul nu funcționează încă într-un mod complet autonom. Cu toate acestea, aproximativ 90% din activitatea de cercetare și dezvoltare a companiei se desfășoară în „colaborare” cu Claude, ceea ce, potrivit Anthropic, înseamnă că modelul poate realiza „volume mari de muncă sub îndrumarea atentă a oamenilor”.

Anunțul a venit în contextul în care unele personalități de seamă din AI, conduse în mare parte de CEO-ul Anthropic, Dario Amodei, solicită o încetinire a ritmului de dezvoltare a tehnologiei din motive de siguranță.

Pe măsură ce liderii iau în considerare încetinirea ritmului de dezvoltare al inteligenței artificiale, „ar trebui să facem tot ce este posibil pentru a reduce la minimum decalajul dintre ceea ce știu laboratoarele de vârf și ceea ce știe publicul”, a declarat Anthropic, într-o postare pe blog.

Anthropic îndeamnă la o mai bună măsurare a modelelor AI

„Asta înseamnă o mai bună măsurare a dezvoltării AI, raportarea publică a acesteia și oferirea societății a oportunității de a decide cum să utilizeze aceste informații”, potrivit companiei.

Compania a afirmat că modelele care își accelerează propria dezvoltare ar putea face ca „înțelegerea sau controlul acestor sisteme de către oameni să devină mai dificil”.

Aceasta a susținut că partajarea acestor indicatori ar putea duce la o mai bună înțelegere a cât de aproape sunt laboratoarele de vârf din domeniul AI de a atinge autoîmbunătățirea recursivă, practic abilitatea unui model de a-și construi în mod autonom succesorul.

Compania a prezentat, de asemenea, detalii privind măsurile de supraveghere a agenților pe care le-a implementat, precizând că, în luna august, aproximativ 30.000 de agenți desfășurau activități de cercetare și inginerie.

Măsurile de supraveghere sunt esențiale pentru a identifica frecvența cu care comportamentul necorespunzător al agenților este detectat de sistemele de monitorizare, potrivit Anthropic.

Compania s-a angajat, recent, să desemneze  evaluatori externi independenți, care vor fi integrați în cadrul companiei pentru a monitoriza eforturile în materie de siguranță.