OpenAI a lansat ChatGPT Agent, o versiune îmbunătățită a modelului său emblematic de inteligență artificială, care poate deveni un pericol pentru utilizatori

Aceste noi instrumente permit agentului să execute sarcini complexe, în mai mulți pași, pe care versiunile anterioare ale ChatGPT nu erau capabile să le îndeplinească, controlul computerului și executarea sarcinilor în locul utilizatorilor.

Această versiune mai puternică, care încă depinde în mare măsură de contribuția și supravegherea umană, a apărut la scurt timp înainte ca Mark Zuckerberg să anunțe că cercetătorii Meta au observat că propriile lor modele de AI dau semne de autoîmbunătățire independentă. De asemenea, a fost lansată la scurt timp înainte ca OpenAI să lanseze GPT-5, cea mai recentă versiune a chatbotului OpenAI.

Cu ChatGPT Agent, utilizatorii pot acum solicita modelului lingvistic de mari dimensiuni (LLM) nu numai să efectueze analize sau să colecteze date, ci și să acționeze pe baza acestor date, au declarat reprezentanții OpenAI într-un comunicat, potrivit LiveScience.

Funcții noi

De exemplu, puteți comanda agentului să vă evalueze calendarul și să vă informeze despre evenimentele și mementourile viitoare sau să studieze un corpus de date și să îl rezume într-o sinteză concisă sau într-o prezentare de diapozitive.

S-a lansat noul Chat GPT. Modelul GPT-5 se anunță unul revoluționar în zona de coding

OpenAI lansează cel mai avansat model de inteligență artificială de până acum, GPT-5

În timp ce un LLM tradițional ar putea căuta și furniza rețete pentru un mic dejun în stil japonez, agentul ChatGPT ar putea planifica și achiziționa în întregime ingredientele pentru același mic dejun pentru un număr specific de oaspeți.

Limitările noului ChatGPT

Cu toate acestea, noul model, deși foarte capabil, se confruntă încă cu o serie de limitări. La fel ca toate modelele de AI, raționamentul său spațial este slab, astfel încât se confruntă cu dificultăți în sarcini precum planificarea rutelor fizice.

De asemenea, îi lipsește memoria persistentă adevărată, procesând informațiile în momentul respectiv fără o memorare fiabilă sau capacitatea de a face referire la interacțiuni anterioare dincolo de contextul imediat.

De asemenea, a avut performanțe mult mai bune decât alte instrumente OpenAI, precum și decât o versiune a sa care nu dispunea de instrumente precum un browser și un computer virtual. În cel mai dificil benchmark matematic cunoscut din lume, FrontierMath, agentul ChatGPT și setul său de instrumente au depășit din nou cu mult modelele anterioare.

Agentul se bazează pe trei piloni derivați din produsele OpenAI anterioare. Unul dintre aceștia este „Operator”, un agent care ar folosi propriul browser virtual pentru a căuta informații pe web pentru utilizatori.

Al doilea este „cercetarea aprofundată”, concepută pentru a analiza și sintetiza cantități mari de date. Ultima piesă a puzzle-ului este reprezentată de versiunile anterioare ale ChatGPT, care excelează în fluența conversațională și prezentare.

„În esență, poate naviga autonom pe web, genera cod, crea fișiere și așa mai departe, totul sub supravegherea umană”, a declarat Kofi Nyarko, profesor la Morgan State University și director al Laboratorului de cercetare în ingineria datelor și analiza predictivă (DEPA).

Nyarko a subliniat însă că noul agent nu este încă autonom. „Halucinațiile, fragilitatea interfeței cu utilizatorul sau interpretarea greșită pot duce la erori. Măsurile de siguranță încorporate, precum solicitările de permisiune și întreruperea, sunt esențiale, dar nu suficiente pentru a elimina complet riscul”.

Pericolul dezvoltării AI

OpenAI a recunoscut pericolul reprezentat de noul agent și autonomia sa crescută. Reprezentanții companiei au declarat că agentul ChatGPT are „capacități biologice și chimice ridicate”, care, potrivit acestora, i-ar putea permite să contribuie la crearea de arme chimice sau biologice.

În comparație cu resursele existente, cum ar fi un laborator de chimie și un manual, un agent AI reprezintă ceea ce experții în biosecuritate numesc „calea de escaladare a capacităților”. AI poate să se bazeze pe nenumărate resurse și să sintetizeze instantaneu datele din acestea, să combine cunoștințele din diferite discipline științifice, să ofere soluții iterative de depanare ca un mentor expert, să navigheze pe site-urile furnizorilor, să completeze formulare de comandă și chiar să ajute la ocolirea verificărilor de bază.

Cu ajutorul computerului său virtual, agentul poate interacționa în mod autonom cu fișiere, site-uri web și instrumente online, ceea ce îi permite să provoace mult mai multe daune potențiale dacă este utilizat în mod abuziv.

După cum a subliniat Nyarko, aceste riscuri se adaugă celor implicite în modelele tradiționale de AI și LLM.

„Există preocupări mai largi pentru agenții AI în ansamblu, cum ar fi modul în care agenții care funcționează autonom pot amplifica erorile, introduce prejudecăți din datele publice, complica cadrele de răspundere și favoriza în mod neintenționat dependența psihologică”, a spus el.