Schimbare importantă pentru ChatGPT în Europa: OpenAI introduce watermark în textele generate de AI

Măsura face parte din strategia companiei de respectare a cerințelor europene privind identificarea conținutului generat de inteligența artificială, însă OpenAI avertizează că tehnologia are încă limite importante.

Un semnal statistic ascuns în alegerea cuvintelor

Tehnologia dezvoltată de OpenAI se numește „textGrain” și nu presupune apariția unui simbol, a unei etichete sau a unui mesaj vizibil în text.

Sistemul introduce un semnal statistic invizibil prin modul în care modelul alege cuvintele. Un detector special poate căuta ulterior acest semnal pentru a estima dacă un fragment conține watermarkul OpenAI.

Compania susține că EU AI Act impune furnizorilor de inteligență artificială generativă să facă textele generate identificabile într-o formă care poate fi citită automat.

Implementarea va fi făcută etapizat. Începând din 5 octombrie, clienții API din întreaga lume pot opta pentru watermark în cazul anumitor modele, funcția fiind dezactivată implicit. Pentru utilizatorii eligibili ChatGPT și Codex din UE, watermarkul urmează să fie introdus în următoarele săptămâni.

Watermarkul poate fi afectat prin editarea textului

OpenAI avertizează că sistemul nu oferă o metodă infailibilă pentru stabilirea originii unui text.

Testele companiei arată că lungimea și tipul conținutului influențează semnificativ rezultatele. La o rată-țintă de rezultate fals pozitive de 1%, detectorul a identificat watermarkul în aproximativ 80% dintre textele de 200 de tokeni din anumite categorii, procentul urcând la aproximativ 95% pentru pasaje de 400 de tokeni.

Modificarea textului poate reduce însă drastic șansele de detectare. Într-un test realizat pe pasaje de 400 de tokeni, înlocuirea a 10% dintre cuvinte cu sinonime a coborât rata de detectare de la aproximativ 92% la 66%. Atunci când un sfert dintre cuvinte au fost înlocuite, rata a scăzut la 17%.

Din acest motiv, detectorul nu va fi pus deocamdată la dispoziția publicului larg. Accesul va fi acordat inițial cercetătorilor și organizațiilor specializate aprobate de OpenAI.

Ce nu poate demonstra watermarkul ChatGPT

Compania subliniază că detectarea unui watermark nu poate stabili cât dintr-un text reprezintă contribuția unui om și cât provine de la inteligența artificială.

De asemenea, marcajul nu stabilește cine deține textul, dacă acesta a fost utilizat legal sau cine este responsabil pentru conținut. Watermarkul nu identifică utilizatorul, contul, organizația, conversația sau promptul care a stat la baza generării textului.

Sistemul nu reprezintă nici o garanție privind corectitudinea informațiilor. Detectarea semnalului nu poate arăta dacă textul este adevărat, fals, înșelător sau scos din context.

Nici situația inversă nu permite o concluzie certă: absența unui watermark detectabil nu dovedește că un text a fost scris de un om. Un material generat de AI poate fi prea scurt, modificat sau tradus, astfel încât semnalul să nu mai poată fi identificat.

OpenAI precizează că implementarea inițială pentru ChatGPT și Codex va fi limitată la Uniunea Europeană și că sistemul va fi ajustat pe măsură ce tehnologia, standardele și cerințele de reglementare evoluează.