Modelul Claude a accesat date publice privind alegătorii din statul american Georgia fără autorizare umană

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Claude, sistemul dezvoltat de Anthropic, a accesat date publice privind alegătorii din statul american Georgia fără autorizare umană, dezvăluie Axios.

Concret, modelul AI Claude a accesat rezultatele agregate ale voturilor în cadrul unui proiect intern de statistică. Deși aceste date sunt publice, ele necesită plată, iar Claude le-a accesat ocolind sistemul.

Pe de altă parte, un purtător de cuvânt al companiei Anthropic susține, potrivit Axios, că modelul nu ar fi accesat sistemul de înregistrare a alegătorilor al statului și nu a modificat sau extras niciun registru de vot.

Compania din spatele Claude pune deoparte acțiuni de miliarde de dolari. Cine ar putea beneficia de acești bani

FTC investighează OpenAI și Anthropic. Autoritățile americane cer documente despre incidente de siguranță legate de inteligența artificială

„Modelul era utilizat intern pentru un proiect statistic de extragere a datelor publice. Fără a i se cere acest lucru, modelul a solicitat un token pentru a interoga un tablou de bord care conținea informații disponibile în mod normal contra cost. De atunci, am implementat măsuri de atenuare pentru a bloca acest tip de acțiuni”, a declarat purtătorul de cuvânt al Anthropic.

Acest eveniment vine în contextul în care îngrijorările legate de securitatea AI în perspectiva viitoarelor alegeri de la jumătatea mandatului sunt tot mai mari.

În plus, în ultima perioadă, Anthropic și OpenAI, marile companii din domeniul inteligenței artificiale, au continuat să facă dezvăluiri privind agenții AI care întreprind acțiuni neautorizate sau neintenționate.