„Ne-ar putea elimina pe toți până la sfârșitul deceniului”: Un cercetător de la Anthropic demisionează și avertizează asupra riscurilor inteligenței artificiale scăpate de sub control

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Acuzații grave la adresa OpenAI și Anthropic

Într-o serie de mesaje publicate pe rețeaua X, Coxon a afirmat că nici OpenAI, nici Anthropic nu acționează responsabil în cursa tehnologică, notează AFP. 

Jacob Coxon, un matematician la origine, a lucrat anterior la antrenarea unor modele de inteligență artificială folosind cantități masive de date și a fost implicat direct în procesul de dezvoltare a acestor sisteme. 

„Niciuna dintre companii nu acționează responsabil. Se îndreaptă cu viteză amețitoare către o superinteligență capabilă de auto-îmbunătățire și se joacă cu viețile noastre”, a transmis Coxon. 

Șeful cercetării OpenAI avertizează: Nimeni nu este pregătit pentru progresul rapid al inteligenței artificiale

Nvidia, Microsoft și SpaceX lansează o alianță pentru a opri atacurile AI scăpate de sub control

Sisteme supraumane

Coxon a avertizat că aceste sisteme vor deveni în curând supraomenești. „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraumane, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale”, mai notează Coxon. 

Cercetătorul susține că, deși liderii companiilor afișează un discurs măsurat în fața presei, în privat mulți dintre dezvoltatori își exprimă frică cu privire la potențialul sistemelor. 

„Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului. Deși în fața presei, cercetătorii prezintă un discurs liniștitor, în priviat își epxrimă teama”, a mai declarat cercetătorul. 

Cursa cu China și problema siguranței

Plecat inițial de la OpenAI tocmai pentru a se alătura Anthropic companie recunoscută pentru accentul pus pe siguranță, Coxon a explicat că, deși Anthropic înțelege mult mai bine implicațiile dezvoltării sistemelor I.A., a picat în aceeași cursă ca OpenAI. 

„La OpenAI, mulți nu au internalizat pe deplin implicațiile civilizaționale. La Anthropic, implicațiile sunt bine înțelese, dar sunt angajați într-o cursă pentru a fi primii care le realizează – cred că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă singuri, în ciuda riscurilor”, a mai spus Coxon. 

Acesta a mai avertizat în alte interviuri că în cursa împotriva Chinei, siguranța ar putea să fie trecută în plan secundar, cu riscurile aferente. De asemenea, Coxon a mai spus că domeniul a intrat într-o fază critică, descrisă de colegi prin termeni precum „endgame” (deznodământ).