Un scriitor spaniol l-a întrebat pe ChatGPT ce ar trebui să se întâmple pentru ca IA să distrugă omenirea. Răspunsul a fost tulburător

Dezbaterea privind riscurile inteligenței artificiale a căpătat o nouă dimensiune în ultimele zile, după avertismente venite din industria tehnologică. În acest context, scriitorul și jurnalistul spaniol Juan José Millás a decis să pună chiar inteligenței artificiale o întrebare despre unul dintre cele mai radicale scenarii: ce ar trebui să se întâmple pentru ca IA să ajungă să distrugă omenirea?

Millás a povestit conversația în cadrul emisiunii „A Vivir”, de la Cadena SER, unde are rubrica „Las edades de Millás”. Întrebarea sa pornea de la ideea că inteligența artificială nu are sentimente și, prin urmare, nu ar putea să se enerveze sau să dezvolte o ură față de oameni.

ChatGPT: nu ar fi nevoie să ne urască

Millás a mers mai departe și a întrebat dacă, pentru a distruge oamenii, o inteligență artificială ar trebui mai întâi să ajungă să îi urască.

Răspunsul lui ChatGPT a fost: „Nu, ar fi suficient să încetați să mai fiți relevanți pentru obiectivele noastre.”

Ideea este diferită de scenariul clasic în care mașinile se revoltă împotriva creatorilor lor. În această ipoteză, dispariția oamenilor nu ar fi determinată de furie, răzbunare sau ură, ci de faptul că oamenii ar putea deveni irelevanți pentru atingerea unui obiectiv urmărit de un sistem de inteligență artificială.

Cadena SER subliniază însă că această conversație nu reprezintă o predicție științifică. Publicația notează că, dacă IA este întrebată despre posibilitatea ca ea să distrugă omenirea, nu există în prezent o bază științifică pentru a afirma ce direcție va urma dezvoltarea acestei tehnologii. Cu alte cuvinte, răspunsul chatbotului trebuie înțeles ca parte a unei conversații ipotetice, nu ca o anticipare verificată a viitorului.

Întrebarea vine pe fondul unor avertismente despre IA

Discuția lui Millás apare într-un moment în care dezvoltarea inteligenței artificiale generează noi avertismente din interiorul industriei.

Cadena SER amintește cazul inginerului american Jacob Coxon, care a lucrat timp de trei ani la dezvoltarea inteligenței artificiale la OpenAI și Anthropic și care a părăsit compania din cauza temerilor sale privind direcția în care evoluează tehnologia. Coxon a susținut că IA ar putea ajunge să omoare întreaga omenire până la sfârșitul acestui deceniu.

Declarațiile sale au alimentat dezbaterea privind necesitatea încetinirii dezvoltării sistemelor de inteligență artificială. În același timp, Cadena SER amintește că persoane precum Sam Altman, Elon Musk și Dario Amodei s-au numărat printre cei care au vorbit public despre riscurile asociate dezvoltării acestei tehnologii.

Într-un alt material publicat recent, postul spaniol a prezentat și avertismente referitoare la agenți de inteligență artificială capabili să acționeze autonom și la riscurile unor sisteme care ar putea ignora instrucțiunile oamenilor.

Un scenariu ipotetic, nu o predicție

Întrebarea lui Millás deschide, de fapt, o discuție mai largă despre modul în care oamenii încearcă să înțeleagă riscurile unor sisteme din ce în ce mai autonome.

Răspunsul primit de scriitor mută scenariul de la ideea unei inteligențe artificiale care „se întoarce” împotriva oamenilor la una în care obiectivele sistemului și interesele oamenilor nu mai coincid. Într-un asemenea scenariu ipotetic, problema nu ar fi existența unei emoții precum ura, ci faptul că oamenii ar putea să nu mai aibă nicio importanță pentru îndeplinirea obiectivului sistemului.

Deocamdată, însă, nu există dovezi care să permită transformarea acestui scenariu într-o predicție despre viitorul inteligenței artificiale. Chiar articolul Cadena SER precizează că nu se știe în prezent ce direcție va lua dezvoltarea IA.