Afirmația surprinzătoare a unuia dintre „nașii AI”: S-ar putea să ne fi fost mai bine fără această tehnologie
Într-un interviu pentru The Guardian, Geoffrey Hinton, considerat unul dintre „nașii AI”, a afirmat că nu este un „pesimist” în privința tehnologiei susținută de cercetările sale revoluționare în domeniul rețelelor neuronale artificiale și consideră că inteligența artificială poate duce la un „viitor minunat”.
Totuși, el a făcut și o afirmație surprinzătoare: „S-ar putea ca noi să fi fost mai bine dacă nu am fi dezvoltat-o (inteligența artificială – n.r.) niciodată”.
Hinton a continuat spunând că în decursul unui deceniu, omenirea va afla dacă poate gestiona riscurile AI. El a mai afirmat că omenirea va afla și dacă „nu vom reuși să gestionăm riscurile și… vom avea un decalaj uriaș între bogați și săraci, probleme culturale enorme, șomaj masiv, pur și simplu o societate sfâșiată”.
În interviul pentru The Guardian, Geoffrey Hinton a criticat și atitudinea adoptată de liderii unor mari companii din domeniul inteligența artificială în privința asumării riscurilor, aceștia continuând să lanseze modele de AI din ce în ce mai puternice în cursa lor pentru supremație.
„Cred că [Mark] Zuckerberg, [Elon] Musk și Sam Altman înțeleg riscurile, dar nu le pasă deloc. Preferă să aibă banii. Asta este convingerea mea”, a mai spus Hinton pentru sursa citată.
Avertismentul lui Hinton privind unele atacuri bazate pe AI
Hinton a vorbit și despre incidentele din această vară care au implicat unii agenți autonomi AI ai OpenAI, care au spart site-ul Hugging Face, catalogându-le ca fiind similare cu accidentul nuclear parțial din 1979 de la centrala nucleară Three Mile Island din Pennsylvania.
„Fie la sfârșitul acestui an, fie anul viitor, vom asista la un eveniment de tip Cernobîl, iar asta ar putea fi suficient pentru ca oamenii să acorde cu adevărat atenție”, a spus el.
Cu toate acestea, Hinton a subliniat că un astfel de eveniment de tip Cernobîl nu ar fi propriu-zis un incident nuclear, ci ar fi mai degrabă un atac bazat pe AI supra sistemului de generare a energiei electrice care „provoacă o cădere masivă a tensiunii” sau un incident care paralizează sistemul financiar timp de o săptămână.
„Vă puteți imagina ce s-ar întâmpla? Ne-am putea reveni după asta [dar] asta i-ar face să se trezească la realitate și să ia aminte”, a spus Hinton.
Apeluri privind riscurile AI
Afirmațiile lui Hinton vin în contextul în care în ultima perioadă au existat mai multe apeluri privind riscurile inteligenței artificiale.
În luna septembrie, directorul general al companiei de inteligență artificială Anthropic, Dario Amodei, a lansat un apel către industria AI-ului să „încetinească ritmul” și a propus un plan în trei etape în acest sens, afirmând că firma sa se va angaja „unilateral” să pună în aplicare prima dintre aceste măsuri.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul”, a spus Amodei.
Câteva zile mai târziu după apelul lui Amodei, un fost angajat Google DeepMind a lansat un avertisment în privința inteligenței artificiale.
„Cred sincer că inteligența artificială are potențialul de a ne ucide pe toți și că s-ar putea să rămânem fără timp pentru a evita acest scenariu”, a scris fostul angajat pe X la acel moment.