Un laureat Nobel avertizează că inteligența artificială ar putea provoca un „Cernobîl digital”. Ce riscuri vede Geoffrey Hinton
Într-un interviu acordat publicației britanice The Guardian, Geoffrey Hinton, în vârstă de 78 de ani, a declarat că inteligența artificială ar putea declanșa un incident de amploare, capabil să afecteze infrastructuri esențiale.
Cercetătorul a comparat unele incidente recente de securitate informatică asociate agenților AI cu accidentul nuclear de la Three Mile Island, din 1979, considerându-le semnale de avertizare.
Hinton estimează că un eveniment mult mai grav ar putea apărea până la sfârșitul acestui an sau în 2027, folosind analogia unui accident de tip Cernobîl.
Acesta nu se referă la un dezastru nuclear propriu-zis, ci la posibilitatea ca inteligența artificială să fie utilizată pentru atacuri asupra rețelelor electrice sau a sistemelor financiare.
Un asemenea incident ar putea provoca întreruperi masive ale alimentării cu energie ori blocarea sistemului financiar timp de o săptămână.
„Poate că ne-ar fi fost mai bine dacă nu am fi dezvoltat-o”
Deși recunoaște potențialul inteligenței artificiale de a transforma pozitiv societatea, Hinton consideră că riscurile nu pot fi ignorate.
„Poate că ne-ar fi fost mai bine dacă nu am fi dezvoltat-o niciodată”, a declarat cercetătorul.
El estimează că, în cel mult zece ani, omenirea va putea înțelege dacă este capabilă să controleze riscurile acestei tehnologii.
În scenariul optimist, AI ar putea genera o prosperitate fără precedent. În cel pesimist, dezvoltarea sa ar putea accentua diferențele dintre bogați și săraci, provoca șomaj masiv și alimenta tensiuni sociale.
Critici la adresa marilor companii tehnologice
Hinton i-a criticat pe liderii unor companii importante din domeniul tehnologiei, printre care Sam Altman, Mark Zuckerberg și Elon Musk, susținând că interesele financiare sunt prioritizate în detrimentul siguranței.
Cercetătorul a cerut introducerea unor reguli internaționale mai stricte, inclusiv testarea obligatorie și evaluarea independentă a modelelor AI înainte de lansarea acestora.
El a comparat această procedură cu autorizarea medicamentelor, argumentând că dezvoltatorii ar trebui să demonstreze că beneficiile tehnologiei depășesc riscurile.
Ce ar putea însemna aceste riscuri
Avertismentele lui Hinton privesc toate statele unde funcționarea băncilor, a serviciilor publice și a infrastructurii energetice depinde tot mai mult de sisteme informatice.
Un atac cibernetic major facilitat de inteligența artificială ar putea avea consecințe și asupra acestor sectoare.
Hinton, care a părăsit Google în 2023 pentru a putea vorbi liber despre riscurile AI, rămâne totuși optimist că acestea pot fi gestionate.
El consideră că omenirea deține încă suficient control pentru a preveni scenariile extreme, dar numai dacă guvernele și companiile vor investi eforturi considerabile în siguranța tehnologiei.