G4Media: Inteligența artificială nu poate distruge omenirea din proprie inițiativă, spune expertul Marius Leordeanu. Care este adevăratul pericol

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Inteligența artificială în forma sa actuală nu are conștiință, deoarece aceasta necesită un trup fizic și instinct de supraviețuire, și nu are potențialul de a distruge lumea din proprie inițiativă, a declarat Marius Leordeanu, profesor de Computer Science la Universitatea Politehnica din București (UPB), la podcastul „Frontier Defense” (Ep. 21), găzduit de G4Media.

Riscul major actual este ca oamenii să acorde acestor sisteme o încredere oarbă, prin delegarea gândirii și a capacității de decizie.

„Nu, nu. Nu are potențialul de a distruge lumea, noi suntem mult mai puternici de atât, am trecut prin ciumă, am trecut prin atâtea perioade grele ale omenirii, am trecut prin atâtea războaie, am trecut prin războaie cu bombe atomice, cu probleme serioase, prin Holocaust, noi am învins. Eu cred în puterea oamenilor mai mult decât în aceste sisteme”, a declarat profesorul.

Supercomputer pentru inteligență artificială în România. Cercetătorii și companiile vor putea dezvolta și antrena modele AI

Marius Leordeanu, care este unul dintre cei mai importanți cercetători și experți români în domeniile AI și Computer Vision, a spus că explozia recentă a inteligenței artificiale nu provine din concepte teoretice noi, întrucât rețelele neurale există din anii 1950, ci din momentul în care algoritmii s-au întâlnit cu o putere hardware masivă și cu un volum uriaș de date. Potrivit lui, modelele precum ChatGPT funcționează prin prezicerea următorului cuvânt și asimilează tipare peste tipare, ceea ce le permite să ofere răspunsuri extrem de fluente fără a poseda un model real și logic al lumii fizice. De aceea, unii oameni tind să antropomorfizeze.

„A vorbi fluent nu este neapărat egal cu a gândi coerent”

„Când sunt foarte multe tipare, tipare peste tipare, prin accesul la atât de multe documente, sistemul dă un răspuns plauzibil sau un răspuns care pare logic fără a fi în spate un model al lumii și o logică”, a explicat profesorul, care a obținut doctoratul în Robotică la prestigioasa Carnegie Mellon University din SUA în anul 2009. „A vorbi fluent nu este neapărat egal cu a gândi coerent, gândirea și vorbirea nu sunt același lucru”, a adăugat acesta.

Promovarea conceptului de „superinteligență” sau inteligență artificială generală (Artificial General Intelligence – AGI) este susținută frecvent de politicieni și directori de companii dintr-un interes pur economic, potrivit invitatului. Creșterea interesului public pentru aceste tehnologii generează profituri de sute de miliarde de dolari. Din acest motiv, companiile ignoră necesitatea de a frâna ritmul dezvoltării, de a testa siguranța sistemelor și de a analiza riscurile.

„Toată lumea vorbește de inteligență artificială generală și le convine într-un anumit sens. Cu cât crește mai mult interesul în modelele pe care ei le fac, cu atât câștigă mai bine. Este un interes pur economic pe de o parte sau politic”, a explicat Marius Leordeanu.

Mai multe pe G4Media