Google: Nu aveți încredere oarbă în AI, inventează răspunsuri și o face pentru a ne mulțumi

Directorul general al Alphabet, Sundar Pichai, a atras atenția că oamenii nu ar trebui să aibă „încredere oarbă” în instrumentele de inteligență artificială, deoarece acestea pot produce informații greșite sau chiar inventate. Într-un interviu acordat marți postului BBC, șeful companiei-mamă a Google a subliniat că modelele AI sunt „predispuse la erori” și trebuie folosite cu discernământ.

„Trebuie să învățăm să folosim aceste instrumente pentru ceea ce știu ele să facă bine și să nu avem încredere oarbă în tot ce spun”, a declarat Pichai, explicând că tehnologia actuală nu poate garanta acuratețea absolută.

El a menționat că, deși Google depune eforturi uriașe pentru a oferi informații cât mai precise, „tehnologia AI de ultimă generație este predispusă la unele erori”.

Google, sub presiune din cauza greșelilor AI

Avertismentul vine după ce utilizatorii au semnalat numeroase răspunsuri greșite generate de produse Google, inclusiv de sistemul AI Overviews, care rezumă rezultatele căutărilor. Unele răspunsuri au fost atât de bizare încât au stârnit ironii în mediul online.

Tendința modelelor generative de a furniza informații false sau înșelătoare a devenit deja o preocupare serioasă pentru specialiști.

„Știm că aceste sisteme inventează răspunsuri și o fac pentru a ne mulțumi, iar asta e o problemă”, a subliniat Gina Neff, profesor specializat în folosirea responsabilă a inteligenței artificiale la Universitatea Queen Mary din Londra.

Șeful Google avertisment pentru medici și profesori: Oamenii care vor avea succes în aceste profesii sunt cei care învață să folosească aceste instrumente

Avertismentul șefului Google: Dacă bula AI se sparge toată lumea va fi afectată

Erori persistente în lumea inteligenței artificiale

Cercetări recente ale BBC au arătat că asistenții AI, inclusiv ChatGPT, Copilot, Gemini și Perplexity, au oferit răspunsuri cu „semnificative inexactități” atunci când au fost întrebați despre articole de presă reale. În ciuda progreselor, aceștia „continuă să interpreteze greșit știrile în 45% din cazuri”, rata de eroare fiind îngrijorător de mare”.

Google încearcă să mențină ritmul rapid al inovației, dar și să evite riscurile asociate. „Pentru noi, a fi responsabili înseamnă să fim în același timp curajoși și prudenți, chiar în condițiile în care consumatorii ne cer să avansăm rapid”, a spus Pichai.

Compania a crescut investițiile în securitatea AI proporțional cu investițiile în dezvoltarea tehnologiei și chiar a lansat instrumente open-source pentru a detecta imaginile generate artificial. „De exemplu, publicăm cod open-source care vă va permite să detectați dacă o imagine este generată de AI”, a spus șeful Alphabet.

Controlul unic asupra AI, cu adevărat îngrijorător

Contrazicând criticele formulate anterior de Elon Musk, potrivit cărora DeepMind ar putea duce la o „dictatură AI”, Pichai a respins ideea că tehnologia ar putea intra sub controlul exclusiv al unui singur actor. „Nicio companie nu ar trebui să dețină o tehnologie atât de puternică precum AI”, a spus el, subliniind că actualul ecosistem este suficient de divers pentru a evita un astfel de scenariu.

„Dacă ar exista o singură companie care ar construi tehnologia AI și toți ceilalți ar depinde de ea, m-aș îngrijora și eu. Dar suntem foarte departe de asta”.