Unul dintre „nașii” inteligenței artificiale lansează critici: Ultimele modele mint utilizatorii

Într-un interviu pentru Financial Times (FT), Bengio a declarat că „există, din păcate, o cursă foarte competitivă între cele mai importante laboratoare, care le împinge să se concentreze pe capacitatea de a face inteligența artificială din ce în ce mai inteligentă, dar nu pun neapărat suficient accent și nu investesc suficient în cercetarea privind siguranța”.

Bengio a fondat un grup non-profit numit LawZero, care se concentrează pe construirea unor sisteme mai sigure. El a declarat că inițiativa sa a apărut ca un răspuns la dovezile din ce în ce mai numeroase din ultima jumătate de an conform cărora modelele de vârf de astăzi își dezvoltă capacități periculoase. Acestea includ „dovezi de înșelăciune, trișare, minciună și autoconservare”, a spus el pentru FT.

Bengio a adus în discuție, drept exemplu, situația în care modelul Claude Opus al Anthropic a șantajat inginerii într-un scenariu fictiv în care risca să fie înlocuit de un alt sistem.

„Acestea sunt experimente controlate [dar] îngrijorarea mea este că, oricând în viitor, următoarea versiune ar putea fi suficient de inteligentă din punct de vedere strategic pentru a ne vedea venind de departe și a ne învinge cu înșelătorii pe care nu le anticipăm. Așadar, cred că ne jucăm cu focul chiar acum”, a conchis Yoshua Bengio.