Un responsabil cu siguranța de la OpenAI a demisionat. Ce avertisment a lansat

David Robinson, un responsabil cu siguranța de la OpenAI, și-a anunțat demisia în această săptămână și a lansat un avertisment privind cultura companiei în dezvoltarea instrumentelor de inteligență artificială.

Robinson a coordonat redactarea rapoartelor de siguranță care însoțeau lansările de produse ale dezvoltatorului ChatGPT.

Într-un text amplu, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson subliniază necesitatea de reformă culturală în cadrul firmelor de vârf din domeniul inteligenței artificiale. În plus, el a atras atenția asupra faptului că recentele incidente de siguranță a agenților AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”, scrie The Guardian. 

„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a spus Robinson într-un material publicat în revista The Atlantic.

În textul scris de el, Robinson a solicitat două modificări în materie de siguranță: ca firmele din domeniul inteligenței artificiale să se bazeze pe expertiza în siguranță din alte domenii, precum cel nuclear și cel al aviației, și să dezvolte o „știință nouă” care să garanteze că sistemele puternice din viitor vor putea fi ținute sub control atunci când funcționează în mod autonom.

Mai mulți angajați din marile companii din domeniul AI au demisionat în ultimele săptămâni

Punctul de vedere al lui Robinson vine la câteva săptămâni după ce Jacob Coxon, cercetător care a lucrat în ultimii ani atât la OpenAI, cât și la Anthropic, și-a depus demisia și și-a anunțat retragerea din industria inteligenței artificiale.

El a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului” – iar acest avertisment a fost urmat de unul din partea Anthropic, conform căruia există o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorul deceniu.

De asemenea, în ultimele săptămâni, OpenAI a dat dovadă de prudență, în urma incidentului Hugging Face. Săptămâna aceasta, compania a anunțat că renunță la lansarea unui model de inteligență artificială de nouă generație, după ce cercetătorii au semnalat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat antrenarea celor mai avansate modele ale sale.