Anthropic avertizează: un moment critic pentru omenire se apropie rapid

Cercetătorul-șef al companiei Anthropic, Jared Kaplan, avertizează că omenirea se apropie rapid de un moment crucial, care ar putea decide dacă inteligența artificială va ajuta sau va pune în pericol societatea, conform Futurism.

O alegere cu miză uriașă se profilează până la finalul deceniului

Într-un interviu acordat publicației The Guardian, Kaplan a declarat că, încă din 2027, și cel mai probabil până în 2030, oamenii ar putea fi nevoiți să decidă dacă permit sistemelor de inteligență artificială să se antreneze singure.

O astfel de decizie ar putea declanșa o „explozie a inteligenței”, ducând la apariția unei inteligențe artificiale generale capabile să egaleze sau chiar să depășească inteligența umană.

Deși acest scenariu ar putea accelera progrese majore în știință și medicină, Kaplan avertizează că ar putea împinge dezvoltarea AI dincolo de un control uman real.

Temeri legate de pierderea controlului pe măsură ce AI învață independent

Kaplan a descris auto-antrenarea inteligenței artificiale drept o „decizie cu miză extrem de mare”, subliniind că, odată ce oamenii sunt scoși din proces, supravegherea devine incertă.

El și-a exprimat îngrijorarea față de perfecționarea continuă, un proces prin care sistemele AI se perfecționează singure, fără intervenție umană directă.

Potrivit lui Kaplan, acest lucru ridică întrebări fundamentale despre capacitatea oamenilor de a înțelege sau controla ce fac sistemele AI avansate.

Comunitatea AI rămâne profund divizată

Avertismentele lui Kaplan se alătură celor formulate de alte voci influente din domeniu, precum Geoffrey Hinton sau directorul general al Anthropic, Dario Amodei, care au anticipat perturbări majore pe piața muncii, în special în zona joburilor de birou.

Kaplan susține că AI ar putea prelua majoritatea activităților de tip white-collar în următorii doi-trei ani.

Totuși, nu toți experții împărtășesc această perspectivă, unii, precum Yann LeCun, consideră că arhitecturile actuale ale AI nu vor putea atinge o inteligență generală autentică.

Unii cercetători pun la îndoială chiar dacă AI crește productivitatea, invocând cazuri în care companiile au înlocuit angajați cu sisteme AI, pentru a reveni ulterior asupra deciziei.

Kaplan a recunoscut că progresul AI ar putea stagna, dar a spus că, în opinia sa, avansul rapid rămâne cel mai probabil scenariu.