Un instrument AI de transcriere, folosit în spitale, inventează texte şi tratamente medicale false

OpenAI şi-a prezentat instrumentul ca având o „ soliditate şi o acurateţe apropiată de nivelul uman”. Totuşi, Whisper este predispus să inventeze bucăţi de text sau chiar propoziţii întregi, conform interviurilor cu peste 10 ingineri de software, dezvoltatori şi cercetători universitari.

Aceşti experţi au declarat că unele dintre textele inventate - cunoscute în industrie drept halucinaţii - includ comentarii rasiale, retorică violentă şi chiar tratamente medicale imaginare.

Experţii au declarat că astfel de invenţii sunt problematice, deoarece Whisper este utilizat într-o serie de industrii din întreaga lume pentru a traduce şi transcrie interviuri, a genera texte şi a crea subtitrări pentru videoclipuri.

Ei au mai declarat că şi mai îngrijorătoare este graba centrelor medicale de a utiliza Whisper pentru a transcrie consultaţiile pacienţilor cu medicii, în ciuda avertismentelor OpenAI, care a spus că instrumentul nu ar trebui utilizat în „domenii cu risc ridicat”.

Astfel de greşeli ar putea avea „consecinţe foarte grave”, în special în mediul spitalicesc, a declarat Alondra Nelson, care a condus Biroul de politici ştiinţifice şi tehnologice al Casei Albe pentru administraţia Biden, până anul trecut.

„Nimeni nu îşi doreşte un diagnostic greşit”, a adăugat Nelson. „Ar trebui să existe un standard mai ridicat”.

Whisper este, de asemenea, utilizat pentru a crea subtitrări pentru persoanele surde şi cu deficienţe de auz - o populaţie expusă unui risc deosebit de transcrieri greşite.

Peste 30.000 de medici şi 40 de sisteme de sănătate, inclusiv Clinica Mankato din Minnesota şi Spitalul de Copii din Los Angeles, au început să folosească Whisper.