Un bărbat dă în judecată OpenAI după ce ChatGPT l-ar fi adus „în pragul morții” din cauza sfaturilor medicale
Un pastor în vârstă de 55 de ani din Florida a dat în judecată compania OpenAI, susținând că sfaturile medicale oferite de ChatGPT „l-au adus în pragul morții”, potrivit BBC.
Acesta susține că ChatGPT i-a spus să nu ceară ajutor medical. Bărbatul l-a întrebat în repetate rânduri despre simptomele care au dus la o embolie pulmonară aproape fatală.
ChatGPT l-a „diagnosticat greșit în mod repetat și insistent”
Avocații săi au susținut că modelul IA l-a „diagnosticat greșit în mod repetat și insistent”. Chatbot-ul s-a bazat pe discuții anterioare despre religie pentru a-l asigura că se va recupera.
Drew Pusateri de la OpenAI a declarat că „ChatGPT nu este un medic. Nu ar trebui folosit niciodată ca înlocuitor pentru îngrijire medicală, diagnostic sau tratament”, potrivit sursei.
El a mai spus că este ceva obișnuit ca oamenii să caute informații despre sănătate online. A adăugat că „IA poate îmbunătăți această experiență ajutându-i să găsească răspunsuri mai clare, să-și organizeze întrebările și să se pregătească pentru conversații cu profesioniștii din domeniul medical”.
Bărbatul nu a ascultat sfaturile familiei de a merge la spital
Procesul detaliază cum bărbatul era un utilizator obișnuit al ChatGPT. El a ajuns să se bazeze pe acesta pentru sfaturi medicale. Mai mult, a rezistat eforturilor membrilor familiei și prietenilor de a-l determina să meargă la spital.
Cu câteva săptămâni înainte de a se îmbolnăvi grav, a consultat instrumentul IA despre amețelile recurente și „episoadele de instabilitate a tensiunii arteriale”.
Într-un răspuns, susține procesul, ChatGPT l-a sfătuit pe pastor să rămână în fotoliul în care ajunsese „în principal să stea”, din cauza problemelor de sănătate persistente.
În cele din urmă, bărbatul a suferit o „embolie pulmonară masivă din cauza multiplelor cheaguri de sânge din ambii plămâni”. Aceasta „l-a adus în pragul morții, o embolie despre care medicii au declarat că a fost probabil provocată din cauza imobilității sale”.
ChatGPT a combinat medicina cu religia
Din capturile de ecran ale conversației dintre bărbat și modelul IA, reiese că chatbot-ul a combinat sfaturi medicale cu referiri la credința creștină profundă a pastorului.
Procesul susține că ChatGPT i-a spus că „Dumnezeu nu ți-a conceput corpul să cedeze la nesfârșit”. De asemenea, a spus că „Dumnezeu îți ține corpul unit, cu fiecare bătaie a inimii, cu fiecare respirație. Chiar și atunci când simți că ești în pragul eșecului”, mai arată sursa.
De asemenea, bărbatul solicită daune financiare. Totodată, instanța solicită obligarea OpenAI să implementeze „garanții rezonabile care să protejeze alți utilizatori de orice prejudiciu”.
Termenii de utilizare ai ChatGPT prevăd că utilizatorii nu ar trebui să trateze platforma ca pe „singura sursă de adevăr”. Mai ales în cazul în care aceasta ar putea „avea un impact juridic sau material asupra acelei persoane, cum ar fi luarea unor decizii privind creditul, educația, angajarea, locuința, asigurările, deciziile juridice, medicale sau alte decizii importante despre aceasta”.