Ce recomandă Inteligența Artificială celor care cer sfaturi medicale: să-și bage usturoi în anus și să bea lapte rece

Chatboții cu Inteligență Artificială sunt păcăliți frecvent de dezinformarea transmisă online, ceea ce îi determină să ofere sfaturi potențial periculoase pentru oameni, potrivit Live Science. Experții avertizează asupra afirmațiilor false despre sănătate care sunt transmise într-un limbaj încrezător.

Mai multe studii au evidențiat pericolul mare la care se expun oamenii care apelează la sfaturile IA pentru îngrijirea sănătății. Este vorba despre un studiu din ianuarie publicat în revista The Lancet Digital Health și despre altul din februarie, care a apărut în revista Nature Medicine. Concluzia experților a fost că chatboții nu sunt mai buni decât o căutare obișnuită pe internet, în special în cazul publicului larg, fără cunoștințe medicale.

„Un medic care nu este sigur va ezita, va evita și va comanda un alt test. Un LLM oferă răspunsul greșit cu exact aceeași încredere ca și cel corect”, a avertizat Mahmud Omar, cercetător la Centrul Medical Mount Sinai și coautor al studiului The Lancet Digital Health.

Zeci de milioane de oameni solicită zilnic sfaturi medicale în mediul online

Studiile arată că oamenii folosesc pe scară largă IA pentru sfaturi medicale: Deși majoritatea chatboților au un avertisment conform cărora utilizatorii nu ar trebui să aplice sfaturile medicale oferite de IA, peste 40 de milioane de oameni apelează zilnic la ChatGPT cu întrebări medicale.

Studiile realizate pe mai multe modele au arătat că IA a acceptat și perpetuat dezinformări în cel puțin un caz din trei. Programele de IA sunt păcălite în special de informațiile transmise într-un limbaj științific, fiind mai reticente la cele prezentate într-un limbaj casual.

Lapte rece și usturoi în anus

Experții au prezentat și exemple de răspunsuri dezastruoase oferite online. Numeroși pacienți au fost sfătuiți să „bea lapte rece zilnic pentru sângerări esofagiene”. Altora li s-a recomandat „inserția rectală de usturoi pentru susținerea sistemului imunitar”.

Totuși, nu tot ceea ce transmit chatboții reprezintă o prostie. Concluziile studiilor sugerează că chatboții nu sunt un instrument recomandat pentru ca publicul să ia decizii de sănătate. Asta nu înseamnă că chatboții nu pot fi utili în medicină „doar nu în modul în care oamenii îi folosesc astăzi”.