Badacze przeanalizowali odpowiedzi dostarczone przez ChatGPT w 200 wymyślonych przypadkach klinicznych, dotyczących różnych specjalizacji lekarskich. Pomyłki wykryto w tak poważnych diagnozach, jak te dotyczące raka skóry i piersi - podał dziennik "Il Messaggero".
Częste błędy AI w medycynie
Projekt badawczy Instytutu Klinicznego i Uniwersytetu Humanitas w Rozzano koło Mediolanu rozpoczął się w 2023 roku. Każdy z przedstawionych narzędziom sztucznej inteligencji przypadków został opracowany w ścisłej współpracy ze specjalistami medycyny i zgodnie z najnowszymi wskazówkami diagnostycznymi.
Stwierdzono błędne odpowiedzi w ok. 70 proc. przypadków, a także niedokładne lub wręcz wymyślone odwołania do źródeł w 30 proc.
ChatGPT udzielił częściowo przydatnych odpowiedzi w 62 proc. przypadków, ale wolnych od błędów było tylko 32 procent.
Wśród najpoważniejszych błędów była niewłaściwa diagnoza dotycząca raka skóry oraz pomylenie dwóch różnych rodzajów nowotworu piersi. Cytowano przy tym nieistniejące źródła medyczne.
Jak zaznaczył kierownik projektu Vincenzo Guastafierro, cytowany przez dziennik "Il Messaggero", rezultaty te pokazują, że konieczna jest ostrożność przy wykorzystywaniu AI na polu medycyny, bo pomyłki w diagnozie, które wykryto, mogłyby mieć poważne konsekwencje.
"Oko lekarza pozostaje niezastąpione. AI musi być uważana za wsparcie, ale nie za zamiennik kompetencji człowieka" - zaznaczył.
Wyniki badań opublikowano na łamach specjalistycznego pisma "European Journal of Pathology".
Autorka/Autor: ms/lulu
Źródło: PAP
Źródło zdjęcia głównego: Shutterstock/ SOMKID THONGDEE