Czy sztuczna inteligencja poradzi sobie z pacjentem, który wymyka się statystyce?
Dwuletnie dziecko z białaczką zaczyna niespodziewanie krwawić o trzeciej nad ranem. Taką sytuację przedstawia Philippe Pouletty w rozmowie z „Le Figaro”, aby pokazać, jak wiele zależy od człowieka, gdy zagrożenie wymaga natychmiastowego działania. Lekarz musi ocenić stan pacjenta w czasie rzeczywistym, rozpoznać odstępstwo od znanych schematów i zdecydować, co robić dalej. Zdaniem francuskiego medyka nie wystarczy w tej chwili przekonująco brzmiąca odpowiedź programu.
Jego argument wymaga jednak uważnego odczytania, ponieważ rzadkość przypadku nie oznacza automatycznie bezradności każdego narzędzia cyfrowego. Program wytrenowany do konkretnego zadania może być użyteczny, choć ogólny model językowy nie ma danych potrzebnych do bezpiecznego prowadzenia całego leczenia. Pouletty przestrzega przed pomyleniem szybkości wyszukiwania i porządkowania informacji z kliniczną odpowiedzialnością za chorego. W wywiadzie pojawia się też ocena, że AI zagraża kompetencjom „98 proc. lekarzy”; jest to opinia rozmówcy, a nie zweryfikowany wskaźnik naukowy.
Co dzieje się, gdy pacjent nie pasuje do modelu?
Przypadki odbiegające od wzorca ujawniają znaczenie jakości danych, na których oparto działanie systemu, oraz granic jego zastosowania. Badanie opublikowane w „JAMA Network Open” dotyczące uogólniania wyników urządzeń AI dopuszczonych przez FDA zwraca uwagę właśnie na informacje istotne dla oceny ich użycia w szerszej praktyce klinicznej. Nie da się przenieść deklarowanej skuteczności jednego rozwiązania na wszystkie oddziały, populacje i rodzaje pacjentów. Przed zastosowaniem wyniku trzeba wiedzieć, do czego dany system został zaprojektowany.
Równocześnie dane nie pozwalają z góry uznać, że obecność AI na dyżurze jest obciążeniem. W badaniu decyzji lekarzy przy opisach bólu w klatce piersiowej pomoc modelu wiązała się z poprawą ocenianej trafności odpowiedzi w kontrolowanych warunkach. Autorzy eksperymentu dotyczącego wyjaśnień generowanych przez modele w radiologiianalizowali natomiast, czy pokazanie uzasadnienia ułatwia lekarzom wychwytywanie błędnych sugestii. Oba przykłady dotyczą określonych zadań badawczych; żaden nie stanowi dowodu, że chatbot może sam prowadzić nagłą terapię u ciężko chorego dziecka.
Czy więcej badań przesiewowych zawsze oznacza lepszą profilaktykę?
Pouletty proponuje w wywiadzie tomografię całego ciała co dwa lub trzy lata jako drogę do wcześniejszego wykrywania chorób. Tę propozycję trzeba oddzielić od uznanych programów badań kierowanych do osób o określonym ryzyku. American College of Radiology w swoim stanowisku o tomografii całego ciała nie znajduje dostatecznych dowodów, by zalecać taki przesiew osobom bez objawów i wskazuje możliwość niepotrzebnych badań oraz interwencji po przypadkowych znaleziskach. Dostęp do coraz sprawniejszych algorytmów nie usuwa tego podstawowego problemu oceny bilansu korzyści i szkód.
Kto podejmuje decyzję po otrzymaniu podpowiedzi AI?
Odpowiedzialność nie jest cechą interfejsu ani miarą szybkości obliczeń. Publiczny wykaz urządzeń medycznych wykorzystujących AI prowadzony przez FDA pokazuje różnorodność konkretnych zastosowań, które należy oceniać osobno, zgodnie z ich przeznaczeniem. Podczas dyżuru lekarz potrzebuje systemu działającego w znanych granicach, a pacjent osoby zdolnej powiedzieć, dlaczego wybrano właśnie taką drogę postępowania. Rozmowa z Poulettym pozostawia więc ważne pytanie dla szpitali: w jaki sposób włączać programy do pracy, aby zysk z szybkości nie osłabiał umiejętności potrzebnych w chwili wyjątku?
