Integracja Apple Health i ChatGPT: Obawy dotyczące niedokładnych i niespójnych diagnoz

Ostatnie wydarzenia w sektorze technologii medycznych zwróciły uwagę na partnerstwo między Apple Health a ChatGPT Health. Raport śledczy „ Washington Post” ujawnił poważne obawy dotyczące dokładności i wiarygodności diagnoz zdrowotnych opartych na sztucznej inteligencji, stawianych przez ChatGPT Health. Skłoniło to sceptyków do utwierdzenia się w przekonaniu, że sztuczna inteligencja to jedynie wyrafinowana imitacja ludzkiej inteligencji.

Ujawnienie luk w integracji Apple Health i ChatGPT Health

Na początku stycznia promowano usługę ChatGPT Health firmy OpenAI, która może zapewnić użytkownikom precyzyjne informacje o stanie zdrowia poprzez bezpieczną synchronizację z osobistymi dokumentami medycznymi i aplikacjami prozdrowotnymi, takimi jak Apple Health, Function i MyFitnessPal. Celem tej integracji było ułatwienie użytkownikom zrozumienia wyników ostatnich badań lekarskich, przygotowania się do wizyt lekarskich, udzielania spersonalizowanych porad dietetycznych i fitnessowych oraz zapoznania się z opcjami ubezpieczenia zdrowotnego opartymi na ich zachowaniach zdrowotnych.

Jednak wyniki śledztwa przeprowadzonego przez Washington Post ujawniają niepokojące braki w zaufaniu do interpretacji danych dotyczących osobistego stanu zdrowia uzyskanych z platform takich jak Apple Health dokonywanych przez ChatGPT Health.

W odkrywczym eksperymencie reporter Geoffrey Fowler udostępnił ChatGPT Health oszałamiający zbiór danych – 29 milionów kroków i 6 milionów pomiarów tętna zarejestrowanych w jego aplikacji Apple Health. Po ocenie stanu zdrowia serca, chatbot wystawił żałosną ocenę F. Co zaskakujące, lekarz Fowlera odrzucił tę ocenę, wskazując, że ryzyko zdrowotne jest znacznie niższe i że dalsze badania nie będą konieczne, sugerując nawet, że ubezpieczenie może nie pokryć kosztów dodatkowych badań podważających bezpodstawne wnioski oprogramowania.

Co jeszcze bardziej niepokojące, Fowler odkrył, że ocena chatbota była niespójna. Ponowne zadanie tego samego pytania ChatGPT Health skutkowało oscylacją ocen między B a F. Takie wahania podkreślają brak wiarygodnych ram diagnostycznych w usłudze i budzą poważne obawy dotyczące potencjalnych zagrożeń. Te rozbieżności stanowią poważne implikacje dla celów Apple, polegających na ulepszeniu usługi Apple Health o zaawansowane możliwości sztucznej inteligencji.

Źródło i obrazy