최근 의료 기술 분야의 발전으로 애플 헬스와 챗GPT 헬스의 파트너십에 관심이 집중되고 있습니다.워싱턴 포스트 의 탐사 보도는 챗GPT 헬스가 제공하는 AI 기반 건강 진단의 정확성과 신뢰성에 대한 심각한 우려를 제기했으며, 이는 AI가 인간 지능을 정교하게 모방한 것에 불과하다는 회의론자들의 주장을 더욱 강화시키고 있습니다.
Apple Health와 ChatGPT Health 연동의 결함을 밝히다
지난 1월 초, 오픈아이(OpenAI)의 챗GPT 헬스(ChatGPT Health) 서비스가 애플 헬스(Apple Health), 플루이드(Function), 마이피트니스팔(MyFitnessPal)과 같은 개인 의료 기록 및 건강 관리 애플리케이션과 안전하게 동기화하여 사용자에게 정확한 건강 정보를 제공할 수 있다고 홍보되었습니다.이러한 통합의 목표는 사용자가 최근 의료 검사 결과를 이해하고, 병원 방문을 준비하며, 맞춤형 식단 및 운동 조언을 받고, 건강 행동에 기반한 의료 보험 옵션을 파악하도록 돕는 것이었습니다.
하지만 워싱턴 포스트의 조사 결과는 애플 헬스와 같은 플랫폼에서 얻은 개인 건강 데이터를 ChatGPT Health가 해석하는 방식에 신뢰성을 부여하는 데 있어 심각한 결함이 있음을 보여줍니다.
놀라운 실험에서 기자 제프리 파울러는 챗GPT 헬스에 엄청난 양의 데이터 세트, 즉 애플 헬스 앱에 기록된 2, 900만 걸음과 600만 건의 심박수 측정값을 제공했습니다.심장 건강을 평가했을 때, 챗봇은 꼴찌인 F 등급을 내렸습니다.더욱 충격적인 것은 파울러의 주치의가 이 평가를 일축하며 그의 건강 위험이 훨씬 낮고 추가 검사는 필요 없다고 밝혔다는 점입니다.심지어 주치의는 보험사에서 소프트웨어의 근거 없는 결론에 이의를 제기하기 위한 추가 검사 비용을 부담하지 않을 수도 있다고까지 말했습니다.
더욱 심각한 것은 파울러가 챗봇의 평가가 일관성이 없다는 사실을 발견했다는 점입니다. ChatGPT Health에 동일한 질문을 다시 던지자 B와 F 사이를 오르락내리락하는 결과가 나왔습니다.이러한 변동은 해당 서비스의 신뢰할 수 있는 진단 체계가 부족함을 보여주며, 잠재적 위험성에 대한 심각한 우려를 불러일으킵니다.이러한 불일치는 애플이 첨단 AI 기능을 통해 애플 헬스 서비스를 개선하고자 하는 목표에 중대한 영향을 미칠 수 있습니다.
답글 남기기