Integração entre Apple Health e ChatGPT: preocupações com diagnósticos imprecisos e inconsistentes

Os recentes desenvolvimentos no setor de tecnologia da saúde chamaram a atenção para a parceria entre o Apple Health e o ChatGPT Health. Uma reportagem investigativa do Washington Post revelou preocupações críticas quanto à precisão e confiabilidade dos diagnósticos de saúde baseados em inteligência artificial feitos pelo ChatGPT Health, levando os céticos a reforçarem suas visões de que a IA é meramente uma imitação sofisticada da inteligência humana.

Expondo as falhas na integração entre o Apple Health e o ChatGPT Health.

No início de janeiro, foi anunciado que o serviço ChatGPT Health da OpenAI poderia fornecer aos usuários informações precisas sobre saúde, sincronizando-se de forma segura com registros médicos pessoais e aplicativos de bem-estar, como Apple Health, Functions e MyFitnessPal. O objetivo dessa integração era auxiliar as pessoas a compreenderem exames médicos recentes, se prepararem para consultas médicas, receberem orientações personalizadas sobre dieta e exercícios físicos e entenderem as opções de planos de saúde com base em seus hábitos de saúde.

No entanto, as conclusões da investigação do Washington Post revelam deficiências preocupantes na confiança depositada nas interpretações da ChatGPT Health sobre dados pessoais de saúde obtidos em plataformas como o Apple Health.

Em um experimento revelador, o repórter Geoffrey Fowler forneceu ao ChatGPT Health um conjunto de dados impressionante: 29 milhões de passos e 6 milhões de medições de batimentos cardíacos registradas em seu aplicativo Saúde da Apple. Ao avaliar sua saúde cardíaca, o chatbot atribuiu uma nota péssima, F. Surpreendentemente, o médico de Fowler descartou essa avaliação, indicando que seus riscos à saúde eram significativamente menores e que exames adicionais não seriam necessários, chegando a sugerir que o plano de saúde poderia não cobrir avaliações adicionais para contestar a conclusão infundada do software.

Ainda mais alarmante, Fowler descobriu que a avaliação do chatbot era inconsistente. Ao repetir a mesma pergunta para o ChatGPT Health, as notas oscilavam entre B e F. Essas flutuações evidenciam a falta de uma estrutura de diagnóstico confiável no serviço e levantam sérias preocupações sobre seus potenciais perigos. Essas discrepâncias apresentam implicações graves para os objetivos da Apple de aprimorar o serviço Apple Health com recursos avançados de IA.

Fonte e imagens