Integration von Apple Health und ChatGPT: Bedenken hinsichtlich ungenauer und inkonsistenter Diagnosen

Jüngste Entwicklungen im Bereich der Gesundheitstechnologie haben die Partnerschaft zwischen Apple Health und ChatGPT Health in den Fokus gerückt. Ein investigativer Bericht der Washington Post hat kritische Bedenken hinsichtlich der Genauigkeit und Zuverlässigkeit KI-gestützter Gesundheitsdiagnosen von ChatGPT Health aufgeworfen und Skeptiker in ihrer Ansicht bestärkt, KI sei lediglich eine hochentwickelte Nachahmung menschlicher Intelligenz.

Aufdeckung der Schwächen der Integration von Apple Health und ChatGPT Health

Anfang Januar wurde damit geworben, dass der ChatGPT Health-Dienst von OpenAI Nutzern präzise Gesundheitsinformationen liefern kann, indem er sich sicher mit persönlichen medizinischen Daten und Wellness-Apps wie Apple Health, Function und MyFitnessPal synchronisiert. Ziel dieser Integration ist es, Nutzern zu helfen, aktuelle medizinische Befunde zu verstehen, sich auf Arztbesuche vorzubereiten, individuelle Ernährungs- und Fitnessempfehlungen zu erhalten und ihre Krankenversicherungsoptionen basierend auf ihrem Gesundheitsverhalten zu verstehen.

Die Ergebnisse der Untersuchung der Washington Post offenbaren jedoch besorgniserregende Mängel beim Vertrauen in die Interpretationen von persönlichen Gesundheitsdaten durch ChatGPT Health, die von Plattformen wie Apple Health stammen.

In einem aufschlussreichen Experiment stellte Reporter Geoffrey Fowler ChatGPT Health einen beeindruckenden Datensatz zur Verfügung: 29 Millionen Schritte und 6 Millionen Herzfrequenzmessungen, die in seiner Apple Health App aufgezeichnet wurden. Bei der Bewertung seiner Herzgesundheit vergab der Chatbot die vernichtende Note „ungenügend“.Erstaunlicherweise wies Fowlers Arzt diese Bewertung zurück und erklärte, seine Gesundheitsrisiken seien deutlich geringer und weitere Untersuchungen seien nicht notwendig. Er deutete sogar an, dass die Krankenkasse möglicherweise keine zusätzlichen Untersuchungen übernehmen würde, um die unbegründete Schlussfolgerung der Software zu widerlegen.

Noch alarmierender war Fowlers Entdeckung, dass die Beurteilung des Chatbots inkonsistent war. Die erneute Beantwortung derselben Frage durch ChatGPT Health führte zu Noten zwischen „gut“ und „ungenügend“.Diese Schwankungen verdeutlichen das Fehlen eines zuverlässigen Diagnosemodells und geben Anlass zu erheblichen Bedenken hinsichtlich potenzieller Gefahren. Diese Diskrepanzen haben schwerwiegende Folgen für Apples Ziel, den Apple Health-Dienst mit fortschrittlichen KI-Funktionen auszustatten.

Quellen & Bilder