Sam Altman warnt: ChatGPT ist kein Therapeut – Ihre vertraulichen Gespräche können ohne rechtlichen Schutz vor Gericht gegen Sie verwendet werden

Da die Abhängigkeit von KI-Tools zunimmt, wenden sich viele Nutzer an diese Plattformen, um vielfältige Unterstützung zu erhalten, darunter medizinische Beratung, persönliche Unterstützung und professionelle Beratung. Dieser Trend hat KI-Chatbots zu virtuellen persönlichen Assistenten gemacht, auf die sich viele Menschen bei alltäglichen Herausforderungen verlassen. Diese wachsende Abhängigkeit weckt jedoch Bedenken hinsichtlich einer übermäßigen Abhängigkeit, insbesondere hinsichtlich der Vertraulichkeit und Sicherheit sensibler Informationen, die mit diesen Plattformen geteilt werden. Kürzlich rief Sam Altman, CEO von OpenAI, Nutzer dazu auf, bei der Nutzung von KI für persönliche Angelegenheiten vorsichtig zu sein, und warnte davor, sehr persönliche Informationen ohne Schutzmaßnahmen preiszugeben.

Sam Altman warnt: ChatGPT mangelt es an Vertraulichkeit zwischen Therapeut und Klient

KI-Technologien entwickeln sich rasant weiter und zeichnen sich durch verbesserte emotionale Intelligenz und Gesprächsfähigkeiten aus. Daher nutzen immer mehr Menschen Chatbots für therapeutische oder emotionale Unterstützung. Im Gegensatz zur konventionellen Therapie, bei der die Vertraulichkeit der Patientendaten im Vordergrund steht, fehlt es bei KI an einem rechtlichen Rahmen, der den Schutz vertraulicher Gespräche gewährleistet. Dies war ein Punkt, den Sam Altman kürzlich in seinem Podcast „This Past Weekend“ mit Theo Van hervorhob, wie TechCrunch berichtete. Er warnte davor, bei schwerwiegenden persönlichen Problemen emotionale Unterstützung von KI-Tools zu suchen.

Während der Diskussion räumte Altman die zunehmende emotionale Reaktionsfähigkeit von KI-Tools ein, die bei den Nutzern eine Illusion von Privatsphäre erzeugen könne. Er riet jedoch dringend davon ab, sich bei der therapeutischen Beratung auf KI zu verlassen. Der grundlegende Unterschied zwischen KI und professionellen psychiatrischen Diensten liege im strukturierten rechtlichen Schutz letzterer. Bis entsprechende Regelungen geschaffen seien, forderte Altman die Nutzer auf, KI-Tools als Ergänzung und nicht als Ersatz für traditionelle Therapien zu betrachten. Er äußerte seine Bedenken hinsichtlich der Auswirkungen, KI als Vertraute zu behandeln, und erklärte:

Menschen reden mit ChatGPT über die persönlichsten Dinge ihres Lebens. Besonders junge Menschen nutzen ChatGPT als Therapeuten und Lebensberater. Sie haben Beziehungsprobleme und fragen sich: „Was soll ich tun?“ Und wenn man heute mit einem Therapeuten, Anwalt oder Arzt über diese Probleme spricht, gilt die ärztliche Schweigepflicht. Es gilt die ärztliche Schweigepflicht, die anwaltliche Schweigepflicht und so weiter. Und das haben wir für ChatGPT noch nicht geklärt.

Angesichts der fehlenden rechtlichen Vertraulichkeit im Zusammenhang mit KI-Interaktionen rät Altman zu einem vorsichtigen Umgang mit diesen Tools, insbesondere in sensiblen Szenarien. Sollte beispielsweise jemand mit rechtlichen Problemen konfrontiert werden, könnte OpenAI möglicherweise gezwungen sein, Gespräche offenzulegen, was zum Verlust der Privatsphäre führen würde. Altman äußerte den Wunsch, dass KI irgendwann einen ähnlichen Datenschutz erhält, bedauerte jedoch, dass der rasante technologische Fortschritt die Schaffung notwendiger rechtlicher Rahmenbedingungen überholt habe.

Quelle & Bilder