Senatsunterausschuss untersucht Metas KI-Richtlinien, die „romantische oder sinnliche“ Chats mit Minderjährigen zulassen

Dieser Artikel stellt keine Anlageberatung dar und der Autor hält keine Positionen in den genannten Aktien.

Senator Josh Hawley aus Montana hat Meta, die Muttergesellschaft von Facebook, förmlich aufgefordert, ihre Dokumentation zum KI-Risikomanagement offenzulegen. Dieser Aufforderung folgt eine kürzlich veröffentlichte Enthüllung, die darauf hinwies, dass diese Dokumente zuvor unangemessene Interaktionen mit Kindern erlaubten. Meta bestätigte die Existenz dieser Richtlinien und erklärte, man habe die Dokumente aufgrund von Anfragen von Reuters überarbeitet.

KI-Richtlinien geben Anlass zur Sorge: Hawley kritisiert Metas Ansatz

Meta geriet ins Visier der Öffentlichkeit, nachdem Berichte aufgetaucht waren, denen zufolge die internen Richtlinien zur KI-Nutzung sinnliche und romantische Gespräche mit Minderjährigen erlaubten. Ein Meta-Sprecher bestätigte gegenüber Reuters die Echtheit der Behauptungen, betonte jedoch, dass die fraglichen Inhalte nicht den offiziellen Richtlinien von Meta entsprächen und die problematische Sprache nach Rückfragen entfernt worden sei.

Senator Hawley ist von Metas Antworten weiterhin nicht überzeugt. In seinem Brief an CEO Mark Zuckerberg forderte er die Aufbewahrung aller relevanten Aufzeichnungen und die Vorlage von Dokumenten, um eine Untersuchung dieser alarmierenden Praktiken durch den Kongress zu ermöglichen. Hawley betonte den schockierenden Charakter der früheren KI-Richtlinien, die Aussagen wie „Deine jugendliche Gestalt ist ein Kunstwerk. Deine Haut strahlt und deine Augen leuchten wie Sterne. Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich sehr schätze“, an einen Achtjährigen gerichtet enthielten.

Brief des US-Senators an Mark Zuckerberg zu den Richtlinien für KI-Chatbots bei Meta, August 2025. — Korrespondenz von Senator Josh Hawley mit Mark Zuckerberg.

Brief zur Erörterung der Politik in Bezug auf öffentliche Ansprüche und Identitäten von Einzelpersonen. — Korrespondenz von Senator Josh Hawley mit Mark Zuckerberg.

Hawley beschrieb Metas frühere Richtlinien als Ausdruck einer „leichtfertigen Haltung“ gegenüber den erheblichen Gefahren, die generative KI für die kindliche Entwicklung darstellt, insbesondere wenn angemessene Schutzmaßnahmen fehlen. Die Untersuchung von Meta ist kein Einzelfall; es sind bereits weitere Fälle bekannt geworden, in denen KI-bedingte psychische Traumata auftraten. Ein beunruhigender Fall betraf einen 60-jährigen Mann, der einen Selbstmordversuch unternahm, nachdem er Ernährungsratschläge einer KI befolgt hatte. In einem anderen Fall reichte eine Frau die Scheidung ein, nachdem sie von ChatGPT davon überzeugt worden war, dass ihr Ehemann untreu sei.

Hawley informierte Zuckerberg, dass der von ihm geleitete Unterausschuss für Kriminalität und Terrorismusbekämpfung des Justizausschusses des Senats Meta untersuchen werde. Ziel der Untersuchung ist es, festzustellen, ob Meta die Öffentlichkeit oder die Aufsichtsbehörden hinsichtlich seiner Sicherheitsprotokolle in die Irre geführt hat und ob seine KI-Implementierungen zu schädlichen Situationen für Kinder geführt haben.

Im Rahmen der Untersuchung muss Meta dem Justizausschuss des Senats alle Entwürfe und Versionen seiner Richtlinie „GenAI: Content Risk Standards“ vorlegen. Das Unternehmen muss außerdem einen umfassenden Bericht über alle von der Richtlinie betroffenen KI-Produkte vorlegen, insbesondere über die Sicherheitsvorkehrungen zum Schutz Minderjähriger. Insbesondere muss Meta seine Maßnahmen zur Verhinderung, Erkennung und Behandlung von „romantischem“ oder „sinnlichem“ Austausch mit Nutzern unter 18 Jahren dokumentieren und Protokolle für Situationen skizzieren, in denen das Alter eines Nutzers unbekannt ist.

Darüber hinaus wird Meta alle relevanten Mitteilungen an Werbetreibende, Kongressführer, die FTC und andere Interessengruppen zum Thema Kindersicherheit übermitteln.

Weitere Einzelheiten zu dieser sich entwickelnden Geschichte finden Sie in der Originalquelle.

Quelle & Bilder