Google stellt verbesserten Schutz vor schädlichen NCII-Bildern vor

Bild von Tumisu via Pixabay

Google verschärft Maßnahmen gegen nicht einvernehmliche intime Bilder

Um die Verbreitung nicht einvernehmlicher intimer Bilder (NCII) auf seiner Plattform zu bekämpfen, hat Google verstärkte Maßnahmen in Zusammenarbeit mit StopNCII.org angekündigt. Diese Initiative soll Opfern von NCII-Missbrauch helfen.

Initiative zur proaktiven Inhaltsentfernung

Googles Strategie umfasst die proaktive Identifizierung und Entfernung unangemessener Inhalte, die gegen die NCII-Richtlinien verstoßen. Durch den Einsatz der fortschrittlichen Hashing-Technologie von StopNCII – im Wesentlichen digitale Fingerabdrücke für Bilder und Videos – will Google das Problem in den kommenden Monaten effektiver angehen.

Die Hashing-Technologie verstehen

Wie auf der StopNCII- Website ausführlich beschrieben, werden diese Hashes von Personen generiert, deren intime Bilder unberechtigterweise weitergegeben wurden. Der Anwendungsbereich von NCII erstreckt sich auf offline geteilte Bilder, veränderte Fotos und sogar KI-generierte explizite Inhalte ohne Einwilligung.

Diese Hashes ermöglichen es Partnerplattformen, passende Bilder zu erkennen und aus ihren Diensten zu entfernen, wenn gegen die NCII-Richtlinien verstoßen wird.

Aufbauend auf bestehenden Bemühungen

Diese Initiative unterstreicht Googles anhaltendes Engagement für die von NCII Betroffenen. Das Unternehmen hat seine Algorithmen regelmäßig aktualisiert, um die Sichtbarkeit von NCII-Inhalten einzuschränken, und bietet Nutzern Tools, mit denen sie die Entfernung von Inhalten aus der Google-Suche beantragen können.

Auswirkungen der generativen KI auf NCII

Die durch den NCII-Missbrauch verursachte Not wird durch den Aufstieg der generativen KI noch verschärft. Diese hat zur Erstellung synthetischer Bilder und Videos geführt, die Personen in expliziten Szenarien ohne deren Zustimmung zeigen. Google nimmt die Bedenken von Überlebenden und Aktivisten hinsichtlich der umfassenden Nutzung des Internets zur Kenntnis und erkennt die Notwendigkeit verstärkter Schutzmaßnahmen an.

„Wir haben auch von Überlebenden und Befürwortern gehört, dass angesichts des Ausmaßes des offenen Internets mehr getan werden muss, um die Belastung der Betroffenen zu verringern“, erklärte das Unternehmen.

Partnerschaften mit Tech-Giganten

StopNCII arbeitet unter der Schirmherrschaft von South West Grid for Learning (SWGfL), einer Wohltätigkeitsorganisation mit Sitz in Großbritannien. Derzeit arbeitet die Organisation mit anderen großen Technologieunternehmen wie Microsoft, Meta, TikTok, Reddit und Snapchat zusammen, um ihre Reichweite und Effektivität zu erhöhen.

Im vergangenen Jahr startete Microsoft ein Programm, das die Hashing-Technologie von StopNCII nutzte, um NCII-Bilder aus seiner Suchmaschine Bing zu entfernen. Meta war außerdem einer der Gründungsbefürworter und trug 2021 zusammen mit anderen Nichtregierungsorganisationen zur Gründung von StopNCII.org bei.

Quelle & Bilder