Google dévoile des protections renforcées contre les images nuisibles NCII

Image de Tumisu via Pixabay

Google renforce les mesures contre les images intimes non consensuelles

Dans le cadre d’une initiative importante visant à lutter contre la prolifération d’images intimes non consensuelles (ICI) sur sa plateforme, Google a annoncé des mesures renforcées en collaboration avec StopNCII.org. Cette initiative vise à aider les victimes d’abus ICI.

Initiative proactive de suppression de contenu

La stratégie de Google comprend l’identification proactive et la suppression des contenus inappropriés qui contreviennent à sa politique NCII. En utilisant la technologie de hachage avancée de StopNCII – qui consiste essentiellement à identifier les empreintes numériques des images et des vidéos – Google entend s’attaquer plus efficacement à ce problème dans les mois à venir.

Comprendre la technologie de hachage

Comme indiqué sur le site web de StopNCII, ces hachages sont générés par des personnes ayant subi le partage non autorisé de leurs images intimes. Le champ d’application de NCII s’étend aux images partagées hors ligne, aux photographies modifiées et même au contenu explicite généré par l’IA sans consentement.

Ces hachages permettent aux plateformes partenaires de détecter et d’éliminer les images correspondantes de leurs services chaque fois que les politiques NCII sont violées.

S’appuyer sur les efforts existants

Cette initiative récente renforce l’engagement continu de Google à soutenir les personnes touchées par le NCII. L’entreprise a régulièrement mis à jour ses algorithmes afin de limiter la visibilité du contenu NCII et propose des outils permettant aux utilisateurs de demander sa suppression dans la recherche Google.

Impact de l’IA générative sur le NCII

La détresse causée par les abus NCII est encore exacerbée par l’essor de l’IA générative, qui a conduit à la création d’images et de vidéos de synthèse représentant des individus dans des situations explicites sans leur consentement. Google prend acte des préoccupations soulevées par les survivants et les défenseurs des droits humains concernant l’étendue d’Internet et reconnaît la nécessité de mesures de protection renforcées.

« Nous avons également entendu des survivants et des défenseurs dire qu’étant donné l’ampleur du Web ouvert, il reste encore beaucoup à faire pour réduire le fardeau qui pèse sur ceux qui en sont affectés », a déclaré l’entreprise.

Partenariats avec les géants de la technologie

StopNCII opère sous l’égide du South West Grid for Learning (SWGfL), une association caritative basée au Royaume-Uni. L’association collabore actuellement avec d’autres grandes entreprises technologiques, dont Microsoft, Meta, TikTok, Reddit et Snapchat, afin d’accroître sa portée et son efficacité.

L’année dernière, Microsoft a lancé un programme exploitant la technologie de hachage de StopNCII pour supprimer les images NCII de son moteur de recherche Bing. Meta a également été l’un des fondateurs de StopNCII.org, contribuant à sa création en 2021 aux côtés d’autres organisations non gouvernementales.

Source et images