Google presenta protecciones mejoradas contra imágenes dañinas de NCII

Imagen de Tumisu vía Pixabay

Google refuerza las medidas contra las imágenes íntimas no consensuadas

En una medida significativa para combatir la proliferación de imágenes íntimas no consensuadas (NCII) en su plataforma, Google ha anunciado medidas mejoradas en colaboración con StopNCII.org. Esta iniciativa está diseñada para ayudar a las víctimas que han sido víctimas de abuso NCII.

Iniciativa de eliminación proactiva de contenido

La estrategia de Google incluye la identificación y eliminación proactiva de contenido inapropiado que contravenga su política NCII. Mediante el uso de la tecnología avanzada de hash de StopNCII (esencialmente, huellas digitales para imágenes y videos), Google pretende abordar el problema de forma más eficaz en los próximos meses.

Entendiendo la tecnología hash

Como se detalla en el sitio web de StopNCII, estos hashes son generados por personas que han sido víctimas de la divulgación no autorizada de sus imágenes íntimas. El alcance de NCII se extiende a imágenes compartidas sin conexión, fotografías alteradas e incluso contenido explícito generado por IA sin consentimiento.

Estos hashes permiten a las plataformas asociadas detectar y eliminar imágenes coincidentes de sus servicios cuando se violan las políticas de NCII.

Aprovechar los esfuerzos existentes

Esta reciente iniciativa refuerza el compromiso continuo de Google de apoyar a las personas afectadas por el NCII. La compañía ha actualizado sus algoritmos periódicamente para limitar la visibilidad del contenido del NCII y ofrece herramientas para que los usuarios soliciten su eliminación de la Búsqueda de Google.

Impacto de la IA generativa en NCII

La angustia causada por el abuso de NCII se ve agravada por el auge de la IA generativa, que ha llevado a la creación de imágenes y vídeos sintéticos que muestran a personas en situaciones explícitas sin su consentimiento. Google reconoce las preocupaciones planteadas por sobrevivientes y defensores sobre la amplitud de internet, y reconoce la necesidad de reforzar las medidas de protección.

“También hemos escuchado de sobrevivientes y defensores que, dada la escala de la web abierta, hay más por hacer para reducir la carga sobre aquellos que se ven afectados por ella”, afirmó la empresa.

Asociaciones con gigantes tecnológicos

StopNCII opera bajo el auspicio de South West Grid for Learning (SWGfL), una organización benéfica con sede en el Reino Unido. Actualmente colabora con otras importantes empresas tecnológicas, como Microsoft, Meta, TikTok, Reddit y Snapchat, para ampliar su alcance y eficacia.

El año pasado, Microsoft inició un programa que aprovecha la tecnología de hash de StopNCII para eliminar las imágenes NCII de su motor de búsqueda Bing. Meta también fue uno de los promotores fundadores, contribuyendo a la creación de StopNCII.org en 2021, junto con otras organizaciones no gubernamentales.

Fuente e imágenes