Google reforça medidas contra imagens íntimas não consensuais
Em um movimento significativo para combater a proliferação de imagens íntimas não consensuais (NCII) em sua plataforma, o Google anunciou ações aprimoradas em colaboração com o StopNCII.org. Esta iniciativa foi criada para ajudar vítimas que foram vítimas de abuso NCII.
Iniciativa de Remoção Proativa de Conteúdo
A estratégia do Google inclui a identificação e remoção proativas de conteúdo impróprio que viole sua política NCII. Ao utilizar a tecnologia avançada de hashing do StopNCII — essencialmente impressões digitais para imagens e vídeos — o Google pretende lidar com o problema de forma mais eficaz nos próximos meses.
Compreendendo a tecnologia de hash
Conforme detalhado no site do StopNCII, esses hashes são gerados por indivíduos que sofreram o compartilhamento não autorizado de suas imagens íntimas. O escopo do NCII se estende a imagens compartilhadas offline, fotografias alteradas e até mesmo conteúdo explícito gerado por IA sem consentimento.
Esses hashes permitem que plataformas parceiras detectem e eliminem imagens correspondentes de seus serviços sempre que as políticas do NCII forem violadas.
Com base nos esforços existentes
Esta iniciativa recente reforça o compromisso contínuo do Google em apoiar aqueles afetados pelo NCII. A empresa atualizou intermitentemente seus algoritmos para limitar a visibilidade do conteúdo NCII e oferece ferramentas para que os usuários solicitem a remoção do conteúdo da Pesquisa Google.
Impacto da IA Generativa no NCII
O sofrimento causado pelo abuso do NCII é ainda mais agravado pelo surgimento da IA generativa, que levou à criação de imagens e vídeos sintéticos retratando indivíduos em cenários explícitos sem o seu consentimento. O Google reconhece as preocupações levantadas por sobreviventes e defensores em relação à natureza abrangente da internet, reconhecendo a necessidade de medidas de proteção reforçadas.
“Também ouvimos de sobreviventes e defensores que, dada a escala da web aberta, há mais a ser feito para reduzir o fardo sobre aqueles que são afetados por ela”, declarou a empresa.
Parcerias com gigantes da tecnologia
O StopNCII opera sob os auspícios da South West Grid for Learning (SWGfL), uma instituição de caridade sediada no Reino Unido. Atualmente, está colaborando com outras grandes empresas de tecnologia, incluindo Microsoft, Meta, TikTok, Reddit e Snapchat, para ampliar seu alcance e eficácia.
No ano passado, a Microsoft iniciou um programa que utilizava a tecnologia de hash do StopNCII para remover imagens NCII do seu mecanismo de busca Bing. O Meta também foi um dos fundadores, contribuindo para a criação do StopNCII.org em 2021, juntamente com outras organizações não governamentais.
Deixe um comentário