Google presenta protezioni avanzate contro le immagini dannose dell’NCII

Immagine di Tumisu tramite Pixabay

Google rafforza le misure contro le immagini intime non consensuali

In un’importante mossa per contrastare la proliferazione di immagini intime non consensuali (NCII) sulla sua piattaforma, Google ha annunciato azioni rafforzate in collaborazione con StopNCII.org. Questa iniziativa è pensata per assistere le vittime che hanno subito abusi di questo tipo.

Iniziativa di rimozione proattiva dei contenuti

La strategia di Google include l’identificazione e la rimozione proattiva di contenuti inappropriati che violano la sua politica NCII. Utilizzando la tecnologia di hashing avanzata di StopNCII, essenzialmente impronte digitali per immagini e video, Google mira ad affrontare il problema in modo più efficace nei prossimi mesi.

Comprendere la tecnologia di hashing

Come descritto in dettaglio sul sito web di StopNCII, questi hash sono generati da individui che hanno subito la condivisione non autorizzata delle loro immagini intime. L’ambito di applicazione di NCII si estende alle immagini condivise offline, alle fotografie modificate e persino ai contenuti espliciti generati dall’intelligenza artificiale senza consenso.

Questi hash consentono alle piattaforme partner di rilevare ed eliminare le immagini corrispondenti dai loro servizi ogni volta che vengono violate le policy NCII.

Basandosi sugli sforzi esistenti

Questa recente iniziativa rafforza l’impegno costante di Google nel supportare le persone colpite dalla NCII. L’azienda ha aggiornato periodicamente i propri algoritmi per limitare la visibilità dei contenuti NCII e offre agli utenti strumenti per richiedere la rimozione dalla Ricerca Google.

Impatto dell’intelligenza artificiale generativa su NCII

Il disagio causato dagli abusi della DNCII è ulteriormente aggravato dall’ascesa dell’intelligenza artificiale generativa, che ha portato alla creazione di immagini e video sintetici che ritraggono individui in scenari espliciti senza il loro consenso. Google riconosce le preoccupazioni sollevate dalle vittime e dai sostenitori in merito alla natura estesa di Internet, riconoscendo la necessità di misure di protezione rafforzate.

“Abbiamo anche sentito da sopravvissuti e sostenitori che, data la portata del web aperto, c’è ancora molto da fare per ridurre il peso che grava su coloro che ne sono colpiti”, ha affermato l’azienda.

Partnership con i giganti della tecnologia

StopNCII opera sotto l’egida della South West Grid for Learning (SWGfL), un’organizzazione benefica con sede nel Regno Unito. Attualmente collabora con altre importanti aziende tecnologiche, tra cui Microsoft, Meta, TikTok, Reddit e Snapchat, per amplificarne la portata e l’efficacia.

L’anno scorso, Microsoft ha avviato un programma che sfrutta la tecnologia di hashing di StopNCII per rimuovere le immagini NCII dal suo motore di ricerca Bing. Meta è stato anche uno dei promotori fondatori, contribuendo alla creazione di StopNCII.org nel 2021 insieme ad altre organizzazioni non governative.

Fonte e immagini