Google ujawnia ulepszone zabezpieczenia przed szkodliwymi obrazami NCII

Zdjęcie autorstwa Tumisu za pośrednictwem Pixabay

Google zaostrza środki przeciwko niechcianej, intymnej fotografii

W ramach ważnego kroku mającego na celu zwalczanie rozprzestrzeniania się niechcianych, intymnych zdjęć (NCII) na swojej platformie, Google ogłosiło zintensyfikowane działania we współpracy ze StopNCII.org. Inicjatywa ta ma na celu pomoc ofiarom nadużyć NCII.

Inicjatywa proaktywnego usuwania treści

Strategia Google obejmuje proaktywne identyfikowanie i usuwanie nieodpowiednich treści, które naruszają zasady NCII. Wykorzystując zaawansowaną technologię haszowania StopNCII – w zasadzie cyfrowe odciski palców dla obrazów i filmów – Google zamierza skuteczniej rozwiązać ten problem w nadchodzących miesiącach.

Zrozumienie technologii haszującej

Jak szczegółowo opisano na stronie internetowej StopNCII, te skróty są generowane przez osoby, które doświadczyły nieautoryzowanego udostępnienia swoich intymnych zdjęć. Zakres NCII obejmuje zdjęcia udostępniane offline, zmienione zdjęcia, a nawet treści o charakterze erotycznym generowane przez sztuczną inteligencję bez zgody.

Dzięki tym skrótom platformy partnerskie mogą wykrywać i eliminować pasujące obrazy ze swoich usług w przypadku naruszenia zasad NCII.

Rozwijanie istniejących wysiłków

Ta niedawna inicjatywa wzmacnia stałe zaangażowanie Google we wspieranie osób dotkniętych NCII. Firma okresowo aktualizuje swoje algorytmy, aby ograniczyć widoczność treści NCII i oferuje użytkownikom narzędzia do wnioskowania o usunięcie ich z wyszukiwarki Google.

Wpływ sztucznej inteligencji generatywnej na NCII

Cierpienie spowodowane nadużyciami w NCII jest dodatkowo pogłębiane przez rozwój sztucznej inteligencji generatywnej, która doprowadziła do tworzenia syntetycznych obrazów i filmów przedstawiających osoby w konkretnych sytuacjach bez ich zgody. Google rozumie obawy ofiar i obrońców praw dotyczące rozległości internetu, dostrzegając potrzebę wzmocnienia środków ochronnych.

„Ocaleni i obrońcy usłyszeli również, że biorąc pod uwagę skalę otwartej sieci, trzeba zrobić więcej, aby zmniejszyć obciążenie osób, których ona dotyczy” – stwierdziła firma.

Partnerstwa z gigantami technologicznymi

StopNCII działa pod auspicjami South West Grid for Learning (SWGfL), organizacji charytatywnej z siedzibą w Wielkiej Brytanii. Obecnie współpracuje z innymi dużymi firmami technologicznymi, takimi jak Microsoft, Meta, TikTok, Reddit i Snapchat, aby zwiększyć swój zasięg i skuteczność.

W zeszłym roku Microsoft zainicjował program wykorzystujący technologię haszowania StopNCII do usuwania obrazów NCII z wyszukiwarki Bing. Meta była również jednym z założycieli, przyczyniając się do powstania StopNCII.org w 2021 roku, wraz z innymi organizacjami pozarządowymi.

Źródło i obrazy