구글, 동의 없는 사생활 이미지에 대한 조치 강화
구글은 자사 플랫폼에서 합의되지 않은 사적인 이미지(NCII)의 확산을 막기 위한 중요한 조치의 일환으로 StopNCII.org 와 협력하여 강화된 조치를 발표했습니다.이 이니셔티브는 NCII 학대 피해자들을 지원하기 위해 마련되었습니다.
사전 예방적 콘텐츠 제거 이니셔티브
Google의 전략에는 NCII 정책을 위반하는 부적절한 콘텐츠를 사전에 식별하고 삭제하는 것이 포함됩니다. Google은 StopNCII의 고급 해싱 기술(본질적으로 이미지 및 동영상의 디지털 지문)을 활용하여 향후 몇 달 안에 이 문제를 더욱 효과적으로 해결할 계획입니다.
해싱 기술 이해
StopNCII 웹사이트 에 자세히 나와 있듯이, 이러한 해시는 사적인 이미지가 무단으로 공유된 경험이 있는 개인에 의해 생성됩니다. NCII의 적용 범위는 오프라인 공유 이미지, 변조된 사진, 심지어 동의 없이 AI가 생성한 노골적인 콘텐츠까지 확대됩니다.
이러한 해시를 통해 파트너 플랫폼은 NCII 정책이 위반될 때마다 일치하는 이미지를 감지하고 서비스에서 제거할 수 있습니다.
기존 노력을 바탕으로
이 최근 이니셔티브는 NCII의 영향을 받는 사람들을 지원하려는 Google의 지속적인 노력을 더욱 강화합니다. Google은 NCII 콘텐츠의 가시성을 제한하기 위해 알고리즘을 간헐적으로 업데이트했으며, 사용자가 Google 검색에서 삭제를 요청할 수 있는 도구를 제공합니다.
NCII에 대한 생성 AI의 영향
NCII 남용으로 인한 고통은 생성적 AI의 등장으로 더욱 심화되고 있으며, 이로 인해 동의 없이 노골적인 상황에서 개인을 묘사하는 합성 이미지와 영상이 생성되고 있습니다.구글은 인터넷의 광범위한 특성에 대한 생존자와 옹호자들의 우려를 인지하고 있으며, 강화된 보호 조치의 필요성을 인식하고 있습니다.
회사 측은 “생존자와 옹호자들로부터 오픈 웹의 규모를 고려할 때, 이로 인해 피해를 받는 사람들의 부담을 줄이기 위해 해야 할 일이 더 많다는 의견을 들었습니다.”라고 밝혔습니다.
기술 대기업과의 파트너십
StopNCII는 영국에 본사를 둔 자선단체인 South West Grid for Learning(SWGfL)의 후원으로 운영됩니다.현재 Microsoft, Meta, TikTok, Reddit, Snapchat 등 주요 IT 기업들과 협력하여 도달 범위와 효과를 확대하고 있습니다.
작년에 Microsoft는 StopNCII의 해싱 기술을 활용하여 Bing 검색 엔진에서 NCII 이미지를 제거하는 프로그램을 시작했습니다. Meta는 또한 2021년 다른 비정부 기구들과 함께 StopNCII.org 설립에 기여하는 등 StopNCII.org의 창립 주창자이기도 했습니다.
답글 남기기