Google、合意のない性的画像への対策を強化
Googleは、プラットフォーム上での合意のない性的な画像（NCII）の蔓延に対抗するための重要な取り組みとして、StopNCII.orgと連携した対策強化を発表しました。この取り組みは、NCIIによる虐待を受けた被害者を支援することを目的としています。
積極的なコンテンツ削除イニシアチブ
Googleの戦略には、NCIIポリシーに違反する不適切なコンテンツを積極的に特定し、削除することが含まれています。StopNCIIの高度なハッシュ技術（画像や動画のデジタル指紋）を活用することで、Googleは今後数か月でこの問題へのより効果的な取り組みを目指しています。
ハッシュ技術の理解
StopNCIIのウェブサイトで詳しく説明されているように、これらのハッシュは、個人的な画像が無許可で共有された経験を持つ個人によって生成されます。NCIIの対象範囲は、オフラインで共有された画像、改変された写真、さらにはAIによって生成された同意のない露骨なコンテンツにまで及びます。
これらのハッシュにより、パートナー プラットフォームは、NCII ポリシーに違反した場合に、一致する画像をサービスから検出して削除できます。
既存の取り組みを基に
この最近の取り組みは、NCIIの影響を受ける人々を支援するというGoogleの継続的な取り組みを強化するものです。同社は、NCIIコンテンツの可視性を制限するためにアルゴリズムを断続的に更新し、ユーザーがGoogle検索から削除をリクエストできるツールを提供しています。
生成AIがNCIIに与える影響
NCII虐待によって引き起こされる苦痛は、生成AIの台頭によってさらに悪化しています。生成AIは、個人の同意なしに、露骨な状況にある個人を描写した合成画像や動画の作成につながっています。Googleは、被害者や支援者からインターネットの広範な性質に関する懸念が表明されていることを認識し、保護対策の強化の必要性を認識しています。
「オープンウェブの規模を考えると、被害を受けた人々の負担を軽減するためにもっとやるべきことがあると、被害者や支援者から聞きました」と同社は述べた。
テクノロジー大手との提携
StopNCIIは、英国を拠点とする慈善団体South West Grid for Learning（SWGfL）の後援を受けて運営されています。現在、Microsoft、Meta、TikTok、Reddit、Snapchatといった大手テクノロジー企業と連携し、活動範囲と効果の拡大に取り組んでいます。
昨年、マイクロソフトはStopNCIIのハッシュ技術を活用し、Bing検索エンジンからNCII画像を削除するプログラムを開始しました。Metaも創設メンバーの1人であり、2021年には他の非政府組織と共にStopNCII.orgの設立に貢献しました。
コメントを残す