最近、ポップスター、テイラー・スウィフトの露骨なコンテンツを含むディープフェイク画像がインターネットに溢れました。一部の報告では、画像は Microsoft Designer を使用した誰かによって作成されたと主張されています。 Microsoftは公式に、その証拠は見られなかったと述べたが、「テキストフィルタリングプロンプトを強化し、サービスの悪用に対処するために」設計を変更したと付け加えた。
本日、Microsoft 社長の Brad Smith が同社の公式ブログに投稿しました。スミス氏は、テイラー・スウィフトのディープフェイク画像や、それらの画像の作成におけるMicrosoft Designerの使用疑惑には言及しなかったが、同社は「悪意のある者によるこれらの新しいAIツールの悪用が急速に拡大している」と見ていると述べた。
Smith 氏は、この種の「AI が生成した不正なコンテンツ」に対抗するために Microsoft が注力する 6 つの具体的な分野について概説しました。1 つ目は、特定のテキスト プロンプトのブロック、テスト、ユーザーの迅速な禁止などの活動を通じて、これらのツールの安全な使用を促進することです。これらのツールを悪用する人。
Smith 氏によると、Microsoft が取り組んでいるもう 1 つの分野は、AI によって生成されたコンテンツの識別を支援することです。彼は言いました：
当社はすでに、Bing および Copilot の Microsoft Designer 画像作成ツールで出所テクノロジを使用しており、画像を作成または操作するすべてのツールにメディアの出所を拡張する過程にあります。
同氏は、同社が将来に向けて「透かしとフィンガープリント技術」を検討していると付け加えた。スミス氏はまた、LinkedInなどの自社サービスやXboxなどのゲームサービスから、虐待的なAIベースのコンテンツを削除する取り組みを行っていると述べた。
スミス氏は、AIベースのディープフェイクと闘うために、法執行機関とともにテクノロジー業界の他の企業とも協力したいと述べた。さらに、マイクロソフトは世界政府と協力して、この種のコンテンツを禁止する新しい法律を制定したいと述べた。
最後にスミス氏は、マイクロソフトは人々を騙す目的で作られたディープフェイクコンテンツを識別するよう一般の人々を教育したいと述べた。これには、どのコンテンツが本物で何が偽物かを示すための「新しい公教育ツールとプログラムが必要になる」と彼は感じている。
コメントを残す