最近，流行歌手泰勒絲（Taylor Swift）包含露骨內容的深度偽造圖像充斥網路。一些報告聲稱這些圖像是由使用 Microsoft Designer 的人創建的。微軟官方表示，沒有看到任何證據表明這一點，但補充說，它已經對設計進行了更改， “以加強我們的文本過濾提示並解決對我們服務的濫用問題”。
今天，微軟總裁布拉德史密斯在公司官方部落格上發表了一篇文章。雖然史密斯沒有提及泰勒絲的深度偽造影像，也沒有提到在創建這些影像時據稱使用了Microsoft Designer，但他確實表示，該公司看到「不良行為者對這些新人工智慧工具的濫用正在迅速擴大」。
史密斯概述了微軟將重點關注的六個具體領域，以打擊此類「濫用人工智慧生成的內容」。第一個是透過阻止特定文字提示、測試和快速禁止用戶等活動來幫助促進這些工具的安全使用誰濫用這些工具。
史密斯表示，微軟正在研究的另一個領域是幫助識別人工智慧產生的內容。他說：
我們已經在 Bing 和 Copilot 的 Microsoft Designer 映像建立工具中使用了來源技術，我們正在將媒體來源擴展到所有建立或操作映像的工具。
他補充說，該公司正在研究未來的「浮水印和指紋技術」。史密斯還表示，該公司正在努力從 LinkedIn 等服務和 Xbox 等遊戲服務中刪除基於人工智慧的濫用內容。
史密斯表示，它還希望與科技業的其他公司以及執法部門合作，打擊基於人工智慧的深度造假。此外，他表示微軟希望與世界各國政府合作制定新的法律來禁止此類內容。
最後，史密斯表示，微軟希望幫助教育大眾識別用於欺騙人們的深度偽造內容。他認為這將「需要新的公共教育工具和計劃」來向他們展示哪些內容是真實的，哪些內容是虛假的。
發佈留言