人們越來越關注使用生成式人工智慧應用程式和服務來創建深度偽造圖像和資訊。幾週前，人工智慧創作的流行歌手泰勒絲 (Taylor Swift) 的圖像充斥著 X 社交網絡，這無疑達到了緊要關頭。一些報導聲稱這些圖像是由微軟的人工智慧圖像生成器 Designer製作的。
由於 2024 年也是美國總統選舉年，人們更加擔心人工智慧深度偽造圖像可能會被用來對該次選舉以及其他選舉中的選票產生負面影響。今天，許多科技公司宣布他們將遵守一項新協議，該協議規定他們將利用自己的資源來打擊在欺騙性選舉活動中使用人工智慧的行為。
該協議於慕尼黑安全會議上宣布，被稱為《人工智慧選舉協議》。目前簽署協議的公司有：
- 土坯
- 亞馬遜
- 人擇
- 手臂
- 十一實驗室
- 國際商業機器公司
- 詞形變化人工智慧
- 領英
- 麥克菲
- 元
- 微軟
- 使用
- 開放人工智慧
- 快照公司
- 穩定性人工智慧
- 抖音
- 趨勢科技
- 真實圖片
- X
宣布協議的新聞稿（PDF 格式）指出，上述公司已同意遵守以下承諾，打擊深度造假選舉活動：
- 開發和實施技術以減輕與欺騙性人工智慧選舉內容相關的風險，包括適當的開源工具
- 評估本協議範圍內的模型，以了解它們可能在欺騙性人工智慧選舉內容方面帶來的風險
- 尋求檢測該內容在其平台上的分佈
- 尋求適當解決在其平台上檢測到的此類內容
- 培養跨產業抵禦欺騙性人工智慧選舉內容的能力
- 向公眾提供有關公司如何解決該問題的透明度
- 繼續與多元化的全球民間社會組織、學者合作
- 支持提高公眾意識、媒體素養和全社會復原力的努力
微軟總裁布拉德史密斯是新聞稿中引用的公司高層之一。他說：
隨著社會接受人工智慧的好處，我們有責任幫助確保這些工具不會在選舉中成為武器。人工智慧並沒有製造選舉欺騙，但我們必須確保它不會助長欺騙行為。
幾週前發生了一個選舉深度造假的例子，美國總統拜登的人工智慧語音機器人電話敦促來電者不要在新罕布夏州初選中投票。後來發現這些電話是由一家位於德州的公司撥打的。
發佈留言