微軟的啟示：與隨機生成的圖像相比，我們對人工智慧生成的圖像的檢測有多差

研究顯示人類區分人工智慧生成圖像的能力有限

微軟 AI for Good 計畫近期開展了一項研究，全球超過 12, 500 名參與者評估了約 287, 000 張圖片。研究結果顯示，區分 AI 生成影像和真實影像的成功率僅為 62%，令人擔憂。這項統計數據凸顯了人類在準確識別人工內容方面所面臨的挑戰，尤其是在技術複雜程度不斷提高的背景下。

參與者在識別AI生成的人物肖像方面表現出了極高的熟練度。然而，在區分人造景觀和真實自然或城市景觀時，他們的表現卻顯著下降，成功率驟降至59%至61%之間。這樣的結果凸顯了人們在辨識缺乏明顯偽影或風格不一致的AI生成影像時必須克服的障礙。

在這項廣泛的調查中，研究團隊設計了一項名為「真實與否」的測驗，要求參與者觀看由人工智慧創建的圖像，這些圖像代表了人們可能在網路上遇到的圖像。值得注意的是，研究人員刻意避免選擇過於具有欺騙性的圖像。

鑑於調查結果，微軟倡導實施透明措施，例如水印和先進的AI檢測工具。這些舉措旨在降低AI生成圖像帶來的虛假資訊風險。此外，這家科技巨頭也推出了旨在提高大眾對AI相關假訊息認知的措施。

有趣的是，研究人員使用了自己的AI檢測工具，該工具在各種圖像類別中取得了令人印象深刻的95%以上的準確率。這項發現表明，雖然AI可以顯著增強影像偵測能力，但它並非完美無缺。

必須認識到，即使有可見的水印，惡意個人也可以輕鬆操縱或裁剪這些標識符，從而促進欺騙性內容的傳播。

研究人員推測，人類之所以擅長辨識人工智慧產生的臉孔，是因為我們天生就具有臉部辨識能力，並且能夠辨識異常。有趣的是，較舊的生成對抗網路 (GAN) 和修復技術生成的圖像經常模仿業餘攝影作品，與 Midjourney 和 DALL-E 3 等先進模型生成的圖像相比，這些圖像更難被個人識別為合成圖像。

微軟指出，修復技術是一種用人工智慧產生的內容取代真實照片元素的方法，它在偽造檢測方面帶來了相當大的挑戰，並增加了虛假宣傳活動的風險。

這項研究清楚地揭示了人類極易受到人工智慧欺騙的現象。它提醒科技公司亟需改進其工具和方法，以抵禦誤導性圖片的惡意傳播。

來源：ArXiv | 圖片來自Depositphotos.com