隨著人工智慧 (AI) 工具日益複雜且被廣泛採用，故障、漏洞或錯誤也日益常見。最近，Google的「AI 概覽」就出現了這種情況。該概覽產生了一個虛假信息，聲稱澳大利亞人很快將被要求出示政府簽發的身份證明才能訪問互聯網，而該信息據稱由 AU10TIX 公司管理。這項誤導性訊息迅速傳播，在社區內引發恐慌，並在網路上引發了強烈的憤怒。
病毒式傳播的Google人工智慧概述幻覺：引起警惕
最近，一則據稱源自Google人工智慧概覽的言論在網路上瘋傳，引發了軒然大波。該言論錯誤地聲稱，澳洲公民上網時必須出示政府身分證明，並由 AU10TIX 監督身分驗證過程。該人工智慧的誤導性回應（截圖）迅速在社群媒體平台上瘋傳。這錯誤訊息不僅引發了人們的警覺，也引發了強烈的反彈。
幸運的是，網路安全研究組織 vx-underground 迅速介入，駁斥了這一荒謬的說法，並澄清這純粹是人工智慧產生的幻覺，未經證實就獲得了關注。有趣的是，人工智慧產生的引文未能支持這一說法；它來自一個討論數位身分改革的澳洲政府網頁，但並未提及強制性身份驗證或 AU10TIX。人們接受這些資訊的緊迫程度，凸顯了人們對人工智慧生成內容盲目信任的令人不安的趨勢。
這是我最近讀到的最大的一堆臭屁東西。我討厭這項立法。我討厭為了在網路上做任何事情而必須與任何人分享政府簽發的身份證明的想法。但這是個謊言。說實話，人們會讀嗎？或… https://t.co/CGopAxu4GI
— vx-underground (@vxunderground) 2025年8月1日
這種說法可信的認知極大地促進了它的病毒式傳播。在當今時代，人工智慧常被視為終極權威，而個人在未經徹底核實的情況下接受資訊卻缺乏批判性評估，這令人擔憂。
這事件有力地提醒我們，在人工智慧時代，假訊息會如何迅速蔓延，尤其是在用戶分享內容時，缺乏充分的事實查核。該說法之所以能夠迅速傳播，並非源於其真實性，而是源於它與人們對隱私和數位身分識別系統既有的恐懼和偏見產生了共鳴。圍繞這些主題的討論必須以現實為基礎，因為人工智慧生成內容的日益普及，將驗證的責任完全推到了用戶身上。
雖然最初的錯誤在於Google的人工智慧，但網路的動態在事態升級中發揮了關鍵作用，這說明虛假的敘述很容易失控。只要簡單核實一下消息來源，就能緩解這種情況。
發佈留言