随着人工智能 (AI) 工具日益复杂且被广泛采用，故障、漏洞或错误也日益常见。最近，谷歌的“AI 概览”就出现了这种情况。该概览生成了一个虚假信息，声称澳大利亚人很快将被要求出示政府签发的身份证明才能访问互联网，而该信息据称由 AU10TIX 公司管理。这一误导性信息迅速传播，在社区内引发恐慌，并在网上引发了强烈的愤怒。
病毒式传播的谷歌人工智能概述幻觉：引起警惕
最近，一则据称源自谷歌人工智能概览的言论在网络上疯传，引发了轩然大波。该言论错误地声称，澳大利亚公民上网时必须出示政府身份证明，并由 AU10TIX 监督身份验证过程。该人工智能的误导性回应（截图）迅速在社交媒体平台上疯传。这条错误信息不仅引发了人们的警觉，也引发了强烈的反弹。
幸运的是，网络安全研究组织 vx-underground 迅速介入，驳斥了这一荒谬的说法，并澄清这纯粹是人工智能产生的幻觉，未经证实就获得了关注。有趣的是，人工智能生成的引文未能支持这一说法；它来自一个讨论数字身份改革的澳大利亚政府网页，但并未提及强制性身份验证或 AU10TIX。人们接受这些信息的迫切程度，凸显了人们对人工智能生成内容盲目信任的令人不安的趋势。
这是我最近读到的最大的一堆臭屁东西。我讨厌这项立法。我讨厌为了在网上做任何事情而必须与任何人分享政府签发的身份证明的想法。但这是个谎言。说实话，人们会读吗？或者…… https://t.co/CGopAxu4GI
— vx-underground (@vxunderground) 2025年8月1日
这种说法可信的认知极大地促进了它的病毒式传播。在当今时代，人工智能常常被视为终极权威，而个人在未经彻底核实的情况下接受信息却缺乏批判性评估，这令人担忧。
这一事件有力地提醒我们，在人工智能时代，虚假信息会如何迅速蔓延，尤其是在用户分享内容时，缺乏充分的事实核查。该说法之所以能够迅速传播，并非源于其真实性，而是源于它与人们对隐私和数字身份识别系统既有的恐惧和偏见产生了共鸣。围绕这些话题的讨论必须以现实为基础，因为人工智能生成内容的日益普及，将验证的责任完全推到了用户身上。
虽然最初的错误在于谷歌的人工智能，但互联网的动态在事态升级中发挥了关键作用，这说明虚假的叙述很容易失控。只需简单核实一下消息来源，就能缓解这种情况。
发表回复