La IA de Google afirma erróneamente que los australianos necesitan identificación para acceder a Internet: una alucinación viral destaca los riesgos de confiar ciegamente en la IA y pasar por alto detalles importantes.

A medida que las herramientas de inteligencia artificial (IA) se vuelven más sofisticadas y se adoptan ampliamente, los fallos, errores o bugs son cada vez más comunes. Recientemente, se produjo una situación similar con la Descripción General de IA de Google, que generó una afirmación falsa que sugería que pronto se exigiría a los australianos presentar una identificación oficial para acceder a internet, una afirmación supuestamente gestionada por la empresa AU10TIX. Esta información engañosa se difundió rápidamente, sembrando el pánico en la comunidad y provocando una gran indignación en línea.

La alucinación viral de la visión general de la IA de Google: un motivo de alarma

Una reciente afirmación viral atribuida a la IA Overview de Google desató el caos, afirmando falsamente que los ciudadanos australianos estarían obligados a presentar una identificación oficial para acceder a internet, y que AU10TIX supervisaría el proceso de verificación de identidad. La respuesta engañosa de la IA, capturada en una captura de pantalla, se viralizó rápidamente al circular por las redes sociales. Esta desinformación no solo generó alarma, sino que también generó una considerable reacción negativa.

Afortunadamente, el colectivo de investigación en ciberseguridad vx-underground intervino con rapidez, desmintiendo la escandalosa afirmación y aclarando que se trataba simplemente de una alucinación generada por IA que cobró fuerza sin validación. Curiosamente, la cita generada por IA no respaldaba la afirmación; provenía de una página web general del gobierno australiano que abordaba las reformas de la identificación digital, sin ninguna referencia a la verificación obligatoria de identidad ni a AU10TIX. La urgencia con la que la gente aceptó esta información subraya una preocupante tendencia a la confianza ciega en el contenido generado por IA.

Este es el mayor montón de basura apestosa que he leído en un minuto. Odio esta legislación. Odio la idea de tener que compartir mi identificación oficial con prácticamente cualquier persona para hacer cualquier cosa en línea. Pero esto es mentira. Como pregunta sincera, ¿la gente lee o…? https://t.co/CGopAxu4GI

— vx-underground (@vxunderground) 1 de agosto de 2025

La percepción de credibilidad de esta afirmación contribuyó significativamente a su viralización. En la era actual, donde la IA suele considerarse la máxima autoridad, resulta preocupante observar la falta de análisis crítico por parte de quienes aceptan información sin una verificación exhaustiva.

Este incidente sirve como un claro recordatorio de la rápida proliferación de la desinformación en la era de la IA, especialmente cuando los usuarios comparten contenido sin una verificación adecuada. La viralidad de la afirmación no se debió a su validez, sino a su resonancia con los temores y prejuicios preexistentes sobre la privacidad y los sistemas de identificación digital. Los debates en torno a estos temas deben basarse en la realidad, ya que la creciente prevalencia de contenido generado por IA impone la responsabilidad de la verificación directamente a los usuarios.

Si bien el fallo inicial fue de la IA de Google, la dinámica de internet jugó un papel crucial en la escalada de la situación, ilustrando la facilidad con la que una narrativa inventada puede descontrolarse. Esto podría haberse mitigado con una simple verificación de la fuente.

Fuente e imágenes