L’intelligenza artificiale di Google afferma erroneamente che gli australiani richiedono un documento d’identità per accedere a Internet: un’allucinazione virale evidenzia i rischi della fiducia cieca nell’intelligenza artificiale e della trascuratezza di dettagli importanti

Con l’aumentare della sofisticatezza e della diffusione degli strumenti di intelligenza artificiale (IA), casi di problemi, bug o errori sono sempre più comuni. Di recente, una situazione simile si è verificata con l’AI Overview di Google, che ha generato una falsa affermazione secondo cui gli australiani sarebbero stati presto tenuti a presentare un documento d’identità rilasciato dal governo per accedere a Internet, un’affermazione presumibilmente gestita dalla società AU10TIX. Questa informazione fuorviante si è diffusa rapidamente, creando panico nella comunità e scatenando una notevole indignazione online.

Panoramica virale dell’intelligenza artificiale di Google Allucinazione: un motivo di allarme

Una recente affermazione virale attribuita all’AI Overview di Google ha scatenato il caos, affermando falsamente che i cittadini australiani sarebbero stati obbligati a presentare un documento d’identità governativo per l’accesso a Internet, con AU10TIX a supervisionare il processo di verifica dell’identità. La risposta fuorviante dell’IA, catturata in uno screenshot, è diventata rapidamente virale circolando sulle piattaforme dei social media. Questa disinformazione non solo ha destato allarme, ma ha anche provocato notevoli reazioni negative.

Fortunatamente, il collettivo di ricerca sulla sicurezza informatica vx-underground è intervenuto rapidamente, smentendo l’affermazione scandalosa e chiarendo che si trattava di una pura allucinazione generata dall’intelligenza artificiale che aveva preso piede senza essere convalidata.È interessante notare che la citazione generata dall’intelligenza artificiale non supportava l’affermazione; proveniva da una pagina web del governo australiano che discuteva delle riforme dell’identità digitale, senza alcun riferimento alla verifica obbligatoria dell’identità o all’AU10TIX. L’urgenza con cui le persone hanno accettato queste informazioni sottolinea una preoccupante tendenza alla fiducia cieca nei contenuti generati dall’intelligenza artificiale.

Questa è la più grande montagna di stronzate puzzolenti che abbia letto negli ultimi tempi. Odio questa legge. Odio l’idea di dover condividere il proprio documento d’identità rilasciato dal governo con chiunque per fare qualsiasi cosa online. Ma questa è una bugia. Domanda sincera: la gente legge o…https://t.co/CGopAxu4GI

— vx-underground (@vxunderground) 1 agosto 2025

La percezione che questa affermazione fosse credibile ha contribuito in modo significativo alla sua viralità. Nell’epoca attuale, in cui l’intelligenza artificiale è spesso considerata l’autorità suprema, è preoccupante constatare la mancanza di valutazione critica da parte di individui che accettano informazioni senza una verifica approfondita.

Questo incidente serve da potente promemoria di come la disinformazione possa proliferare rapidamente nell’era dell’intelligenza artificiale, soprattutto quando gli utenti condividono contenuti senza un’adeguata verifica dei fatti. La natura virale dell’affermazione non deriva dalla sua validità, ma piuttosto dal fatto che si scontrava con paure e pregiudizi preesistenti sulla privacy e sui sistemi di identificazione digitale. Le discussioni su questi argomenti devono rimanere informate alla realtà, poiché la crescente diffusione di contenuti generati dall’intelligenza artificiale pone l’onere della verifica direttamente sugli utenti.

Sebbene la colpa iniziale sia stata dell’intelligenza artificiale di Google, le dinamiche di Internet hanno giocato un ruolo cruciale nell’aggravare la situazione, dimostrando con quanta facilità una narrazione inventata possa sfuggire di mano. Un problema che avrebbe potuto essere mitigato con una semplice verifica della fonte.

Fonte e immagini