RSF reagisce al rapporto di Apple Intelligence sulle accuse di suicidio di Luigi Mangione

Apple affronta reazioni negative per l’errore di notifica dell’intelligenza artificiale

In un recente passo falso, Apple è sotto esame per le inesattezze generate dalla sua funzionalità Apple Intelligence. Introdotto con gli ultimi aggiornamenti in iOS 18.1, iPadOS 18.1 e macOS Sequoia 15.1, questo strumento basato sull’intelligenza artificiale offre funzionalità come riepiloghi delle notifiche, query Siri personalizzate, uno strumento di organizzazione delle foto, riepiloghi delle e-mail e la possibilità di creare emoji personalizzate tramite Genmoji. Una delle sue funzionalità di spicco è il riconoscimento avanzato delle immagini su iPhone 16, che migliora l’interazione dell’utente.

Panoramica dell’incidente: una notifica inquietante

La controversia è scoppiata quando Apple Intelligence ha fornito un riepilogo delle notifiche dall’app BBC News che conteneva un grave errore. L’IA ha riferito che Luigi Mangione si era sparato, un’affermazione categoricamente falsa. L’interpretazione errata dei titoli delle notizie ha suscitato preoccupazioni sull’affidabilità dell’IA nel trasmettere informazioni critiche.

Uno screenshot della notifica problematica — Immagine: BBC

Contesto dell’errore

Questo incidente è particolarmente preoccupante dato il contesto che lo circonda. All’inizio di questo mese, Brian Thompson, CEO di UnitedHealthcare, è stato tragicamente ucciso e il suo presunto aggressore, Luigi Mangione, è stato arrestato. Il coinvolgimento di Mangione è diventato un punto focale nella copertura mediatica, ma il sistema Apple Intelligence ha erroneamente confuso i dettagli, portando a un riassunto altamente fuorviante che potrebbe incitare confusione e ansia tra gli utenti.

Risposta e implicazioni

Le conseguenze di questo errore sono state rapide. La BBC ha presentato un reclamo ad Apple, spingendo il gruppo di difesa globale Reporters Without Borders (RSF) a chiedere la disattivazione della funzione di notifica Apple Intelligence. RSF ha evidenziato questo incidente come un esempio lampante delle carenze dell’IA nel gestire accuratamente i contenuti di notizie sensibili. Hanno affermato:

Questo incidente evidenzia l’incapacità dei sistemi di intelligenza artificiale di pubblicare sistematicamente informazioni di qualità, anche quando si basano su fonti giornalistiche. Il modo probabilistico in cui operano i sistemi di intelligenza artificiale li squalifica automaticamente come tecnologia affidabile per i media che può essere utilizzata in soluzioni rivolte al grande pubblico.

Problemi più ampi dell’intelligenza artificiale

Questo non è un evento isolato nel regno dell’intelligenza artificiale. All’inizio di quest’anno, il chatbot Gemini di Google ha dovuto affrontare una reazione negativa per aver generato immagini controverse che reinventavano personaggi storici in modo inappropriato. In risposta a questi problemi, Google ha temporaneamente sospeso la possibilità di generare immagini di individui in Gemini, riconoscendo di aver “mancato il bersaglio”.

Fonte e immagini