OpenAI denuncia l’uso occulto di ChatGPT da parte della Cina per propaganda, manipolazione dei social media e presa di mira di giornalisti e politici in una campagna di influenza guidata dall’intelligenza artificiale.

OpenAI ha trasformato il panorama dell’intelligenza artificiale con l’avvento di ChatGPT, che è stato adottato in diversi settori come la sanità, l’istruzione e altri ancora. Ciononostante, l’azienda ha espresso preoccupazione per l’uso improprio della sua tecnologia di intelligenza artificiale. Rapporti recenti indicano che OpenAI ha scoperto e smantellato diverse operazioni segrete associate a scopi dannosi, in particolare quelli provenienti dalla Cina, volti a manipolare l’opinione pubblica.

Le indagini rivelano l’uso non autorizzato di ChatGPT a fini di propaganda

La rapida espansione delle capacità dell’IA e la loro integrazione in diverse tecnologie hanno sollevato significative questioni etiche all’interno della comunità tecnologica. Poiché la responsabilità dell’uso etico dell’IA ricade sempre più sui fornitori, aziende come OpenAI hanno il compito di promuovere pratiche di sviluppo responsabili. Nonostante i diligenti sforzi per promuovere standard etici, continuano a emergere casi di abuso. OpenAI ha in particolare identificato e interrotto diverse campagne sui social media che sfruttavano ChatGPT per scopi propagandistici, ritenute provenienti dalla Cina.

In totale, OpenAI avrebbe bloccato dieci diverse operazioni, quattro delle quali specificamente legate a interessi cinesi. Queste operazioni utilizzavano ChatGPT per generare contenuti politicamente intenzionali e impersonare individui su diverse piattaforme per influenzare l’opinione pubblica. Un’iniziativa degna di nota, soprannominata “Uncle Spam”, consisteva nella creazione di narrazioni provocatorie su temi delicati negli Stati Uniti. OpenAI ha osservato che la perpetrazione di tali abusi non si limita a una sola nazione; altri paesi, tra cui Russia, Iran e Corea del Nord, hanno analogamente sfruttato la tecnologia per scopi manipolativi.

Secondo un rapporto di NPR, lo sfruttamento di ChatGPT va oltre la mera produzione di propaganda. I rapporti indicano che questi post sono stati amplificati strategicamente per apparire più credibili e accessibili, sollevando preoccupazioni sul loro potenziale impatto sull’opinione pubblica. Inoltre, l’abuso si è esteso alla creazione di valutazioni delle prestazioni che riflettevano il modo in cui il chatbot supportava queste iniziative. Il rapporto evidenzia quanto segue:

I propagandisti cinesi utilizzano ChatGPT per scrivere post e commenti sui siti di social media e anche per creare valutazioni delle prestazioni che descrivono nel dettaglio il lavoro svolto dai loro capi.

Ben Nimmo, un importante investigatore del team di intelligence e investigazione di OpenAI, ha affrontato la crescente minaccia rappresentata da queste operazioni.

Ciò a cui stiamo assistendo dalla Cina è un crescente numero di operazioni segrete che utilizzano una gamma sempre più ampia di tattiche.

Queste operazioni hanno incluso anche la creazione di email indirizzate ad analisti, giornalisti e politici, volte a costruire relazioni con falsi pretesti e a estorcere informazioni sensibili. L’utilizzo di strumenti di intelligenza artificiale per la manipolazione strategica solleva significative preoccupazioni etiche, che richiedono vigilanza e misure proattive da parte delle aziende per contrastare tali pratiche.

Fonte e immagini