OpenAI révèle l’utilisation secrète de ChatGPT par la Chine à des fins de propagande, de manipulation des réseaux sociaux et de ciblage de journalistes et de politiciens dans le cadre d’une campagne d’influence pilotée par l’IA.

OpenAI a transformé le paysage de l’intelligence artificielle avec l’avènement de ChatGPT, adopté dans divers secteurs tels que la santé, l’éducation et bien d’autres. Néanmoins, l’entreprise a exprimé des inquiétudes quant à l’utilisation abusive de sa technologie d’IA. Des rapports récents indiquent qu’OpenAI a découvert et démantelé plusieurs opérations secrètes liées à des intentions malveillantes, notamment celles provenant de Chine, visant à manipuler l’opinion publique.

Des enquêtes révèlent une utilisation non autorisée de ChatGPT à des fins de propagande

L’expansion rapide des capacités de l’IA et leur intégration dans diverses technologies ont soulevé d’importantes questions éthiques au sein de la communauté technologique. Alors que la responsabilité de l’utilisation éthique de l’IA incombe de plus en plus aux fournisseurs, des entreprises comme OpenAI sont chargées de promouvoir des pratiques de développement responsables. Malgré des efforts soutenus pour promouvoir des normes éthiques, des abus continuent d’apparaître. OpenAI a notamment identifié et mis fin à plusieurs campagnes sur les réseaux sociaux utilisant ChatGPT à des fins de propagande, supposées provenir de Chine.

Au total, OpenAI aurait démantelé dix opérations différentes, dont quatre étaient spécifiquement liées à des intérêts chinois. Ces opérations utilisaient ChatGPT pour générer du contenu politiquement chargé et usurper l’identité de personnes sur plusieurs plateformes afin de façonner l’opinion publique. Une initiative notable, baptisée « Uncle Spam », consistait à élaborer des récits provocateurs sur des sujets sensibles aux États-Unis. OpenAI a constaté que de tels abus ne se limitent pas à un seul pays ; d’autres pays, dont la Russie, l’Iran et la Corée du Nord, ont également exploité cette technologie à des fins de manipulation.

Selon un rapport de NPR, l’exploitation de ChatGPT va au-delà de la simple propagande. Des rapports indiquent que ces publications ont été stratégiquement amplifiées pour paraître plus crédibles et accessibles, suscitant des inquiétudes quant à leur impact potentiel sur l’opinion publique. De plus, l’utilisation abusive s’est étendue à la création d’évaluations de performance reflétant la manière dont le chatbot soutenait ces initiatives. Le rapport souligne les points suivants :

Les propagandistes chinois utilisent ChatGPT pour écrire des articles et des commentaires sur les sites de médias sociaux, et également pour créer des évaluations de performance détaillant le travail de leurs patrons.

Ben Nimmo, un enquêteur éminent de l’équipe de renseignement et d’enquête d’OpenAI, a évoqué la menace croissante posée par ces opérations.

Ce que nous voyons de la part de la Chine est une gamme croissante d’opérations secrètes utilisant un éventail croissant de tactiques.

Ces opérations impliquaient également la rédaction d’e-mails destinés à des analystes, des journalistes et des responsables politiques, dans le but de nouer des relations sous de faux prétextes et d’extraire des informations sensibles. L’utilisation d’outils d’IA à des fins de manipulation stratégique soulève d’importantes préoccupations éthiques, exigeant de la part des entreprises une vigilance accrue et des mesures proactives pour endiguer de telles pratiques.

Source et images