OpenAI expõe o uso secreto do ChatGPT pela China para propaganda, manipulação de mídia social e direcionamento a jornalistas e políticos em uma campanha de influência impulsionada por IA

A OpenAI transformou o cenário da inteligência artificial com o advento do ChatGPT, que foi adotado em diversos setores, como saúde, educação e outros. No entanto, a empresa expressou preocupação com o uso indevido de sua tecnologia de IA. Relatórios recentes indicam que a OpenAI descobriu e desmantelou diversas operações secretas associadas a agendas prejudiciais, particularmente aquelas originadas na China, com o objetivo de manipular a opinião pública.

Investigações revelam uso não autorizado do ChatGPT para propaganda

A rápida expansão dos recursos de IA e sua integração em diversas tecnologias levantaram questões éticas significativas na comunidade tecnológica.À medida que a responsabilidade pelo uso ético da IA recai cada vez mais sobre os provedores, empresas como a OpenAI têm a tarefa de promover práticas de desenvolvimento responsáveis. Apesar dos esforços diligentes para promover padrões éticos, casos de abuso continuam a surgir. A OpenAI identificou e encerrou diversas campanhas de mídia social que utilizavam o ChatGPT para fins de propaganda, supostamente originárias da China.

No total, a OpenAI teria encerrado dez operações diferentes, quatro das quais especificamente ligadas a interesses chineses. Essas operações utilizavam o ChatGPT para gerar conteúdo politicamente carregado e se passar por indivíduos em diversas plataformas para moldar a opinião pública. Uma iniciativa notável, apelidada de “Tio Spam”, visava elaborar narrativas provocativas sobre questões sensíveis nos Estados Unidos. A OpenAI observou que a perpetração de tais abusos não se limita a uma nação; outros países, incluindo Rússia, Irã e Coreia do Norte, também exploraram a tecnologia para fins manipulativos.

De acordo com uma reportagem da NPR, a exploração do ChatGPT vai além da mera produção de propaganda. Relatos indicam que essas postagens foram estrategicamente amplificadas para parecerem mais confiáveis e acessíveis, levantando preocupações sobre seu potencial impacto na opinião pública. Além disso, o uso indevido se estendeu à criação de avaliações de desempenho que refletiam como o chatbot apoiava essas iniciativas. O relatório destaca o seguinte:

Propagandistas chineses estão usando o ChatGPT para escrever posts e comentários em sites de mídia social — e também para criar avaliações de desempenho detalhando o trabalho de seus chefes.

Ben Nimmo, um importante investigador da equipe de inteligência e investigação da OpenAI, abordou a crescente ameaça representada por essas operações.

O que estamos vendo na China é uma gama crescente de operações secretas usando uma gama crescente de táticas.

Essas operações também envolveram a elaboração de e-mails direcionados a analistas, jornalistas e políticos, com o objetivo de construir relacionamentos sob falsos pretextos e extrair informações confidenciais. A utilização de ferramentas de IA para manipulação estratégica levanta preocupações éticas significativas, exigindo vigilância e medidas proativas por parte das empresas para coibir tais práticas.

Fonte e Imagens