OpenAI expone el uso encubierto de ChatGPT por parte de China para propaganda, manipulación de redes sociales y ataques a periodistas y políticos en una campaña de influencia impulsada por IA.

OpenAI ha transformado el panorama de la inteligencia artificial con la llegada de ChatGPT, que ha sido adoptado en diversos sectores como la salud, la educación y otros. Sin embargo, la compañía ha expresado su preocupación por el uso indebido de su tecnología de IA. Informes recientes indican que OpenAI ha descubierto y desmantelado varias operaciones encubiertas asociadas con fines perjudiciales, en particular las procedentes de China, destinadas a manipular la opinión pública.

Investigaciones revelan uso no autorizado de ChatGPT para propaganda

La rápida expansión de las capacidades de la IA y su integración en diversas tecnologías han planteado importantes cuestiones éticas en la comunidad tecnológica. Dado que la responsabilidad del uso ético de la IA recae cada vez más en los proveedores, empresas como OpenAI tienen la tarea de promover prácticas de desarrollo responsables. A pesar de los diligentes esfuerzos por promover estándares éticos, siguen surgiendo casos de abuso. OpenAI ha identificado y desmantelado varias campañas en redes sociales que utilizan ChatGPT con fines propagandísticos, supuestamente originadas en China.

En total, OpenAI presuntamente clausuró diez operaciones diferentes, cuatro de las cuales estaban específicamente vinculadas a intereses chinos. Estas operaciones utilizaban ChatGPT para generar contenido con tintes políticos y suplantar la identidad de personas en diversas plataformas para influir en la opinión pública. Una iniciativa destacada, conocida como «Uncle Spam», se dedicaba a crear narrativas provocativas sobre temas delicados en Estados Unidos. OpenAI ha señalado que la perpetración de estos abusos no se limita a una sola nación; otros países, como Rusia, Irán y Corea del Norte, han explotado la tecnología de forma similar con fines manipuladores.

Según un informe de NPR, la explotación de ChatGPT va más allá de la mera producción de propaganda. Los informes indican que estas publicaciones se amplificaron estratégicamente para parecer más creíbles y accesibles, lo que genera preocupación por su posible impacto en la opinión pública. Además, el uso indebido se extendió a la creación de evaluaciones de rendimiento que reflejaban cómo el chatbot apoyaba estas iniciativas. El informe destaca lo siguiente:

Los propagandistas chinos están usando ChatGPT para escribir publicaciones y comentarios en sitios de redes sociales, y también para crear evaluaciones de desempeño que detallen ese trabajo para sus jefes.

Ben Nimmo, un destacado investigador del equipo de inteligencia e investigación de OpenAI, abordó la creciente amenaza que plantean estas operaciones.

Lo que estamos viendo desde China es una gama cada vez mayor de operaciones encubiertas que utilizan una gama cada vez mayor de tácticas.

Estas operaciones también implicaron la elaboración de correos electrónicos dirigidos a analistas, periodistas y políticos, con el objetivo de forjar relaciones con pretextos falsos y extraer información confidencial. El uso de herramientas de IA para la manipulación estratégica plantea importantes preocupaciones éticas, lo que exige vigilancia y medidas proactivas por parte de las empresas para frenar estas prácticas.

Fuente e imágenes