OpenAI 的 ChatGPT 的出现彻底改变了人工智能的格局，ChatGPT 已在医疗、教育等多个领域得到广泛应用。然而，该公司对其人工智能技术的滥用表示担忧。最近的报告显示，OpenAI 发现并捣毁了多起与有害议程相关的秘密行动，尤其是那些源自中国的旨在操纵公众情绪的行动。
调查显示 ChatGPT 被未经授权用于宣传
人工智能能力的快速扩展及其与各种技术的融合，在科技界引发了重大的伦理问题。随着人工智能伦理使用的责任日益落在提供商身上，像 OpenAI 这样的公司肩负着培育负责任的开发实践的重任。尽管 OpenAI 努力提升伦理标准，但滥用行为依然层出不穷。OpenAI 已发现并终止了多起利用 ChatGPT 进行宣传的社交媒体活动，这些活动据称源自中国。
据报道，OpenAI 总共关闭了十个不同的项目，其中四个与中国利益明确相关。这些项目利用 ChatGPT 生成政治色彩浓厚的内容，并在多个平台上冒充个人以操纵公众舆论。一项名为“垃圾邮件叔叔”（Uncle Spam）的引人注目的行动，围绕美国敏感问题编造挑衅性言论。OpenAI 指出，此类滥用行为并非仅限于某个国家；包括俄罗斯、伊朗和朝鲜在内的其他国家也同样利用该技术进行操纵。
根据美国国家公共电台 (NPR) 的一份报告，ChatGPT 的滥用已不仅限于进行宣传。报告指出，这些帖子被策略性地夸大，以使其看起来更可信、更容易理解，这引发了人们对其可能影响公众舆论的担忧。此外，滥用行为还延伸到创建绩效评估，以反映聊天机器人如何支持这些举措。该报告强调了以下几点：
中国的宣传人员正在使用 ChatGPT 在社交媒体网站上撰写帖子和评论，同时也为其老板创建详细说明工作的绩效评估。
OpenAI 情报和调查团队的著名调查员 Ben Nimmo 谈到了这些行动所带来的日益升级的威胁。
我们看到中国秘密行动的范围越来越广，使用的战术也越来越多。
这些行动还涉及精心设计针对分析师、记者和政客的电子邮件，旨在以虚假借口建立关系并窃取敏感信息。利用人工智能工具进行战略操纵引发了严重的伦理担忧，企业必须保持警惕并采取积极措施来遏制此类行为。
发表回复 ▼