OpenAI 的 ChatGPT 的出現徹底改變了人工智慧的格局，ChatGPT 已在醫療、教育等多個領域中廣泛應用。然而，該公司對其人工智慧技術的濫用表示擔憂。最近的報告顯示，OpenAI 發現並搗毀了多起與有害議程相關的秘密行動，尤其是那些源自中國的旨在操縱公眾情緒的行動。
調查顯示 ChatGPT 被未經授權用於宣傳
人工智慧能力的快速擴展及其與各種技術的融合，在科技界引發了重大的倫理問題。隨著人工智慧倫理使用的責任日益落在提供者身上，像 OpenAI 這樣的公司肩負著培育負責任的開發實踐的重任。儘管 OpenAI 努力提升倫理標準，但濫用行為仍層出不窮。 OpenAI 已發現並終止了多起利用 ChatGPT 進行宣傳的社群媒體活動，這些活動據稱源自中國。
據報導，OpenAI 總共關閉了十個不同的項目，其中四個與中國利益明確相關。這些項目利用 ChatGPT 產生政治色彩濃厚的內容，並在多個平台上冒充個人以操縱公眾輿論。一項名為「垃圾郵件叔叔」（Uncle Spam）的引人注目的行動，圍繞著美國敏感問題編造挑釁性言論。 OpenAI 指出，此類濫用行為並非僅限於某個國家；包括俄羅斯、伊朗和北韓在內的其他國家也同樣利用該技術進行操縱。
根據美國國家公共電台 (NPR) 的一份報告，ChatGPT 的濫用不僅限於進行宣傳。報告指出，這些貼文被策略性地誇大，以使其看起來更可信、更容易理解，這引發了人們對其可能影響公眾輿論的擔憂。此外，濫用行為還延伸到創建績效評估，以反映聊天機器人如何支援這些舉措。該報告強調了以下幾點：
中國的宣傳人員正在使用 ChatGPT 在社群媒體網站上撰寫貼文和評論，同時也為其老闆創建詳細說明工作的績效評估。
OpenAI 情報和調查團隊的著名調查員 Ben Nimmo 談到了這些行動所帶來的日益升級的威脅。
我們看到中國秘密行動的範圍越來越廣，使用的戰術也越來越多。
這些行動還涉及精心設計針對分析師、記者和政客的電子郵件，旨在以虛假藉口建立關係並竊取敏感資訊。利用人工智慧工具進行策略操縱引發了嚴重的倫理擔憂，企業必須保持警惕並採取積極措施來遏制此類行為。
發佈留言 ▼