OpenAI 正在增加對通用人工智慧 (AGI) 的追求，尤其是在 DeepSeek 的競爭日益激烈的情況下，DeepSeek 已成為人工智慧領域的強大參與者。該公司已經明確了其對先進人工智慧代理的願景，並認為這是下一個重要的里程碑。然而，這項承諾是在對安全性和競爭力提升之間的微妙平衡進行持續審查的情況下做出的。最近，OpenAI 的人工智慧安全方法遭到了強烈反對，尤其是來自前員工對公司不斷變化的敘述的質疑。
前政策負責人對 OpenAI 人工智慧安全敘述的批評
為了吸引社群關注，OpenAI 概述了其逐步部署 AI 技術的方法，並以 GPT-2 的謹慎推出為基準。然而，這種方法尚未被普遍接受。 OpenAI 前政策研究員 Miles Brundage 曾公開批評該公司涉嫌歪曲其人工智慧安全歷史的敘述。
OpenAI發布的文件強調了其對AI部署的迭代和深思熟慮的方法的承諾。本文討論了學習過去的實踐以加強未來安全措施的重要性。具體來說，它引用了 GPT-2 作為該公司謹慎策略的一個例子，聲稱其旨在在複雜的環境中以高度警惕的態度對待當前系統。該文件明確指出：
在一個不連續的世界中 […] 安全教訓來自於以相對於其明顯功率的高度謹慎對待當今的系統，[這]是我們對[我們的人工智慧模型] GPT-2 採取的方法。我們現在將第一個 AGI 視為一系列不斷增加的有用系統中的一個點 […] 在連續的世界中，使下一個系統安全且有益的方法是從當前系統中學習。
曾擔任 OpenAI 政策研究主管的布倫戴奇強調，GPT-2 的推出遵循了有條不紊的軌跡，OpenAI 在整個開發過程中提供了見解。安全專家承認此次逐步部署是負責任的。他堅持認為，謹慎的態度至關重要，而不應過於冒險。
這篇文章的大部分內容都很好+我為那些致力於討論實質工作的人們鼓掌。
但我對「AGI 分多個步驟而不是一次性實現」部分感到非常惱火/擔心，它以令人擔憂的方式改寫了 GPT-2 的歷史。https://t.co/IQOdKczJeT
– Miles Brundage (@Miles_Brundage) 2025 年 3 月 5 日
布倫戴奇進一步對 OpenAI 的斷言表示不安，OpenAI 聲稱 AGI 將透過漸進的方式發展，而不是突然取得突破。他批評該公司可能歪曲了過去發布的時間表並重新定義了安全標準，他認為這可能會破壞有關技術進步過程中人工智慧風險的批判性討論。
這一事件再次表明，OpenAI 對其是否致力於優先考慮長期安全而不是快速創新和利潤的承諾存在質疑。像布倫戴奇這樣的專家繼續對採取審慎態度保障人工智慧安全的重要性表示擔憂，特別是隨著人工智慧發展速度的加快。
發佈留言