谷歌更新人工智慧在軍事武器的應用承諾

谷歌更新人工智慧在軍事武器的應用承諾

人工智慧的興起:影響與發展

人工智慧(AI)已成為人們關注的焦點,隨著美國的ChatGPT和中國的DeepSeek等大型語言模型(LLM)聊天機器人的快速發展,人工智慧引起了全球的關注,並對股市產生了顯著影響。這種新興趣引發了有關人工智慧對各個行業的影響的相關問題,特別是對於那些可能不熟悉「人工智慧」一詞的人來說。

對人工智慧技術的擔憂

儘管人工智慧帶來了許多好處,但也存在著不容忽視的固有風險。錯誤訊息、侵犯隱私、過度依賴科技以及潛在的軍事應用等問題令人嚴重擔憂。減輕此類危險的責任完全落在人工智慧先驅和產業領袖身上。

Google 對負責任的 AI 的承諾

為了應對這些挑戰,谷歌始終將人工智慧開發領域的安全性放在首位。在過去六年,該公司每年都會發布一份《負責任的人工智慧進展報告》。

最新報告的一個重要更新是對Google Frontier 安全框架的修改。該框架由 Google DeepMind 發起,旨在主動識別和解決與高級人工智慧系統相關的潛在風險。一些關鍵的增強功能包括:

  • 加強安全的建議:提出加強防範資料外洩的安全措施的策略。
  • 部署緩解程序:制定指導方針,防止濫用強大的人工智慧功能。
  • 欺騙性對準風險:應對可能操縱人類監督的自主系統所帶來的威脅。

人工智慧發展中的民主領導力

隨著安全協議的更新,Google重申了其立場,即民主國家應該引領人工智慧技術的發展,強調自由、平等和尊重人權等價值。該公司還宣布對 2018 年首次發布的原始人工智慧原則進行修訂。

谷歌人工智慧原則的變化

造訪「人工智慧原則」頁面會發現,關於人工智慧在武器中的使用明顯缺失。該頁面的存檔版本於 2024 年 2 月 22 日發布,其中包括一項承諾,即不創建或部署用於造成傷害的人工智慧技術:

其主要目的或實施目的是對人造成傷害或直接促進對人的傷害的武器或其他技術。

然而,修訂後的原則中刪除了這項承諾,目前主要集中在三個核心原則:

  • 大膽創新:我們的目標是發展人工智慧技術,賦予個人權力並推動各領域的進步,增進經濟和社會福利。
  • 負責任的開發和部署:認識到人工智慧的變革性質,我們致力於透過嚴格的測試和道德考慮確保其安全開發和實施。
  • 共同協作、不斷進步:我們重視合作關係,並致力於創造能讓其他人利用人工智慧取得正面成果的技術。

員工顧慮和道德考量

有趣的是,Google尚未解決先前不將人工智慧用於軍事目的的承諾,這項決定遭到了員工的強烈反對。 2018 年,近4, 000 名員工簽署了一份請願書,要求終止該公司與美國國防部的合同,即所謂的 Maven 項目,該項目利用人工智慧分析無人機圖像。

最近,Google DeepMind 的員工也表達了類似的擔憂,敦促科技公司切斷與軍事實體的聯繫。這次行動號召參考了該公司的人工智慧原則,並認為這種關係與他們先前不開發軍事技術的承諾相衝突。

如需進一步了解,請造訪Seek.com

來源和圖片

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *