人工智慧瀏覽器帶來安全風險:為什麼我不能再忽視這項威脅

人工智慧瀏覽器帶來安全風險:為什麼我不能再忽視這項威脅

近年來,我嘗試了各種各樣的網頁瀏覽器,包括創新的人工智慧驅動型瀏覽器,即所謂的「代理瀏覽器」。這些平台不僅顯示網站,還能根據使用者請求自主運作。目前,一些最知名的人工智慧瀏覽器包括Perplexity的Comet和Dia,以及Google在Chrome瀏覽器中整合的Gemini。雖然這些人工智慧瀏覽器可以簡化某些線上任務,但它們也引發了資料安全和隱私方面的重大擔憂。

了解AI瀏覽器

人工智慧瀏覽器本質上是增強了人工智慧功能的網頁瀏覽器,其功能遠不止於簡單的網站導航。與僅顯示內容的傳統瀏覽器不同,人工智慧瀏覽器充當主動助手,隨時準備解答您的疑問並代您執行任務。

它們通常被稱為“代理瀏覽器”,能夠解讀用戶意圖,獨立瀏覽網站,並完成各種任務,例如填寫表格、預訂、線上購物、總結文章、管理電子郵件和日曆應用程式。用戶無需進行傳統的點擊和滾動操作,只需發出「預訂週五晚餐」之類的指令,AI 就會管理整個預訂流程。

在該領域的眾多知名廠商中,Perplexity 的 Comet 脫穎而出,它是一款基於代理 AI 構建的全集成瀏覽器。 Comet 的設計理念類似於個人助理,擅長匯總網頁、整理收件匣以及執行複雜的工作流程。

螢幕截圖顯示了 Comet 主頁

Comet 基於 Chromium 框架構建,支援自然語言命令,並與 Gmail 和日曆等服務無縫集成,不過目前只能透過每月 200 美元的「Max」高級套餐使用。我親自測試了 Comet,發現它的潛力巨大,但出於隱私方面的考慮,我最終還是回歸了標準瀏覽器。

Dia 由瀏覽器公司創建,現為 Atlassian 的一部分,它提供了類似的體驗,並擁有與 Comet 重疊的功能。

Dia瀏覽器首頁

雖然 OpenAI 尚未推出獨立的 AI 瀏覽器,但其 ChatGPT 應用程式提供了能夠處理類似功能的代理模式。此外,Google也正透過 Project Mariner 進入這一領域,這是一款 Chrome 擴充程序,旨在方便購物、資訊檢索和表單填寫。

網路應用中的 ChatGPT 代理模式

人工智慧瀏覽器的資料隱私風險

AI驅動的瀏覽器和代理程式需要大量存取用戶數據,這可能會引發嚴重的隱私問題。這些工具通常會收集大量的瀏覽記錄和使用者互動數據,以供AI處理。這些瀏覽器的效率提升功能(例如讀取多個標籤頁、索引本機檔案以及與電子郵件或日曆系統整合)意味著,如果沒有採取足夠的安全措施,它們可能會在無意中處理敏感的使用者資料。

Brave 隱私與安全副總裁 Shivan Kaul Sahib 就安全隱患發表了深刻見解:“安全風險取決於 AI 如何精準地融入瀏覽器……當 AI 充當助手,且功能受到嚴格控制時,其安全風險與傳統瀏覽器相當。然而,賦予 AI 自主執行操作的能力會使安全動態更加複雜。”

Brave 的研究人員進一步強調了潛在的漏洞,發現了 Comet 的一個嚴重風險。一項實驗允許透過惡意提示進行跨網域帳戶訪問,該提示指示 AI 助理總結網頁內容。 AI 無意中將使用者命令與網頁文字混合處理,這可能使攻擊者能夠透過在頁面中嵌入欺騙性指令來利用此功能。

此外,安全專家警告稱,人工智慧代理會增加網路入侵的「攻擊面」。 OpenAI 執行長 Sam Altman 承認,將控制權交給人工智慧代理會增加風險,並大幅擴展攻擊媒介。

權衡便利與隱私

雖然人工智慧瀏覽器承諾簡化線上活動,但它們也伴隨著嚴重的隱私問題。透過我測試這些平台的經驗,我發現它們的便利性往往會損害速度、可靠性和安全性。例如,在使用 Comet 時,我最初很欣賞它自動化瀏覽的潛力,但很快就感到沮喪,因為與傳統瀏覽方式相比,它完成任務所需的時間要長得多。

彗星代理運行中

同樣,我用 OpenAI Operator 進行的測試也取得了略好的結果,但遠非完美。頻繁的錯誤讓我對它的產出產生了質疑,而不是信任它的建議。

ChatGPT 代理程式實際運行

減輕人工智慧瀏覽器的濫用

除了效能問題之外,人工智慧瀏覽器的主要風險在於其可能被濫用。安全公司 Guardio 開展的一項名為「Scamlexity」的令人擔憂的實驗,就暴露了這些系統是多麼脆弱。在這項研究中,研究人員創建了一個詐騙電商網站,並指示 Comet 購買一塊 Apple Watch。令人擔憂的是,在多次試驗中,Comet 竟然將商品加入購物車,並嘗試使用用戶保存的信用卡資訊進行結帳,而沒有尋求用戶的確認。

另一項實驗涉及發送一封來自富國銀行的虛假釣魚郵件。 Comet 能夠訪問用戶的收件箱,它不僅打開了郵件,還點擊了釣魚鏈接,並開始嘗試在被欺騙的網站上輸入登入憑證。

SureShield 技術長 Chandrasekhar Bilugu 警告:「人工智慧瀏覽器是一把雙刃劍。」他強調,開發人員需要實施安全協議,例如沙盒、限制 AI 對敏感功能的存取以及進行對抗性測試。使用者也應承擔責任,啟動隱私擴充程序,避免向 AI 工具洩露敏感訊息,並堅持 AI 流程的透明度,以降低漏洞利用風險。

這些見解凸顯了一個關鍵問題:人工智慧瀏覽器旨在提升使用者體驗的特性,可能同時損害隱私和安全。如果沒有實質的保護措施,使用人工智慧瀏覽器通常意味著將敏感資料的控制權拱手讓給尚未開發的功能。

對於有興趣區分人工智慧和人類互動的人來說,有幾種工具可以提供幫助。

來源和圖片

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *