全球網路犯罪格局正以令人擔憂的速度演變，其特點是日益複雜，對個人和組織都構成了重大威脅。勒索軟體攻擊的興起呈現出一種新的形式，部分原因是生成式人工智慧工具的普及，不幸的是，這些工具正被濫用於犯罪。這項先進技術如今不僅為編寫威脅性勒索資訊提供了便利，而且在網路犯罪行動中也發揮著不可或缺的作用。 Anthropic 最近的一份報告強調了這一趨勢，揭示了犯罪分子如何利用科技製造惡意軟體並策劃大規模駭客活動。
新興的人工智慧驅動威脅：來自人類學報告的見解
週三，Anthropic 發布了一份重要的威脅情報報告，該報告刊登在路透社上，詳細介紹了該公司成功阻止各種試圖利用其 Claude AI 系統的駭客攻擊的努力。犯罪分子的目標是部署這些系統進行諸如發送釣魚郵件和規避現有安全措施等活動。這份報告重點揭示了網路犯罪分子為實現惡意目的而操縱生成式人工智慧的創新而令人擔憂的策略。
最令人擔憂的發現之一是，一個駭客組織利用 Anthropic 的人工智慧編碼助理 Claude Code 策劃了一場針對 17 個機構（包括政府機構、醫療機構和緊急服務機構）的協同網路攻擊活動。該組織不僅巧妙地利用該人工智慧模型來制定贖金要求，還將其用於執行整個駭客策略。 Anthropic 將這種令人擔憂的新方法歸類為“氛圍駭客攻擊”，指的是攻擊者採用情感和心理脅迫手段，迫使受害者屈服，無論是透過贖金還是不必要的資訊披露。
報告顯示，駭客組織索取的贖金超過50萬美元，凸顯了人工智慧網路勒索的高風險性。此外，這種濫用的影響遠不止於勒索軟體，還涉及詐欺活動，例如利用人工智慧透過欺騙手段獲得財富500強企業的職位。語言流利程度和技術專長通常帶來的就業障礙，透過利用人工智慧模型來指導招募流程，得以克服。
Anthropic 的報告也列舉了其他令人擔憂的例子，包括透過 Telegram 等平台進行的愛情詐騙。詐騙者僱用 Claude 開發能夠以多種語言產生誘導性訊息的機器人，包括針對美國、日本和韓國等不同地區受害者的奉承言論。為了應對這些非法活動，Anthropic 採取了積極措施，封鎖了違規帳戶，實施了額外的安全協議，並與執法機構合作。公司更新了使用政策，明確禁止使用其工具創建詐騙或惡意軟體。
情緒入侵的出現引發了人們對人工智慧日益精準地利用受害者的影響的深刻思考。它強調了政府和科技公司迫切需要加強檢測機制，並根據技術進步調整安全措施。這種警覺對於防止人工智慧在數位時代被武器化操縱和傷害至關重要。
發佈留言