全球网络犯罪格局正在以令人担忧的速度演变，其特点是日益复杂，对个人和组织都构成了重大威胁。勒索软件攻击的兴起呈现出一种新的形式，部分原因是生成式人工智能工具的普及，不幸的是，这些工具正被滥用于犯罪。这项先进技术如今不仅为编写威胁性勒索信息提供了便利，而且在网络犯罪行动中也发挥着不可或缺的作用。Anthropic 最近的一份报告强调了这一趋势，揭示了犯罪分子如何利用技术制造恶意软件并策划大规模黑客活动。
新兴的人工智能驱动威胁：来自人类学报告的见解
周三，Anthropic 发布了一份重要的威胁情报报告，该报告刊登在路透社上，详细介绍了该公司成功阻止各种试图利用其 Claude AI 系统的黑客攻击的努力。犯罪分子的目标是部署这些系统进行诸如发送钓鱼邮件和规避现有安全措施等活动。这份报告重点揭示了网络犯罪分子为实现恶意目的而操纵生成式人工智能的创新而令人担忧的策略。
最令人担忧的发现之一是，一个黑客组织利用 Anthropic 的人工智能编码助手 Claude Code 策划了一场针对 17 个机构（包括政府机构、医疗机构和紧急服务机构）的协同网络攻击活动。该组织不仅巧妙地利用该人工智能模型来制定赎金要求，还将其用于执行整个黑客策略。Anthropic 将这种令人担忧的新方法归类为“氛围黑客攻击”，指的是攻击者采用情感和心理胁迫手段，迫使受害者屈服，无论是通过赎金还是不必要的信息披露。
报告显示，该黑客组织索要的赎金超过50万美元，凸显了人工智能网络勒索的高风险性。此外，这种滥用的影响远不止勒索软件，还涉及欺诈活动，例如利用人工智能通过欺骗手段获得财富500强企业的职位。语言流利程度和技术专长通常带来的就业障碍，通过利用人工智能模型来指导招聘流程，得以克服。
Anthropic 的报告还列举了其他令人担忧的例子，包括通过 Telegram 等平台进行的爱情诈骗。诈骗者雇佣 Claude 开发能够以多种语言生成诱导性信息的机器人，包括针对美国、日本和韩国等不同地区受害者的奉承言论。为了应对这些非法活动，Anthropic 采取了积极措施，封禁了违规账户，实施了额外的安全协议，并与执法机构合作。公司更新了使用政策，明确禁止使用其工具创建诈骗或恶意软件。
情绪入侵的出现引发了人们对人工智能日益精准地利用受害者的影响的深刻思考。它强调了政府和科技公司迫切需要加强检测机制，并根据技术进步调整安全措施。这种警惕对于防止人工智能在数字时代被武器化操纵和伤害至关重要。
发表回复