Anthropic alerta sobre aumento alarmante de crimes cibernéticos impulsionados por IA: “hacking de vibração” alimenta nova onda de ataques avançados

O cenário global do crime cibernético está evoluindo de forma alarmante, caracterizado por um aumento na sofisticação que representa ameaças significativas tanto para indivíduos quanto para organizações. O aumento dos ataques de ransomware assumiu uma nova forma, em parte devido à acessibilidade de ferramentas de IA generativa, que, infelizmente, estão sendo mal utilizadas para perpetrar crimes. Essa tecnologia avançada não só facilita a criação de mensagens de resgate ameaçadoras, como também é essencial na execução de operações de criminosos cibernéticos. Um relatório recente da Anthropic destaca essa tendência, revelando como os criminosos estão utilizando a tecnologia para criar malware e orquestrar extensas campanhas de hacking.

Ameaças emergentes impulsionadas pela IA: insights do Relatório Antrópico

Na quarta-feira, a Anthropic publicou um importante Relatório de Inteligência de Ameaças, publicado pela Reuters, detalhando os esforços bem-sucedidos da empresa para frustrar diversas tentativas de hacking que buscavam explorar seus sistemas de IA Claude. Os criminosos visavam utilizar esses sistemas para atividades como envio de e-mails de phishing e burlar as proteções existentes. Este relatório destaca as táticas inovadoras, porém preocupantes, que os cibercriminosos estão utilizando para manipular a IA generativa para fins maliciosos.

Entre as descobertas mais preocupantes está a descoberta de um grupo de hackers que empregava Claude Code, assistente de codificação de IA da Anthropic, para orquestrar uma campanha coordenada de ataque cibernético contra 17 organizações, incluindo órgãos governamentais, estabelecimentos de saúde e serviços de emergência. Esse grupo utilizou habilmente o modelo de IA não apenas para formular pedidos de resgate, mas também para executar toda a estratégia de hacking. A Anthropic categorizou esse novo método alarmante como “vibe-hacking”, referindo-se às táticas de coerção emocional e psicológica empregadas pelos invasores para pressionar as vítimas a obedecerem, seja por meio de resgates ou divulgação indevida de informações.

O relatório revelou que os resgates exigidos por esse grupo de hackers ultrapassaram US$ 500.000, destacando a natureza de alto risco da extorsão cibernética com IA. Além disso, as implicações desse uso indevido vão além do ransomware, abrangendo atividades fraudulentas, como o uso de IA para garantir cargos em empresas da Fortune 500 por meio de práticas enganosas. As barreiras de contratação normalmente impostas pela fluência no idioma e pela expertise técnica foram superadas com a utilização de modelos de IA para conduzir o processo de recrutamento.

O relatório da Anthropic também ilustrou outros exemplos preocupantes, incluindo golpes românticos conduzidos por meio de plataformas como o Telegram. Golpistas contrataram Claude para desenvolver bots capazes de gerar mensagens persuasivas em vários idiomas, incluindo comentários elogiosos direcionados a vítimas em diversas regiões, como Estados Unidos, Japão e Coreia. Em resposta a essas atividades ilícitas, a Anthropic tomou medidas proativas, banindo contas ofensivas, implementando protocolos de segurança adicionais e colaborando com as autoridades policiais. Atualizações na Política de Uso da empresa agora proíbem explicitamente o uso de suas ferramentas para criar golpes ou malware.

O advento do vibe-hacking levanta questões profundas sobre as implicações da IA na exploração de vítimas com precisão crescente. Enfatiza a necessidade urgente de governos e empresas de tecnologia aprimorarem mecanismos de detecção e adaptarem medidas de segurança em paralelo aos avanços tecnológicos. Essa vigilância é crucial para evitar que a IA seja usada como arma para manipulação e danos na era digital.

Fonte e Imagens