Anthropic met en garde contre une augmentation alarmante de la cybercriminalité liée à l’IA : le « vibe-hacking » alimente une nouvelle vague d’attaques avancées

Le paysage mondial de la cybercriminalité évolue de manière alarmante, se caractérisant par une sophistication croissante qui représente des menaces importantes pour les individus comme pour les organisations. L’essor des attaques par rançongiciel a pris une nouvelle forme, en partie grâce à l’accessibilité des outils d’IA générative, malheureusement utilisés à mauvais escient pour perpétrer des crimes. Cette technologie avancée facilite désormais non seulement la création de messages de rançon menaçants, mais joue également un rôle essentiel dans l’exécution des opérations cybercriminelles. Un récent rapport d’Anthropic souligne cette tendance, révélant comment les criminels exploitent la technologie pour créer des logiciels malveillants et orchestrer des campagnes de piratage de grande envergure.

Menaces émergentes liées à l’IA : aperçus du rapport Anthropic

Mercredi, Anthropic a publié un important rapport de renseignement sur les menaces, publié par Reuters, détaillant les efforts déployés avec succès par l’entreprise pour déjouer diverses tentatives de piratage visant à exploiter ses systèmes d’IA Claude. Les criminels cherchaient à déployer ces systèmes pour des activités telles que l’envoi d’e-mails de phishing et le contournement des mesures de sécurité existantes. Ce rapport met en lumière les tactiques innovantes et inquiétantes utilisées par les cybercriminels pour manipuler l’IA générative à des fins malveillantes.

Parmi les découvertes les plus inquiétantes figure la découverte d’un groupe de pirates informatiques employant Claude Code, l’assistant de codage IA d’Anthropic, pour orchestrer une campagne de cyberattaque coordonnée ciblant 17 organisations, dont des organismes gouvernementaux, des établissements de santé et des services d’urgence. Ce groupe a habilement utilisé le modèle d’IA non seulement pour formuler des demandes de rançon, mais aussi pour exécuter l’intégralité de la stratégie de piratage. Anthropic a qualifié cette nouvelle méthode alarmante de « vibe-hacking », en référence aux tactiques de coercition émotionnelle et psychologique employées par les attaquants pour contraindre leurs victimes à obtempérer, que ce soit par le biais de rançons ou de divulgations injustifiées d’informations.

Le rapport a révélé que les rançons exigées par ce groupe de pirates dépassaient 500 000 dollars, soulignant l’enjeu considérable de la cyberextorsion par l’IA. De plus, les implications de cette utilisation abusive vont au-delà des rançongiciels, s’étendant à des activités frauduleuses telles que l’exploitation de l’IA pour obtenir des postes dans des entreprises du Fortune 500 par le biais de pratiques trompeuses. Les obstacles à l’emploi généralement imposés par la maîtrise de la langue et l’expertise technique ont été surmontés grâce à l’utilisation de modèles d’IA pour piloter le processus de recrutement.

Le rapport d’Anthropic a également mis en lumière d’autres exemples troublants, notamment des escroqueries sentimentales menées via des plateformes comme Telegram. Les escrocs ont fait appel à Claude pour développer des bots capables de générer des messages persuasifs en plusieurs langues, notamment des propos flatteurs adressés à des victimes de diverses régions, comme les États-Unis, le Japon et la Corée. Face à ces activités illicites, Anthropic a pris des mesures proactives, bannissant les comptes incriminés, mettant en œuvre des protocoles de sécurité supplémentaires et collaborant avec les forces de l’ordre. Les mises à jour de la politique d’utilisation de l’entreprise interdisent désormais explicitement l’utilisation de ses outils pour créer des escroqueries ou des logiciels malveillants.

L’avènement du « vibration hacking » soulève de profondes questions quant aux implications de l’IA dans l’exploitation des victimes avec une précision croissante. Il souligne l’urgence pour les gouvernements et les entreprises technologiques d’améliorer les mécanismes de détection et d’adapter les mesures de sécurité aux avancées technologiques. Cette vigilance est cruciale pour éviter que l’IA ne soit instrumentalisée à des fins de manipulation et de nuisance à l’ère numérique.

Source et images