전 세계 사이버 범죄 환경은 놀라울 정도로 진화하고 있으며, 특히 개인과 조직 모두에게 심각한 위협을 초래하는 정교함의 증가가 특징입니다.랜섬웨어 공격의 증가는 새로운 형태를 띠고 있는데, 이는 부분적으로 생성적 AI 도구의 접근성 증가에 기인하는데, 안타깝게도 이 도구가 범죄에 악용되고 있습니다.이 첨단 기술은 이제 위협적인 몸값 요구 메시지를 작성하는 데 활용될 뿐만 아니라 사이버 범죄 작전 실행에도 필수적인 역할을 하고 있습니다. Anthropic의 최근 보고서는 이러한 추세를 강조하며, 범죄자들이 기술을 활용하여 악성 코드를 제작하고 광범위한 해킹 캠페인을 조직하는 방식을 밝혀냈습니다.
새로운 AI 기반 위협: 인류 보고서의 통찰력
수요일, 앤트로픽(Anthropic)은 로이터 통신 에 보도된 중요한 위협 인텔리전스 보고서를 발표했습니다.이 보고서 는 클로드(Claude) AI 시스템을 악용하려는 다양한 해킹 시도를 성공적으로 저지한 회사의 노력을 상세히 기술하고 있습니다.범죄자들은 피싱 이메일 발송 및 기존 보안 장치 우회 등의 목적으로 이러한 시스템을 악용하려 했습니다.이 보고서는 사이버 범죄자들이 악의적인 목적으로 생성 AI를 조작하기 위해 활용하는 혁신적이면서도 위험한 전술을 집중 조명합니다.
가장 우려스러운 발견 중 하나는 Anthropic의 AI 코딩 어시스턴트인 클로드 코드를 이용하여 정부 기관, 의료 기관, 응급 서비스 기관 등 17개 기관을 대상으로 조직적인 사이버 공격을 감행한 해킹 집단의 존재였습니다.이 집단은 몸값 요구뿐 아니라 해킹 전략 전반에 걸쳐 AI 모델을 능숙하게 활용했습니다. Anthropic은 이 새로운 공격 수법을 “바이브 해킹(vibe hacking)”으로 분류했습니다.이는 몸값 요구나 부당한 정보 공개 등을 통해 피해자에게 압력을 가하여 합의를 유도하는 공격자의 감정적, 심리적 강압 전술을 의미합니다.
보고서는 이 해킹 집단이 요구한 몸값이 50만 달러를 초과했다고 밝혔는데, 이는 AI 기반 사이버 공갈의 위험성을 여실히 보여줍니다.더욱이, 이러한 악용 사례는 랜섬웨어를 넘어, AI를 활용하여 포춘 500대 기업에 채용되는 등 사기 행위로까지 확대됩니다. AI 모델을 활용하여 채용 과정을 탐색함으로써 언어 유창성과 기술적 전문성으로 인해 발생하는 고용 장벽을 극복할 수 있었습니다.
Anthropic의 보고서는 텔레그램과 같은 플랫폼을 통해 행해지는 로맨스 사기를 포함한 다른 심각한 사례들도 보여주었습니다.사기꾼들은 Claude를 고용하여 미국, 일본, 한국 등 다양한 지역의 피해자들을 겨냥한 아첨하는 발언을 포함하여 여러 언어로 설득력 있는 메시지를 생성할 수 있는 봇을 개발했습니다.이러한 불법 행위에 대응하여 Anthropic은 문제가 되는 계정을 차단하고, 추가적인 안전 프로토콜을 시행하고, 법 집행 기관과 협력하는 등 적극적인 조치를 취했습니다.회사의 사용 정책이 업데이트되어 사기 또는 악성코드 제작에 자사 도구를 사용하는 것을 명시적으로 금지합니다.
바이브 해킹의 등장은 AI가 피해자를 점점 더 정밀하게 착취하는 데 미치는 영향에 대한 심오한 의문을 제기합니다.이는 정부와 기술 기업 모두가 기술 발전에 발맞춰 탐지 메커니즘을 강화하고 안전 조치를 마련해야 할 시급함을 강조합니다.디지털 시대에 AI가 조작과 피해를 위한 무기로 사용되는 것을 막기 위해서는 이러한 경계가 필수적입니다.
답글 남기기