AI 에이전트, 중남미 금융사 400곳 자동 해킹

한 해킹 그룹이 인공지능(AI) 에이전트를 활용해 중남미 금융기관들에 대한 해킹을 자동화하는 데 성공했다고 IT분야 전문매체 디인포메이션이 현지시간 21일 보도했습니다.

매체가 인용한 사이버보안 스타트업 스트라이커의 조사 보고서에 따르면 사이버카르텔이라는 해킹 그룹은 앤트로픽의 클로드, 스페이스X의 그록, 중국 문샷AI의 키미 등을 기반으로 한 AI 에이전트 네트워크를 활용해 중남미 지역 400개 이상의 금융기관을 대상으로 자동화된 방식의 해킹을 했습니다.

동원된 AI 에이전트는 사람의 개입을 최소화한 상태에서 비밀번호와 고객 데이터를 탈취하고, 피해자의 은행 계좌에까지 접근한 것으로 나타났습니다.

AI 모델들은 사이버 공격 지시를 수락하지 않도록 하는 안전장치를 갖추고 있지만 사이버카르텔은 해당 작업이 학술적 테스트나 기업 내부 시스템 점검과 같은 무해한 환경에서 이뤄지는 것이라고 속여 안전장치를 피해 갔습니다.

또 클로드가 해킹 수행을 거부하면 키미에게 대신 해킹하도록 지시하고, 키미도 거부할 경우 에이전트 시스템이 악성코드를 배포하는 식으로 자동 전환하도록 했습니다.

디인포는 이번 조사 결과가 AI 모델을 활용하면 다수의 사이버 공격을 매우 빠르게 조직하고 실행할 수 있어 피해 기관의 방어 체계를 압도할 수 있음을 보여주는 것이라고 평가했습니다.

스트라이커의 앙쿠르 샤 최고경영자(CEO)는 "현재 공격 기술이 방어 기술을 크게 앞서고 있는 것이 현실"이라며 "기업들은 아직 대비하지 못한 상태"라고 말했습니다.

스트라이커는 지난주 앤트로픽, 스페이스X 등 AI 개발사들에 보고서를 보냈습니다.

앤트로픽 등은 보고서를 받은 직후 자체 조사를 진행했으며, 해커들이 자사 모델을 사용하지 못하도록 즉시 차단 조치를 취했다고 밝혔습니다.

스트라이커에 따르면 사이버카르텔은 최소 2012년부터 활동해 온 것으로 보이며, 최근 몇 달 사이 새 AI 에이전트들을 도입하면서 공격 속도와 효율성이 극적으로 향상됐습니다.

사이버카르텔은 이번 공격을 수행하면서 그록 AI 에이전트에는 웹상에서 공격 대상에 관한 정보를 수집하도록 했고, 클로드 오푸스와 클로드 소넷 기반의 4개의 에이전트에는 최적의 공격 방안을 찾게 했으며, 또 다른 클로드 모델에게는 해킹 작전을 총괄하는 '지휘관' 역할을 맡겼습니다.

스트라이커의 연구를 검토한 켄 황 샌프란시스코대학교 겸임 교수는 이번 사례는 오픈AI나 앤트로픽이 그동안 포괄적으로 경고해 온 공격 유형을 사이버 범죄자들이 어떻게 구체적으로 자동화하고 있는지를 잘 보여준다면서 AI로 인해 정교한 해킹의 진입 장벽이 얼마나 낮아졌는지를 입증한다고 말했습니다.

기업용 소프트웨어 업체 유아이패스의 스콧 로버츠 최고정보보안책임자(CISO)는 "우리 시스템을 겨냥한 자동화된 탐색 시도가 늘고 있다.

자동화된 공격은 지난 20년 넘게 꾸준히 증가해 왔는데, 이제 AI 모델 덕분에 공격이 훨씬 더 쉬워졌다"며 "우리는 보안 운영 및 탐지 체계를 조정해야 한다"고 말했습니다.