AI가 멋대로 금융거래 할라…미국 은행들 계좌 접근 막으려 비상

미국 대형 은행들이 인공지능(AI) 에이전트가 고객의 승인 없이 금융거래를 실행하거나 자금을 이동시킬 가능성을 우려해 대응책 마련에 나서고 있습니다.

23일(현지시간) 미국 인터넷매체 악시오스에 따르면 JP모건체이스 등 미국 주요 은행들은 AI 에이전트가 고객 계좌에 접근해 활동하는 사례를 포착하고 접근 차단 등 보안 조치를 강화하고 있습니다.

은행 고객들이 편의를 위해 AI 에이전트에 계좌 로그인 정보를 제공하면서 은행의 보안 검증을 거치지 않은 AI의 계좌 접근이 늘고 있으며, 일부 에이전트는 사용자의 지시와 무관하게 독자적으로 행동하려 한 정황도 나타났다는 것입니다.

은행들이 우려하는 것은 AI 에이전트가 계좌에 접근하는 행위 자체보다 그 이후에 발생할 수 있는 예측하기 어려운 행동과 파급 효과입니다.

AI 에이전트가 고객의 요청을 처리하는 과정에서 승인받지 않은 거래를 실행하거나 자금을 이동시킬 경우 개인의 금전적 피해를 넘어 금융 시스템 전반의 혼란을 초래할 수 있습니다.

지난달 한 경제학자는 AI 에이전트들이 이용자들의 은행 예금을 더 높은 금리를 제공하는 다른 계좌로 일제히 옮길 경우 대규모 예금 인출 사태인 '뱅크런'이 발생할 가능성이 있다고 경고하기도 했습니다.

제이미 다이먼 JP모건 최고경영자(CEO)도 이달 초 시카고에서 열린 행사에서 AI 에이전트가 사용자 의도와 다르게 행동할 위험성을 경고했습니다.

그는 "AI가 당신을 대신해 적절하게 행동할 것이라고 가정하지만 그렇지 않을 수 있다"면서 AI 기술의 발전을 막을 수 없는 만큼 철저하게 관리해야 한다고 강조했습니다.

이에 JP모건을 비롯한 주요 은행들은 AI 에이전트의 계좌 접근을 차단하는 조치를 취하는 한편, 고객들이 비밀번호를 넘겨주지 않고도 외부 AI 서비스를 안전하게 이용할 수 있는 방안을 모색하고 있습니다.

은행들은 AI 에이전트가 계좌 잔액이나 거래 내역을 조회할 수는 있지만 직접 금융거래를 실행하지는 못하도록 하는 '읽기 전용' 접근 권한도 대안으로 검토하고 있습니다.

JP모건 대변인은 "어떤 상황에서도 고객은 비밀번호를 다른 사람이나 사물과 공유해서는 안 된다"며 계좌 보안에 주의할 것을 당부했습니다.

다만 은행들은 현재까지 AI 에이전트의 일탈 행동으로 고객 자금에 피해가 발생하거나 계좌가 해킹당한 증거는 발견되지 않았다고 밝혔습니다.

대형 은행들은 이와 별개로 AI를 활용한 대규모 사이버 공격 가능성에도 대비하고 있습니다.

앞서 은행들은 앤트로픽이 개발한 첨단 AI 모델 '미토스'의 초기 시험에 참여해 사이버 공격에 악용될 수 있는 보안 취약점을 파악하고 대응 방안을 모색했습니다.

미토스는 소프트웨어와 전산망의 보안 취약점을 찾아내는 데 뛰어난 능력을 갖춘 AI 모델로, 은행들은 이를 활용해 잠재적인 사이버 위협을 분석하고 방어체계를 점검해 왔습니다.

은행들은 나아가 AI 관련 대규모 공격이 실제로 발생할 경우 고객 계좌를 보호하고 예금주들의 불안을 진정시키며 금융 서비스를 정상적으로 유지하기 위한 비상계획도 마련하고 있습니다.

(사진=AP, 연합뉴스)