미국과 러시아가 유엔의 치명적 자율무기(LAW) 규제 협상에서 인공지능(AI) 무기의 안전한 운용을 위한 핵심 조항들을 삭제하는 데 주도적 역할을 했다고 워싱턴포스트(WP)가 현지시간 26일 보도했습니다.

WP가 익명의 소식통들을 인용한 보도에 따르면 미국과 러시아 외교관들은 이달 초 스위스 제네바에서 열린 유엔 협상 막바지 약 15시간 동안 집중적으로 문안을 수정, AI 무기체계가 '예측 가능하고 신뢰할 수 있는' 방식으로 운용돼야 한다는 문구를 삭제했습니다.

AI 무기를 사용할 때 윤리적 고려를 의무화한 조항과 AI가 선정한 군사 표적을 공격하기 전 인간이 검토하도록 한 규정도 삭제됐다고 WP는 전했습니다.

협상 내용을 아는 익명 소식통 3명은 회의장 카메라가 꺼지고 시민사회 참관인들이 퇴장한 비공개 회의에서 미국과 러시아가 각각 약 10명의 법률 전문가를 투입했다고 전했습니다.

이들은 다른 대표단보다 거의 2배의 인력을 동원, 빠르게 문안을 고쳤고 규모가 작은 대표단들은 대응에 어려움을 겪었다고 합니다.

한 소식통은 "수많은 사소한 수정이 누적돼 합의가 서서히 죽어갔다"고 표현했습니다.

미 국무부와 러시아 외무부, 유엔은 WP의 질문에 응답하지 않았습니다.

유엔의 치명적 자율무기 협상은 AI 기반 무기가 전장에서 사용되는 방식을 규율하려는 국제사회의 가장 진전된 논의로 평가됩니다.

현재로서는 법적 구속력이 없지만, 회원국 합의가 이뤄지면 구속력 있는 국제조약으로 발전할 수 있습니다.

각국은 오는 11월 다시 제네바에 모여 협상을 공식 위임 절차 또는 법적 구속력이 있는 조약으로 전환할지를 논의할 예정입니다.

인권단체 휴먼라이츠워치(HRW)의 베리티 코일 위기·분쟁·무기 부문 부국장은 규칙이 약화하면 기계가 인간의 통제 없이 생사를 좌우하는 결정을 내릴 수 있다고 우려했습니다.

그는 "민간인 피해는 늘고 책임성은 약화하며 더욱 위험한 자동화 전쟁으로 빠르게 나아갈 수 있다"고 지적했습니다.

국제 비정부기구 연대 '킬러 로봇 반대 캠페인'의 니콜 판 로에이엔 사무총장은 "미국과 러시아가 자율무기에 관한 법적 구속력 있는 규칙에 찬성하지 않는다"며 "협상의 결과에 과도한 영향력을 행사한다"고 비판했습니다.

AI의 군사적 이용은 이미 현실화하고 있습니다.

WP는 미군이 이란 전쟁 첫 24시간 동안 앤트로픽의 챗봇을 활용해 공격 표적 약 1천개를 식별했다고 보도했습니다.

이스라엘도 가자지구 군사작전에서 AI에 크게 의존하는 것으로 알려집니다.

미국 정부도 자율무기 사용 규정을 개정하고 있습니다.

도널드 트럼프 미 대통령은 지난 6월 국방부의 자율무기 지침을 90일 이내에 갱신하도록 하는 국가안보 각서를 발령했으나 아직 새 지침은 공개되지 않았습니다.

2023년 조 바이든 행정부에서 만들어진 기존 지침에는 자율·반자율 무기체계의 점검에 인간의 판단을 적용해야 한다는 내용과 AI 무기 운용자가 전쟁법과 관련 조약을 준수해야 한다는 조항 등이 담겼습니다.

이는 이번 유엔 협상 문안에서 삭제된 조항들과 유사하다고 WP는 짚었습니다.

코일 부국장은 WP에 "미국은 군사적, 기술적 우위를 보존하려 할 때 법적 구속력 있는 규칙 대신 자발적 지침을 밀어붙인다"며 "사이버, 우주, 그리고 다른 군비 통제 논쟁에서도 같은 방식을 사용했고 자율무기도 예외가 아니다"라고 말했습니다.

치명적 자율무기는 AI가 센서·영상 정보 등을 분석해 표적을 식별·추적하고, 공격 여부나 무기 운용의 일부 또는 전부를 수행할 수 있는 무기체계를 뜻합니다.

국제사회의 핵심 쟁점은 이런 체계가 인간의 의미 있는 통제 없이 생사를 좌우하는 결정을 내리지 못하도록 할 수 있느냐입니다.

(사진=AP, 연합뉴스)