[월드리포트] '군사용 AI' 어디까지…미 '선언문' 공개

요즘 인공지능(AI) 'ChatGPT' 기사 관련 언론을 달구고 있습니다. '수능 문제를 풀어보게 했더니 몇 점이더라', 'ChatGPT로 판결문을 썼다' 등등 기존 관념을 뛰어넘는 강력한 AI의 등장에 너나 할 것 없이 놀라는 모습입니다. 물론 AI가 청산유수처럼 답을 쏟아 내지만 자세히 보면 틀린 내용도 많다는 지적 역시 함께 나오고 있습니다. 한 가지 확실한 건 이제 AI가 과거 인터넷이나 스마트폰이 우리 삶을 바꿔 놓았던 것처럼 엄청난 변화를 가져올 거라는 점입니다.

사실 이런 과학기술에서 혁신을 이끌어 온 핵심 분야는 군사 부문입니다. 2차 대전 당시 독일 나치가 개발한 'V1 로켓'이 우주 발사체의 시초가 됐고, 일본을 두 손 들게 만든 핵폭탄은 후일 원자력 발전의 기술적 기반이 됐습니다. 파괴적 군사 기술이 인류의 삶을 풍요롭게 했다는 점에서 역설적이기는 하지만 군사 분야에 말로 생산성보다 혁신에 목표를 두는 몇 안 되는 분야이다 보니 어쩌면 당연한 일일지도 모릅니다.

각국은 이미 군사용 AI 개발에 나선 지 오래입니다. 그런 점에서 AI 역시 군사 분야에서 활발한 투자와 개발이 이뤄지고 있습니다. 미 국방부는 전장 분석과 정비 수요 예측 등에서 AI 활용을 늘리고 있고, 중국은 2030년까지 세계 최고 AI 강국이 되겠다는 목표 아래 군대의 인공지능화를 추진하고 있습니다. 우리 국방부도 '국방혁신 4.0' 계획에 따라 AI 기반 첨단과학기술 강군 육성을 목표로 내세웠습니다.
  이런 군사 로봇 분야에서 가장 앞선 곳은 (예상하셨겠지만) 미국입니다. 그런 미국이 AI 군사 분야 각종 하드웨어와 소프트웨어에 이어 이번에는 AI를 군사적으로 책임 있게 사용하기 위한 가이드라인을 내놨습니다. 바로 'AI와 자율성의 책임 있는 군사적 사용에 대한 정치적 선언' 프레임 워크(framework for a 'Political Declaration on the Responsible Military Use of Artificial Intelligence and Autonomy')입니다.

선언문은 미국뿐 아니라 세계 각국을 향해 ▲군사적 AI 능력이 국제법과 일치시키도록 필요한 조치를 취하고 ▲핵무기와 관련한 결정에 인간이 통제 ∙ 개입하도록 하며 ▲무기 시스템 등 여파가 큰 모든 군사적 AI 능력 개발 및 배치 때 고위 정부 관료가 감독할 수 있도록 보장할 것 등을 촉구했습니다. 이밖에 군사용 AI 시스템이 ▲감시 가능하고 ▲명시적이고 잘 정의된 용도로 사용되도록 하며 ▲수명 전반에 걸쳐 엄격한 테스트와 평가를 받도록 하고 ▲의도치 않은 행동을 할 경우 비활성화할 수 있도록 하자는 내용 등도 포함됐습니다.

이 선언문은 '군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의'(REAIM 2023)에서 공개됐습니다. REAIM 2023 회의는 지난해 11월 우리나라와 네덜란드의 정상 간 합의에 따라 양국 정부가 공동 주최한 행사로, 80여 개국 정부 관계자를 비롯해 기업, 연구기관, 싱크탱크, 국제기구 등 2천여 명이 참가했습니다.

행사 기간 참가자들은 군사용 AI의 기회와 한계, 위험성, 윤리적 문제 등 의제와 관련해 토론을 벌였고, 군사용 AI가 기회와 위험이 병존하는 '양날의 칼'이라는 점에는 의견을 같이했습니다. 행사 마지막 날에는 61개국 정부 대표단이 서명한 '공동 행동 촉구서'(call to action)도 발표됐는데, 외교 안보 분야에서 흔히 접할 수 있는 선언적 내용이었습니다. ("우리는 다자적이고 포괄적인 방식으로 군사 영역에서 책임 있는 AI에 대한 글로벌 대화를 지속할 것을 약속하며, 모든 이해관계자가 국제법에 따라 국제 안보와 안정에 기여하는 데 책임질 것을 요구한다" 등등)

국제사회가 군사용 AI 사용에 대해 논의를 시작했다는 건 실전 배치가 임박했다는 이야기입니다. 아니, 이미 이번 우크라이나 전쟁에서 실제 활용되기 시작했습니다. 미국 빅데이터 기업 '팔란티어'가 상용 위성이나 정찰 드론 등으로 수집한 적군 위치 정보에 AI 기술을 적용한 소프트웨어를 우크라이나군에 제공한 게 그런 사례 중 하나입니다. 결과는 어땠을까요? (물론 AI가 전부는 아니었겠지만) 예상치도 못했던 곳에서 날아든 우크라이나군의 포탄과 미사일에 러시아군이 꼼짝없이 당하면서 피해가 속출했습니다.

전쟁은 인류의 시작과 함께 한 뿌리 깊은 역사를 갖고 있습니다. 누구도 원하지 않았지만 누구도 근절할 수 없었던 걸 보면, 인간이 갖는 원초적 한계인지도 모릅니다. 어찌되었건 전쟁은 가장 비인간적인 폭력인 동시에, 그렇기 때문에 가장 복잡한 인간의 가치 판단이 필요한 영역입니다. 모든 영역이 다 그렇지만 특히나 군사 분야에서 AI의 발달이 잘못된 길로 들어설 경우, 인류에게 짊어져야 할 파멸적 결말은 상상 이상이 될지도 모릅니다.