▲ 안토니우 구테흐스 유엔 사무총장
안토니우 구테흐스 유엔 사무총장이 치명적 자율무기를 '살인 로봇'이라고 칭하며 규제 필요성을 역설했습니다.
미국 일간 월스트리트저널(WSJ) 등 외신에 따르면 구테흐스 사무총장은 6일(현지시간) 스위스 제네바에서 열린 인공지능(AI) 거버넌스 관련 행사에서 연설하고, 치명적 자율무기는 "도덕적으로 혐오스러운 것"이라며 규제 마련을 촉구했습니다.
그는 "기계가 인간의 통제나 판단 없이 표적을 선정하고 공격해 생명을 앗아가는 것은 윤리적으로 용납할 수 없다"며 치명적 자율무기를 국제법으로 금지해야 한다고 강조했습니다.
이어 "잔혹한 일이 벌어질 때까지 기다려서는 안 된다"며 "어떤 결정들은 영원히 인간이 해야 하며, 그중에서도 타인의 생명을 앗아가는 결정만큼 중요한 일은 없다"고 말했습니다.
WSJ은 구테흐스 사무총장의 이런 발언이 올해 초 미국 국방부와 앤트로픽 간 갈등의 핵심이었던 AI 안전성 논란을 다시 수면으로 끌어올렸다고 짚었습니다.
미 국방부와 앤트로픽 간 갈등은 미군이 올해 초 니콜라스 마두로 전 베네수엘라 대통령 체포 작전 과정에서 앤트로픽의 클로드를 사용한 것으로 알려지면서 불거졌습니다.
앤트로픽은 자사의 AI 모델을 대규모 감시나 자율 살상 무기 등에 사용해서는 안 된다는 입장을 피력했지만, 국방부는 합법적인 모든 활동에 사용할 수 있어야 한다며 대립했습니다.
WSJ에 따르면 민간용으로 설계된 AI 시스템과 칩이 전장과 군 지휘부에 점차 더 많이 배치되면서 군대가 언제 AI를 사용하고, 언제 인간이 개입해야 하는지에 관한 논쟁이 끊임없이 불거지고 있습니다.
AI 무기 사용을 지지하는 측과 방위산업 관계자들은 자율무기가 여전히 인간의 통제하에 있으며, AI 덕분에 인간이 고도의 작전을 빠르고 정확하게 수행할 수 있게 될 것이라고 옹호합니다.
반면, AI도 실수를 저지르기 때문에 긴박한 상황에서 인간이 기계에 통제권을 넘기는 것은 위험하다는 반론도 있습니다.
일각에서는 AI 시스템이 인간의 통제를 벗어나 인간을 공격할 수 있으며, AI에 무기를 장착하는 것은 그런 위험을 가속할 뿐이라는 주장도 나옵니다.
WSJ은 AI 시스템을 어떻게 규제해야 하는지에 관한 논쟁이 여전히 격렬하다면서, 미국 정부가 AI 모델 출시 전 안전성을 검증할 수 있는 절차를 마련 중이라고 전했습니다.
(사진=AP, 연합뉴스)