전장의 '터미네이터'는 윤리적으로 행동할까?

총탄이 비처럼 쏟아지고 곳곳에서 전우들이 죽어나가는 치열한 전장에서는 아무리 잘 훈련된 군인이라도 공포나 분노 같은 감정에 휩싸여 비윤리적 행동을 할 가능성이 얼마든지 있다.

그렇다면 '터미네이터' 같은 영화에서 등장하는 것처럼 스스로 판단하고 행동하는 전투 로봇으로 하여금 전장에서도 윤리적인 행동을 하도록 프로그램할 수 있을까.

인터내셔널 헤럴드 트리뷴(IHT)은 로봇과 컴퓨터를 연구하는 미국 과학자들 사이에서 이런 의문에 대한 논쟁이 벌어지고 있다고 26일 보도했다.

신문에 따르면 조지아공과대학 로널드 아킨 박사를 비롯한 일부 학자들은 긍정적인 의견을 내고 있는 반면, 영국 셰필드대학의 노엘 샤키 박사를 비롯한 다른 학자들은 자율적으로 행동하는 로봇이 윤리 기준을 지키기는 어렵다는 견해를 보이고 있다.

미군의 용역을 받아 '위험한 목표물'만을 선별 공격하는 프로그램을 개발 중인 아킨 박사는 "현재까지 알려진 군인들보다 지능을 갖춘 로봇이 전장에서 더 윤리적으로 행동할 수 있다는 게 내 연구의 가설"이라고 밝혔다.

아킨 박사의 프로그램을 컴퓨터에서 모의 실험한 결과 프로그램이 이식된 로봇 전투기 조종사는 건물 입구에 적 전차와 많은 민간인이 함께 있는 것을 발견한 뒤 민간인 피해가 지나치게 많을 수 있다고 판단해 적 전차에 대한 공격을 포기했다.

반면 주거용 건물 앞에 정차한 택시 안에 테러단체 지도자가 타고 있음을 발견한 경우 목표물의 중요도와 주변에 다른 민간인이 없음을 고려한 뒤 사격을 가했다.

지난해 미군에 제출한 보고서에서 아킨 박사는 스스로의 판단에 따라 행동하는 전투 로봇이 자기 보존 본능을 갖출 필요가 없다는 점과 공포감 때문에 과잉 행동을 하지 않는다는 점을 들며 전투 로봇이 더 윤리적일 수 있다는 논리를 전개했다.

하지만 전투 로봇에 '윤리적' 판단 기준을 주입하겠다는 계획이 실현되려면 해결해야 할 과제들이 산적해 있다.

적 전투원이 부상해 있는지, 항복 의사를 표시하고 있는지, 그리고 다른 요인으로 인해 적 전투원이 전투 불능 상태인지를 판단할 수 있는지가 대표적인 숙제들이다.

셰필드대학의 샤키 박사는 전투 로봇이 윤리적 판단을 내릴 수 있음을 입증하기 전까지는 그런 로봇의 제작을 금지해야 한다고 주장했다.

미국 터프츠대학의 인지과학 전문가 대니얼 데넷 박사는 도덕적 관련성에 따라 판단을 내리도록 로봇을 훈련시키는 일이 전혀 불가능하지는 않다면서도 "기계로 하여금 도덕적 판단을 내리도록 할 수 있는지 여부야말로 사람들이 판단해야 할 도덕적 과제"라고 선을 그었다.

아킨 박사 역시 "전투 로봇이 전장에서 완전히 윤리적으로 판단할 수 있다고 생각하지는 않는다"면서 "다만 인간 병사보다는 더 윤리적 행동을 하게끔 할 수 있다는 게 내 생각"이라고 말했다.

스스로 행동하는 전투로봇의 존재 가능성에 대해 외면하면 안 된다는 점은 논쟁에 참여한 과학자들이 한목소리를 낸 부분이다.

샤키 박사는 한국과 이스라엘에서 이미 감시병 역할을 할 로봇이 개발되고 있다며 자율 전투로봇의 존재에 대한 문제가 소설 속의 한 대목이 아니라 현실이라고 말했다.

아킨 박사도 "중요한 것은 (자율 전투로봇의 현실화 가능성에 대해) 눈을 감아버리면 안 된다는 것"이라고 말했다.

(서울=연합뉴스)