[스프] AI 무기는 과거 원자폭탄 위력 이상일 것…그러면 어떻게?

뉴스페퍼민트 NewsPeppermint

"한국에는 없지만, 한국인에게 필요한 뉴스"를 엄선해 전하는 외신 큐레이션 매체 '뉴스페퍼민트'입니다. 뉴스페퍼민트는 스프에서 뉴욕타임스 칼럼을 번역하고, 그 배경과 맥락에 관한 자세한 해설을 함께 제공합니다. 그동안 미국을 비롯해 한국 밖의 사건, 소식, 논의를 열심히 읽고 풀어 전달해 온 경험을 살려, 먼 곳에서 일어난 일이라도 쉽고 재밌게 읽을 수 있도록 부지런히 글을 쓰겠습니다. (글: 이효석 뉴스페퍼민트 대표)
'이제 나는 죽음이요, 세상의 파괴자가 되었다.'

음산한 분위기의 이 독백은 힌두교 경전 바가바드 기타에 나오는 말로 원자폭탄 개발을 주도했던 물리학자 로버트 오펜하이머가 한 말로도 알려져 있습니다.

20세기 초, 물리학의 발전은 원자의 힘을 이용한 무기의 가능성을 열었습니다. 당시 세계는 전쟁 중이었고 이런 가공할 파괴력을 가진 무기를 먼저 개발하는 측이 승리할 가능성이 높았습니다. 이미 세계적 영향력을 가졌던 아인슈타인은 미국 정부에 원자폭탄의 개발을 촉구하는 서한을 보냈고, 미국은 맨해튼 프로젝트라는 이름으로 최고의 물리학자들을 모아 원자폭탄 개발을 시작했습니다.

실험은 성공했고, 미국은 전쟁을 끝낼 수 있었습니다. 원자폭탄은 최신 과학 이론의 검증이자 기술적 성취였고 긴 전쟁을 끝낼 수 있게 만든 도구였지만, 인류 문명의 관점에서는 인류를 새로운 단계로 진입시킨 기술이기도 합니다. 곧, 버튼 하나로 수십만 명의 목숨을 끊을 수 있는 무기를 만듦으로써 인간은 최초로 스스로를 파괴할 힘을 가진 종이 된 것입니다.

모든 새로운 기술은 필연적으로 기존의 사회 구조를 바꾸며 이 과정에서 윤리적 문제와 연결됩니다. 때문에 기술의 사용을 사회가 규정하는 것은 자연스러운 일입니다. 하지만 원자폭탄은 기술의 개발 자체가 심각한 윤리적 문제가 될 수 있음을 우리에게 알려주었습니다.

지난 7월 25일, 팔란티어의 대표인 알렉산더 C. 카프는 뉴욕타임스 지면을 통해 AI 기술이 우리 시대의 원자폭탄이며, 따라서 우리가 오펜하이머가 했던 고민과 결정을 내려야 한다고 주장했습니다.


팔란티어는 빅데이터 기업으로 FBI, CIA 등 미국 정부 기관을 주요 고객으로 삼는 독특한 기업입니다. 카프는 기고문을 통해 자신의 입장을 매우 명확하게 설명하며, 다른 이들을 노골적으로 비판하고 있습니다.

카프의 말처럼, AI 기술의 파괴력은 이미 많은 이들이 동의하며 경고하는 것입니다. 지난 6월에는 상당수의 AI 연구자와 지식인들이 AI 연구를 6개월간 멈추어야 한다는 경고 서한에 서명하기도 했습니다. 누구보다도 AI 기술에 능통할 카프 역시 AI 기술의 잠재적 파괴력에 동의합니다.

하지만 바로 그렇기 때문에, 그는 AI 연구를 멈추어야 한다는 주장이 헛소리라고 이야기합니다.

(남은 이야기는 스프에서)