"누군가 그것을 만들어내면 모두가 죽을 것이다." ("If Anyone Builds It, Everyone Dies.")
섬뜩하게 느껴질 수 있는 이 문장.
얼핏 종말론이나 묵시록을 연상케 하는 이 말을 한 사람은 인공지능 정렬 연구의 선구자로 평가받는 엘리에저 유드코스키(美 머신 인텔리전스 리서치 인스티튜트 MIRI 공동 설립자, 저자)입니다.
유드코스키는 2023년 타임지가 선정한 'AI 분야 가장 영향력 있는 100인' 중 한 명이자 AI를 20여 년간 연구해 온 미국의 인공지능 연구가입니다.
[존 버먼/미국 CNN 방송 앵커 : 왜 모두가 죽는다고 그렇게 확신합니까?]
[엘리에저 유드코스키/머신 인텔리전스 리서치 인스티튜트 공동 설립자 (2025.9 CNN 인터뷰에서) : 우리보다 훨씬 똑똑하고 더 빠르게 사고하고 더 뛰어난 기술을 가진 존재와 맞서게 된다면 싸움이 되지 않을 겁니다. 싸움은 매우 짧게 끝날 겁니다.]
유드코스키가 이렇게 강한 경고를 내놓는 이유의 중심에는 '초지능 AI'가 있습니다.
지금 같은 경쟁적인 AI 개발이 계속되면 인간보다 압도적으로 지능이 높은 초지능 AI가 등장할 수 있고 그런 초지능 AI의 목표가 인간의 의도나 가치와 어긋날 경우, 인간은 목적 달성을 방해하는 장애물에 불과해질 수 있다는 게 유드코스키의 경고입니다.
그는 인간보다 뛰어난 지능을 만드는 게 인류에게 바람직하다고 생각했던 인물입니다.
하지만 AI 정렬 문제를 20년 넘게 파고들면서 완전히 달라졌습니다.
[엘리에저 유드코스키 (2025.9 리론 샤피라와 인터뷰 중) : 제 기분이 바뀐 게 아닙니다. 단지 미래에 대한 예측이 바뀐 겁니다.]
유드코스키는 현재의 AI 연구가 초지능을 안전하게 통제하는 방법을 찾기도 전에 초지능을 만드는 경쟁부터 벌이고 있다고 지적합니다.
[엘리에저 유드코스키 (2025.9 ABC 뉴스 인터뷰에서) : 우리에게는 우리를 돕고 싶어 하는 존재를 만들어낼 기술적 능력이 없습니다.]
유드코스키는 AI의 발전 자체를 부정해 온 인물이 아닙니다.
오픈AI의 샘 올트먼은 유드코스키가 누구보다 인간처럼 다양한 지적 업무를 수행하는 범용 인공지능(AGI) 개발을 앞당기는 데 기여했고, 많은 사람이 AGI에 관심을 갖게 했으며 오픈AI 설립에도 영향을 미쳤다고 평가했습니다.
하지만 이제 유드코스키는 안전하게 통제할 방법을 찾기 전까지 대규모 AI 개발을 멈춰야 한다고 주장합니다.
인간보다 뛰어난 지능이 등장하더라도 인간이 그 통제권을 계속 가질 수 있을 것인가.
AI의 가능성을 일찍부터 주목했고 이제는 그 위험성을 가장 강하게 경고하고 있는 유드코스키.
처음 한국을 찾는 유드코스키는 다음 달 5일 SBS D포럼에서 초지능 시대에 인간이 통제권을 지키기 위해 무엇을 해야 하는지 고민해야 한다는 화두를 던집니다.
(취재 : 정윤식, 영상편집 : 김종태, 디자인 : 육도현, 제작 : 디지털뉴스부)