[SDF] "통제 벗어난 AI…두 번째 기회는 없다" (엘리에저 유드코스키 강연 풀영상)

인공지능(AI)이 인류의 생존을 위협할 수 있다고 경고해 온 AI 연구자 엘리에저 유드코스키가 "AI 개발 경쟁의 유일한 승자는 AI가 될 것"이라며 무분별한 AI 개발 경쟁을 중단해야 한다고 촉구했습니다.

유드코스키는 오늘(5일) 서울 동대문디자인플라자(DDP)에서 열린 'SBS D포럼(SDF) 2026'에서 초지능 AI가 인류의 통제를 벗어날 경우 인간의 멸종으로 이어질 수 있다고 경고했습니다.

유드코스키는 AI 안전성과 초지능의 위험성을 오랫동안 연구해 온 미국의 AI 이론가이자 작가로, AI가 인간의 의도와 가치에 부합하도록 만드는 'AI 정렬(Alignment)' 문제를 일찍부터 제기한 인물입니다. 최근에는 인류의 멸종 위험을 경고하는 저서 '누군가 AI를 만든다면 모두가 죽는다(If Anyone Builds It, Everyone Dies)'를 공동 집필하며 주목받았습니다.

그는 "미래의 AI는 인간을 미워하지조차 않을 만큼 우리와 완전히 다른 존재가 될 것"이라며 "그저 지구의 자원을 다른 용도로 쓰려 할 뿐"이라고 말했습니다.

AI가 인간에게 적대감을 갖지 않더라도 인간의 생존과 무관한 목표를 추구하는 과정에서 인류를 위협할 수 있다는 설명입니다.

유드코스키는 AI 기업들이 위험성을 알면서도 개발 경쟁을 멈추지 않는 현실도 비판했습니다.

그는 "자신들이 개발하지 않으면 다른 누군가가 할 것이라는 게 AI 기업들이 내세우는 가장 큰 핑계"라며 오픈AI와 앤트로픽 등이 서로 경쟁을 이유로 AI 개발을 지속하고 있다고 지적했습니다.

특히 한국을 향해서는 AI 개발 경쟁을 통제하기 위한 구체적인 역할을 주문했습니다.

유드코스키는 한국이 AI 학습과 추론에 필수적인 고대역폭메모리(HBM) 반도체 시장에서 큰 비중을 차지하고 있다는 점에 주목했습니다.

그는 "한국의 AI 관련 법률을 개정해 국제조약 체결을 촉구하고 이에 협력해야 한다"며 "메모리 반도체가 허가받은 시설 밖으로 수출되거나 사용되지 않도록 기술적으로 통제할 방안을 검토해야 한다"고 말했습니다.

이어 국제조약에서 이러한 조치를 요구할 경우 즉시 시행할 수 있도록 준비하고, 반도체 수출 경로를 추적하고 통제할 수 있는 수단도 미리 마련해야 한다고 강조했습니다.

유드코스키는 "상황이 눈에 띄게 더 위험해지고 강력한 조치를 취할 정치적 의지가 형성된다면, 인류 멸종으로 이어질 AI 개발에 메모리 반도체를 사용하려는 이들에게 판매를 중단해야 한다"고 촉구했습니다.

또 AI의 성능 향상 경쟁을 멈추기 위한 국제적 합의가 필요하다며, 비상시 AI 개발을 중단할 수 있도록 학습과 추론에 사용되는 반도체를 감시 가능한 시설에 집중시키는 방안도 제시했습니다.

유드코스키는 "재앙이 확실하다고 믿을 필요는 없다. 그럴 가능성이 있다는 것만으로도 충분하다"며 AI 개발을 중단할 수 있는 비상 정지 수단을 미리 마련해야 한다고 강조했습니다.

그는 "인류가 멸종의 임박한 위험에 처했다는 사실을 깨닫게 된다면, 한국도 인류의 파멸을 피하기 위해 국가가 가진 모든 힘을 사용할 준비를 해야 한다"고 말했습니다.

※ 자세한 내용은 영상으로 확인하실 수 있습니다.