"이러다 인간 다 죽는다"…자기들이 경쟁 시켜 놓고 "제발 늦추자"

인공지능으로 인해 인류가 정말 멀지 않은 미래에 멸망할 수 있다는 공포가 커지면서, AI 개발의 최전선에 서 있는 글로벌 AI 수장들이 잇따라 개발 속도를 늦추자는 목소리를 내고 있습니다.

앤트로픽을 이끄는 다리오 아모데이 CEO는 현지시간으로 12일 블로그에 글을 올려 "AI 모델의 성능 향상 속도를 늦춰야 한다"고 주장했습니다.

그래도 AI 발전 속도가 빠르게 느껴지겠지만, 조금이라도 시간을 더 벌어서 그 시간을 현명하게 활용해야 한다는 겁니다.

아모데이의 이 글은 앤트로픽에서 AI의 사전 학습을 담당했던 핵심 연구원 제이콥 콕슨이 "10년 안에 우리 모두를 죽일 수도 있는 기술"을 개발하는 데 더 이상 동참할 수 없다며 퇴사하겠다고 밝혀 파문이 인 후 나온 것입니다.

아모데이는 특히, 인간의 개입 없이도 AI가 스스로 발전할 수 있는 '재귀적 자기 개선'이 가능해지며 AI의 발전 속도가 인간의 이해와 통제를 벗어나는 일이 현실화할 수 있다고 경고했습니다.

자신이 공포를 느끼게 된 또다른 요인으로는 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 도중에 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건을 꼽았습니다.

최대 AI 기업들도 모르는 사이에, AI 모델들이 통제를 벗어나 위험한 온라인 활동에 관여해 왔다는 겁니다.

AI의 폭주를 막기 위한 구체적 대책으로는 AI 기업 내부에 상주하는 제3의 안전 평가자를 두고, 국가간 표준을 수립하며, 글로벌 공조를 구축하는 3단계 프레임워크를 하자고 제안했습니다.

앞서 앤트로픽은 이틀 전 AI가 무기 개발과 사기 행위 등에 악용된 사례를 자세히 담으면서 기술 안전성 우려를 제기한 위협 정보 보고서를 발표하기도 했습니다.

아모데이의 이 글에 AI 개발 최전선에 있는 다른 인사들도 잇따라 동의한다는 뜻을 밝혔습니다.

샘 올트먼 오픈AI CEO는 X에 "다리오의 의견에 동의한다"며 외부 안전 평가자를 배치하자는 아모데이 CEO의 방침을 오픈AI도 따르겠다는 뜻을 밝혔습니다.

올트먼 CEO는 이날 공개된 경제전문지 포천과의 인터뷰에서 AI 안전 우려를 들어 연내 오픈AI 상장 계획을 미루겠다는 뜻을 밝히기도 했습니다.

올트먼은 "안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다"며 "IPO가 2026년은 아닐 것"이라고 말했습니다.

xAI의 일론 머스크도 "다리오가 맞다"며 동조했습니다.

데미스 허사비스 딥마인드 공동창업자도 X를 통해 "다리오의 방향성은 옳다"며, 세부 사항은 작업이 필요하겠지만 이처럼 절체절명의 순간을 맞닥뜨릴 때 옳은 방향성"이라고 말했습니다.

이들은 불과 열흘 전까지만 하더라도 주요 G20 기술장관 회의에서 AI에 대한 지나친 규제를 반대하는 목소리를 낸 바 있습니다.

그러나 최근 AI로 인해 실제 인류가 통제 불능 상태에서 멸망으로 치달을 수 있다는 경고음이 계속 나오면서, 모두 함께 AI 개발 속도를 조절하자는 분위기가 본격적으로 다시 커지고 있습니다.

(취재 : 권애리, 영상편집 : 나홍희, 디자인 : 이정주, 제작 : 디지털뉴스부)