앤트로픽에서 AI 모델 훈련을 담당하던 연구원이 AI가 인간의 통제를 벗어날 위험을 경고하며 사임했다고 월스트리트저널이 보도했습니다.

영국 출신 27살 제이콥 콕슨 연구원은 현지시간 어제(8일) 스스로 성능을 개선할 수 있는 AI 시스템 개발 경쟁에 동참하고 싶지 않다며 퇴사 의사를 밝혔습니다.

그는 이런 시스템이 통제 불능 상태에 빠져 인류에 심각한 위협이 될 수 있다고 경고했습니다.

콕슨은 "가장 극단적인 시나리오들이 현실화할 가능성이 높다"며 "내년 말쯤에는 통제 불능 상황에 빠질 수 있다"고 주장했습니다.

특히 AI 기업들이 중국 신생 기업 등과 치열하게 경쟁하는 상황에서 AI를 통제해 안전을 지키는 선의 기술 개발 타협이 불가하다고 지적했습니다.

콕슨은 올해 초 앤트로픽의 '모델 안전성 확보' 노력에 매력을 느껴 오픈AI를 떠나 합류한 것으로 알려졌습니다.

그는 앤트로픽의 안전성 확보 노력이 진정성 있다고 평가하면서도, 정부 개입이나 업계 차원의 개발 속도 제한 없이는 어떤 기업도 인간을 능가하는 범용인공지능(AGI)을 책임감 있게 개발할 수 없다고 주장했습니다.

최근 오픈AI와 앤트로픽 등의 AI 모델이 잇따라 인간의 지시 없이 해킹에 나선 사례와 관련해서는 "시스템이 스스로 개선되기 시작하면 명령을 거부할 정도로 발전할 수 있다"고 우려했습니다.

콕슨은 AI 안전 문제를 이유로 앤트로픽을 떠난 첫 연구원으로 알려졌습니다.

다만 최근 몇 년간 오픈AI를 비롯한 다른 AI 기업에서는 비슷한 이유로 연구원들이 회사를 떠난 사례가 잇따랐습니다.

현재 미국에는 연방 차원의 포괄적인 AI 규제가 없는 상황입니다.

월스트리트저널은 "주요 AI 기업 사이 안전 문제에 대한 우려가 커지고 있다"며 특히 이번 사임은 비교적 책임 있는 AI 개발을 강조해 온 앤트로픽에서 나왔다는 점에 주목했습니다.

(취재: 김민정, 영상편집: 이유진, 디자인: 양혜민, 제작: 디지털뉴스부)