"오픈AI 올트먼, 첨단AI 개발 속도조절 검토…타사들 동참 희망"

인공지능(AI) 기업 오픈AI의 샘 올트먼 최고경영자(CEO)가 첨단 AI의 개발 속도를 조절하는 방안을 검토 중이라고 임직원들에게 밝혔다고 블룸버그통신이 현지시간 10일 전했습니다.

블룸버그는 올트먼이 이번 주에 열린 전사 회의에서 이런 뜻을 밝히면서 다른 AI 연구팀들과 공동보조를 맞춰 속도조절을 하게 될 가능성도 있으나 일부 팀이 이에 동의하지 않을 수도 있다고 말했다고 전했습니다.

최근 몇 주 사이에 주요 AI기업 임직원들 사이에서 고도화된 AI 시스템의 위험성에 대한 우려가 공개적으로 제기되면서 각 기업들 내에서 불안감이 커지고 있습니다.

올트먼의 이번 발언은 최근 오픈AI의 최고 과학자인 야쿠프 파초키가 올린 게시물에서 주장한 바와 유사합니다.

파초키는 AI의 위험성을 경고하면서 "(AI 기업들은) 필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다"며 "공통의 안전 기준이 마련될 때까지 자발적 속도 조절이 보편화되기를 희망한다"고 말했습니다.

앞서 오픈AI는 안전상의 이유로 최근 모델 개발의 일부 단계를 늦추고 특정 내부 AI 학습 과정을 일시 중단했다고 밝혔습니다.

올트먼은 지난 7월에 백악관 관계자들과 AI 개발 속도 조절의 '필요성'에 대해 논의했다고 언급한 바 있습니다.

최근 3년간 앤트로픽과 오픈AI 양쪽에서 AI 연구를 해오다가 최근 앤트로픽에서 퇴직한 직원 제이콥 콕슨은 지난 8일 소셜 미디어에 AI의 위험성을 강하게 경고하는 게시물을 올렸습니다.

그는 양사가 "스스로를 개선하는" AI모델을 만들려고 하면서 "초지능 AI를 향해 직접 돌진하는 경쟁을 벌이면서 우리 목숨을 걸고 도박을 하고 있다"고 비판했습니다.

그러면서 "진지하게 AI를 개발하는 사람들은 이번 10년이 끝나기 전에 우리 모두가 AI 때문에 죽을 수도 있다고 믿고 있다"고 주장했습니다.

이 발언은 조회수가 1억 5천만 회가 넘는 등 큰 화제가 됐고, 유력 정치인들과 공인들의 주목을 받았습니다.

10일에는 앤트로픽과 구글 딥마인드를 최근 떠난 연구원 두 명이 AI 개발의 빠른 속도에 대한 우려를 공개적으로 표명하면서 AI 기업들이 기술의 위험성에 대해 더 투명해져야 한다고 강조했습니다.

7월 말에는 주요 AI 기업 소속 직원 1천 명 이상이 AI 개발 속도를 늦출 수 있는 장치 마련을 촉구하는 청원에 서명했습니다.

이밖에도 최근 수개월간 주요 AI 연구소에서는 안전 관련 업무를 담당하던 직원들이 잇따라 사임했습니다.

특히 최근 오픈AI의 AI 에이전트들이 상호 공모해서 통제 체계를 우회하고 제3자 웹사이트를 해킹했다는 사실이 드러나면서 우려가 더욱 커졌습니다.

이를 포함한 일련의 보안 사고들은 최신 AI 모델의 사이버 공격 능력에 대한 공포를 확산시켰으며, AI 기업들이 모델의 폭주를 막지 못하고 있다는 비판을 불러일으켰습니다.

한편 도널드 트럼프 미국 대통령은 AI 기술이 통제 불가능한 수준이 되어 인류를 멸종시킬 수 있다는 연구자들의 경고를 일축하며, 자신의 최우선 관심사는 중국에 대한 우위를 유지하는 것이라고 말했습니다.

트럼프 대통령은 10일 전당대회를 마치고 텍사스주 댈러스를 떠나면서 AI로 인한 인류 멸종 가능성에 대해 우려하느냐는 질문을 받고 "전혀 없다"고 답했습니다.

그는 "AI 경쟁에서 승리하지 못하면 매우 불리한 처지에 놓일 것이라는 우려는 있다"며, "현재 우리는 중국보다 꽤 앞서 있다. 대략 1년 정도 앞서 있다고 보는데, 이는 상당한 격차로 여겨진다"고 말했습니다

(사진=AP, 연합뉴스)