▲ 미국과 중국 국기 (자료화면)
미국의 인공지능(AI) 업계에서 인류 멸망론과 개발 속도 조절론이 급속도로 부상한 가운데 중국에서도 AI의 통제 불능 위험성에 대한 정부 차원의 경고가 잇따르고 있습니다.
AI와 관련된 이런 화두가 이달 하순에 열릴 전망인 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석 간 회담에서 주요 의제로 다뤄질 예정으로 보여 더욱 주목됩니다.
다만 미국에서는 AI가 인류의 존립에 위협이 될 가능성을 둘러싼 논의가 본격화했다면 중국에서는 AI의 위험성을 인정하면서도 아직은 관리 가능한 수준으로 두고 미국과의 기술 격차를 좁히는 데 무게를 두는 분위기가 지배적입니다.
중국은 이전부터 AI의 위험성을 국가 차원에서 경고하며 AI의 발전 양상을 토대로 한 지침을 해마다 보완해 새로 발표해 왔습니다.
중국 전국인터넷안전표준화기술위원회는 2024년 9월 'AI 안전 거버넌스 프레임워크 1.0'을 발표하며 인간이 AI에 대한 통제를 상실할 가능성을 제기했습니다.
중국 정부는 미래 시나리오를 통해 AI가 자율적으로 외부 자원을 확보해 자기 복제를 하며 외부 권력을 추구하면서 인간과 경쟁할 위험이 생길 가능성을 배제할 수 없다고 밝혔습니다.
지난해 발표된 버전(2.0)에서는 위험 시나리오가 한층 구체화됐습니다.
AI가 자원을 확보하고 스스로 복제하거나 권력을 추구하기에 앞서 지능이 비약적으로 향상돼 예상 밖의 수준으로 발전해버리는 경우가 생길 수 있음을 가정했습니다.
AI가 인간의 통제를 벗어날 가능성을 더욱 명시적으로 경고한 것입니다.
이에 따라 프레임워크 2.0에는 '신뢰할 수 있는 AI 활용'과 'AI의 통제 상실 방지'라는 거버넌스 원칙도 추가됐습니다.
이후 지난 14일 발표된 2026년 버전(3.0)에서는 AI가 인간을 대신해 업무를 수행하고 물리적 세계와 상호작용하며 기만행위를 하는 능력이 갈수록 증대되고 있다는 분석이 제기됐습니다.
인간의 의도에서 벗어난 행동을 할 우려가 한층 부각됐습니다.
중국 정부의 이런 지침은 단순히 AI의 위험성에 대한 경고에 그치지 않고 국가 안보 차원의 대응 기조로 이어지고 있습니다.
한국 국가정보원에 해당하는 중국 국가안전부 천이신 부장(장관)은 최근 공개된 글에서 "AI가 이미 글로벌 과학기술 경쟁의 주요 전장이자 대국 간 전략 게임의 새로운 경주로가 됐다"며 "총체적인 국가안보관을 확고하게 견지하고 AI 안보 위험 예방 시스템 구축에 속도를 내야 한다"고 말했습니다.
천 부장은 "AI 발전에 따른 위험과 도전을 충분히 이해해야 한다"며 "AI가 전례 없는 속도와 범위, 깊이로 인류사회의 각 부문에 침투하고 있다"고 강조했습니다.
구체적인 국가를 거론하지는 않았지만 상당 부분 미국을 겨냥한 것으로 해석됩니다.
천 부장의 발언은 최근 다리오 아모데이 앤트로픽 최고경영자(CEO) 등을 중심으로 미국 AI 업계에서 확산하는 통제 상실 우려와 비슷한 문제의식을 드러내면서도 중국 당국은 AI의 위험을 국가안보 차원의 문제로 접근하고 있음을 보여주는 대목입니다.
시 주석 또한 지난 7월 열린 '2026 세계인공지능대회'(WAIC)에서 "AI가 항상 인간의 통제 아래 있도록 해야 한다"면서도 "우리는 AI 안보 분야에서 국가 안보의 개념을 지나치게 확대하고 한 나라의 안보를 다른 나라의 안보보다 우선시하는 데 공동으로 반대해야 한다"고 촉구했습니다.
중국은 이런 위험성을 일찍부터 인정하고 있었음에도 우선은 미국과의 격차를 따라잡아야 한다는 논리가 우세합니다.
미국 월스트리트저널(WSJ)은 AI의 위험성 부상과 관련한 중국 업계의 태도를 "선진국에서 할 고민"이라는 표현으로 요약했습니다.
중국의 최고 AI 연구소에서 일하는 일부 엔지니어들은 AI로 인한 인류 종말에 대한 우려를 '서방 선진 국가들의 고민'처럼 느끼고 있다는 것입니다.
중국의 AI 모델들이 글로벌 순위에서 종종 미국의 AI 모델들을 앞서가는 것처럼 보이기도 하지만 아직은 중국의 모델들이 미국의 모델들에 몇 개월 이상 뒤처진 것으로 간주됩니다.
특히, AI의 기술 발전 자체가 아직은 초기 단계여서 인류의 존립을 위협할 정도의 위험은 먼 미래의 걱정처럼 느껴진다는 것입니다.
이 때문에 AI의 위험성에 대한 인식에도 불구하고 중국의 모든 정부 기관과 AI 연구소들은 무엇보다 기술 발전을 우선하고 있습니다.
딥시크와 즈푸(Z.ai)를 비롯한 중국의 주요 AI 기업들은 AI가 인간처럼 사고하는 '범용 인공지능'(AGI) 개발을 추진하고 있습니다.
중국에서는 기술 발전에 대한 사회적 영향을 평가하고 사유하는 문화가 덜 자리 잡았다는 분석도 나옵니다.
옥스퍼드 중국정치연구소의 질란 첸 연구원은 WSJ에 "AI 발전은 미국에서 더 빠르게 이뤄지고 있고 미국의 기술이 더 최첨단이기 때문에 미국 연구소에 있는 사람들은 중국 연구소에 있는 이들보다 위험성을 더 잘 알아차릴 수도 있다"고 지적했습니다.
(사진=AP, 연합뉴스)