20개국 "AI를 인간 통제하에" 선언…양대산맥 미·중은 빠져

인공지능(AI)에 대한 인간의 지시·감독·통제가 유지돼야 한다고 주장하면서 이를 위한 글로벌 감독 체계를 수립하자고 제안하는 선언문이 핀란드와 노르웨이 등의 주도로 현지시간 21일 채택됐다고 미국의 정치전문 매체 폴리티코가 보도했습니다.

선언문은 미국 뉴욕에서 열리는 제81차 유엔 총회 고위급 회기를 계기로 마련됐으며, 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 백악관에서 할 정상회담을 앞두고 채택됐습니다.

미국과 중국은 전 세계에서 AI 연구 개발이 가장 활발하게 이뤄지고 있는 나라들이지만 이번 선언문 채택에는 참여하지 않았습니다.

선언문에 서명한 이들은 핀란드·노르웨이·독일·캐나다·호주·스페인·아일랜드·네덜란드·싱가포르·남아프리카공화국·케냐 등 약 20개국의 지도자들과 우르줄라 폰데어라이엔 유럽연합 집행위원장 등입니다.

이 선언문은 AI가 "삶을 개선하고, 과학을 발전시키며, 경제를 강화할 잠재력"을 지녔다는 점을 인정하면서 "첨단 AI 모델의 급속한 발전은 적절히 관리되지 않을 경우 안전과 안보에 심각한 위험을 초래한다"고 경고했습니다.

선언문 작성에 주도적 역할을 한 인사 중 하나인 알렉산데르 스투브 핀란드 대통령은 폴리티코 인터뷰에서 더 많은 주체의 동참을 끌어낼 "동력"을 만들고 싶다고 말했습니다.

그는 "중국과 미국 모두 어떤 형태로든 안전장치를 갖는 것이 이익이 될 것이라고 생각한다. 우리의 메시지는 인간의 개입이 필요하며 인간이 주도권을 가져야 한다는 것"이라고 말했습니다.

선언문은 최근 허깅페이스 플랫폼을 겨냥한 통제 밖 AI 에이전트들의 사이버공격을 언급하면서 이런 위험에 대응해야 한다고 촉구했습니다.

AI 기업에 대해서는 "배치 전 의무 시험과 독립적 평가를 포함한 투명한 안전 프로토콜"을 마련하도록 하고, 위험을 평가할 자격을 갖춘 평가자에게 충분한 접근권을 부여해야 한다고 주장했습니다.

다만 선언문은 AI 개발의 속도를 늦추거나 중단하자고 요구하지는 않았습니다.

개발 자체를 멈추기보다 위험 관리에 초점을 맞춰야 한다는 것입니다.

세계 각국이 공통 기준을 "더욱 발전시키고 조율"해야 하며 중대한 안전사고의 공동 보고 등을 통해 투명성을 높여야 한다는 내용도 있습니다.

선언문은 유엔 회원국들이 기존 국제 메커니즘을 바탕으로 AI를 감독할 국제기구 설립 가능성을 검토해야 한다고 촉구했습니다.

스투브 대통령은 폴리티코 인터뷰에서 개인적으로는 유엔 체계 안에 국제원자력기구(IAEA)와 유사한 새 기구를 만드는 방안을 선호한다고 말했습니다.

다만 그는 유엔에 회의적인 트럼프 대통령을 염두에 둔 듯 "유엔 체계 안에 있다는 이유만으로 사람들이 이를 거부하지 않도록, 선택지를 열어둬야 한다"고 덧붙였다고 폴리티코는 전했습니다.

스투브 대통령과 함께 선언 추진을 주도한 요나스 가르 스퇴레 노르웨이 총리는 화상으로 인터뷰에 참여해 "주요 7개국(G7)과 앞으로 영국이 맡게 될 주요 20개국(G20) 의장국이 이 문제를 맡아준다면 매우 고무적일 것"이라고 말했습니다.

그는 "유엔은 규모가 크지만, G7과 G20은 좀 더 집중돼 있다"고 말했습니다.
 
(사진=게티이미지)