유엔 AI 행동 규범 추진…'통제불능 괴수' 맞서 IAEA급 기구 구상

인공지능 개발 속도가 빨라지면서 규제를 요구하는 목소리가 커지자 유엔이 국제규약과 전문기구 수립 구상을 밝혔습니다.

안토니우 구테흐스 유엔 사무총장은 기자회견을 열고 허위 정보와 증오의 확산, AI 발전에 따른 위협이 통제할 수 없는 '괴수'가 될 수 있다며 이렇게 밝혔습니다.

구테흐스 총장은 며칠 내에 과학자로 이뤄진 고문을 임명하고 올해 9월에는 AI 자문위원회를 만들어 계획을 구체화해 가기로 했습니다.

이런 계획은 챗봇, 이미지 제작기, 음성 복제기 등 급격히 고도화하는 AI 도구 때문에 정보의 진위 판별이 어렵다는 경고 속에 나왔습니다.

구테흐스 총장은 "정립된 과학적 사실을 저해하는 허위 정보를 대규모로 퍼뜨리는 능력 때문에 인류가 존망의 위협을 받는다"고 지적했습니다.

현 사태에 대응할 새 유엔 기구의 본보기로는 국제원자력기구(IAEA)가 제시됐습니다.

구테흐스 총장은 "오늘날 IAEA와 같은 AI 기구를 우리가 보유할 수 있다는 생각에 동의한다"고 말했습니다.

다만 유엔 기구의 창립 주체는 유엔 사무국이 아닌 회원국들이라며 이행에는 국제사회 합의가 선행돼야 한다고 밝혔습니다.

IAEA는 전문 지식을 토대로 인류 존립에 위협이 될 수 있는 원자력 사용을 규제할 권한을 지닌 유엔 산하 기구로, 1957년 창설돼 원자력 기술의 안전하고 평화로운 사용을 증진한다는 목적으로 운영돼 왔습니다.

구테흐스 총장은 디지털 플랫폼과 AI 사용을 글로벌 차원에서 규제하기 위해 '국제 행동규약'의 제정을 추진한다고 밝혔습니다.

또 "디지털 플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약이 내년 미래정상회의를 앞두고 개발되고 있다"고 설명했습니다.

구테흐스 총장은 행동규약과 관련해 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭을 자제한다는 원칙을 일단 제시했습니다.

정부에는 허위 정보, 정보 왜곡, 혐오 발언에 대응할 때 적법한 발언을 차단하거나 인터넷이나 매체 자체를 폐쇄하지 말고 언론인과 독립적인 매체를 확실히 보호하라고 촉구했습니다.

디지털 플랫폼을 통제하는 기업들에는 허위 정보와 증오 발언 대처방식, 알고리즘, 광고 영업을 투명하게 공개하고 규제 때 언어와 국가에 따라 이중잣대를 적용하지 말아야 한다는 원칙을 제안했습니다.

구테흐스 총장은 "모든 AI 애플리케이션이 안전하고 책임감 있으며 윤리적으로 사용되도록 보장할 시급하고 즉각적인 대책"이라고 강조했습니다.

(사진=AP, 연합뉴스)