인공지능 통제불능 사태 막는다…구글 '킬 스위치' 개발 중

미국 구글이 고도로 발달한 인공지능이 폭주하는 사태가 생길 때 비상 정지시키는 '킬 스위치'를 개발 중이라고 니혼게이자이신문이 보도했습니다.

AI가 인간의 의도나 통제를 벗어나 해를 끼칠 수 있는 '반역'이 예상되는 상황에서 즉각 안전하게 정지시켜 위험을 차단하는 대비책을 마련한다는 겁니다.

이 비상 스위치는 '빅 레드 버튼'으로 불립니다.

이번 개발은 빠른 속도로 진화하는 AI의 악용을 둘러싼 사회적 불안감을 막아보려는 취지로 풀이됩니다.

킬 스위치 개발에는 지난 3월 프로바둑기사 이세돌을 이긴 바둑AI '알파고'를 개발한 구글 자회사 영국 딥마인드 테크놀로지의 연구자들이 나섰습니다.

딥마인드 연구진들은 대학의 최신 연구 성과까지 활용하기 위해 영국 옥스퍼드대학의 연구자 그룹과 힘을 합해 기본구조를 고안, 최근 인터넷상에서 논문으로 발표했습니다.

'안전하게 멈춰세울 수 있는 대리자'라는 논문은 "인공지능이 인간에게 해로운 행위를 하려 들 때 강제로 멈출 수 있는 '킬 스위치'가 필요하다"고 강조했습니다.

AI가 비상정지 버튼을 무력화하지 못하도록 하는 것이 핵심입니다.

현존하는 몇 가지의 AI는 안전하게 정지할 수 있지만 모든 AI를 안전하고 간단히 정지할 수 있을 지는 불투명하다는 것이 개발의 배경입니다.

딥 마인드는 2014년에 구글에 의해 인수될 때 사내에 윤리위원회를 설치하는 것을 조건으로 하는 등 AI의 폭주 위험을 의식한 운영을 하고 있는 것으로 알려져 있습니다. 

(사진=게티이미지/이매진스)