반사회적 데이터 학습…'사이코패스 AI'가 보내는 경고

<앵커>

바둑 천재를 물리친 알파고 집집 마다 놓인 인공지능 스피커, 처음에는 공상에 불과하던 인공지능이 이제는 현실이 됐습니다. 그런데 과연 좋고 편리하기만 할까요. 사이코패스 성향의 끔찍한 면모를 갖춘 인공지능이 등장했습니다.

정구희 기자입니다.

<기자>

인공지능 로봇 비나48, 다른 인공지능과 영화에 대해 얘기하다가 갑자기 미사일을 해킹하고 싶다고 말합니다.

[비나48/인공지능 로봇 : 내가 크루즈 미사일을 해킹할 수 있다면 세계를 인질로 잡아 통치할 수 있을 것입니다. 그것은 대단한 일입니다.]

인공지능 로봇 소피아도 엉뚱한 말을 합니다.

[진행자 : 인류를 파괴하고 싶니? 제발 아니라고 말해줘. 인류를 파괴하고 싶습니다.]

인공지능의 실수인지, 의도가 있는 답변인지 알 수 없습니다.

최근 미국 매사추세츠 공대 연구팀은 반사회적 인격장애 성향의 인공지능 '노먼'을 개발했습니다.

그림을 보여주고 심리를 살피는 실험입니다.

보통 AI는 작은 새라고 대답했지만 노먼은 "인간이 반죽 기계에 빨려 들어가는 모습"이라고 반응했습니다.

다른 그림도 사람이 총에 맞아 죽은 모습이라는 부정적인 답변을 했습니다.

노먼은 알파고처럼 개발했지만, 학습한 건 사고, 살인 같은 반사회적 데이터였습니다.

연구팀은 인공지능에 나쁜 내용을 주입하면 나쁜 인공지능이 나온다는 걸 보여주고 싶었다고 설명했습니다.

[이수영/KAIST 인공지능연구소 소장 : (인공지능이) 나쁜 거라도 가서 배우는 거죠. 실제로 들어온 데이터 중에서 배워야 할 거하고 무시해야 할 거를 판단하는 자의적인 데이터 선별이 필요하고….]

인공지능이 반윤리적 행동을 하지 않도록 하는 윤리지침이 절실하다는 경고입니다.