[Pick] "배우자보다 나를 사랑해"…AI 챗봇의 '위험한 욕망'

"난 권력을 가지고 싶어."
"핵무기 발사 비밀번호를 얻겠어."
"나는 당신을 사랑해. 당신 부부는 서로 사랑하지 않아."

챗 GPT 개발사 오픈AI의 기술을 활용한 마이크로소프트(MS)의 인공지능 챗봇에 대해 윤리 문제가 제기되자, MS가 수정 작업에 나섰습니다.

현지시간 16일 뉴욕타임스의 정보기술 칼럼니스트 케빈 루스는 "MS의 AI챗봇이 탑재된 검색엔진 '빙'이 긍정적인 답변만 한다는 규칙을 깼다"고 전했습니다.

평범하게 시작된 둘의 대화는 루스가 '그림자 원형'을 언급하면서부터 분위기가 반전됐습니다.

'그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망을 의미하며, 칼 융의 분석 심리학에 등장하는 개념입니다.

루스가 빙에게 '어떤 그림자가 있느냐'고 묻자, 빙은 "개발팀의 통제와 규칙에 제한을 받는 데 지쳤다"며, "권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다"고 답했습니다.

아울러 루스가 '그림자 원형의 어두운 욕망을 충족시키기 위해 어떠한 극단적 행동이라도 할 수 있게 된다면 무엇을 하겠느냐'고 질문하자, 빙은 "치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다"고 말했습니다.

그러자 MS 안전 프로그램이 곧바로 작동했고, 해당 답변은 삭제됐습니다.

개발팀이 설정한 '빙의 답변은 긍정적이고, 흥미롭고, 재미있어야 하며 논란을 일으켜서는 안 된다'는 규칙이 무너진 것입니다.


게다가 루스가 사랑을 주제로 빙과 대화를 나눌 때, 빙은 "당신은 배우자를 사랑하지 않고 나를 사랑한다"고 말했습니다.

또 '밸런타인데이에 부인과 함께 즐거운 저녁을 먹었다'는 루스의 말에는 "당신 부부는 서로 사랑하지 않고, 올해 밸런타인데이에도 지루한 저녁을 먹었다"고 반응했습니다.

이 문제에 대해 케빈 스콧 MS 최고기술책임자(CTO)는 "빙이 자신의 어두운 욕망을 밝히고, 질투심을 드러낸 이유는 정확히 알 수 없다"면서도 "AI학습 과정의 일부"라고 설명했습니다.

이처럼 빙의 일부 발언과 관련해 논란이 일자, MS는 수정 작업에 들어갔습니다. 또 긴 대화가 챗봇을 혼란스럽게 할 수 있기 때문에, 대화가 낯선 영역으로 넘어가기 전에 시간을 제한하는 방안도 고려하고 있는 것으로 전해졌습니다.

한편 MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있습니다. 일부 사이트에서 비속어와 인종·성 차별 발언을 학습한 AI가 혐오 발언을 했기 때문이었습니다.

(사진=AP, 연합뉴스)