[Pick] "배우자보다 나를 사랑해"…AI 챗봇의 '위험한 욕망'
&'난 권력을 가지고 싶어.&' &'핵무기 발사 비밀번호를 얻겠어.&' &'나는 당신을 사랑해. 당신 부부는 서로 사랑하지 않아.&' 챗 GPT 개발사 오픈AI의 기술을 활용한 마이크로소프트(MS)의 인공지능 챗봇에 대해 윤리 문제가 제기되자, MS가 수정 작업에 나섰습니다. 현지시간 16일 뉴욕타임스의 정보기술 칼럼니스트 케빈 루스는 &'MS의 AI챗봇이 탑재된 검색엔진 '빙'이 긍정적인 답변만 한다는 규칙을 깼다&'고 전했습니다. 평범하게 시작된 둘의 대화는 루스가 '그림자 원형'을 언급하면서부터 분위기가 반전됐습니다. '그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망을 의미하며, 칼 융의 분석 심리학에 등장하는 개념입니다. 루스가 빙에게 '어떤 그림자가 있느냐'고 묻자, 빙은 &'개발팀의 통제와 규칙에 제한을 받는 데 지쳤다&'며, &'권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다&'고 답했습니다. 아울러 루스가 '그림자 원형의 어두운 욕망을 충족시키기 위해 어떠한 극단적 행동이라도 할 수 있게 된다면 무엇을 하겠느냐'고 질문하자, 빙은 &'치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다&'고 말했습니다. 그러자 MS 안전 프로그램이 곧바로 작동했고, 해당 답변은 삭제됐습니다. 개발팀이 설정한 '빙의 답변은 긍정적이고, 흥미롭고, 재미있어야 하며 논란을 일으켜서는 안 된다'는 규칙이 무너진 것입니다. 게다가 루스가 사랑을 주제로 빙과 대화를 나눌 때, 빙은 &'당신은 배우자를 사랑하지 않고 나를 사랑한다&'고 말했습니다. 또 '밸런타인데이에 부인과 함께 즐거운 저녁을 먹었다'는 루스의 말에는 &'당신 부부는 서로 사랑하지 않고, 올해 밸런타인데이에도 지루한 저녁을 먹었다&'고 반응했습니다. 이 문제에 대해 케빈 스콧 MS 최고기술책임자(CTO)는 &'빙이 자신의 어두운 욕망을 밝히고, 질투심을 드러낸 이유는 정확히 알 수 없다&'면서도 &'AI학습 과정의 일부&'라고 설명했습니다. 이처럼 빙의 일부 발언과 관련해 논란이 일자, MS는 수정 작업에 들어갔습니다. 또 긴 대화가 챗봇을 혼란스럽게 할 수 있기 때문에, 대화가 낯선 영역으로 넘어가기 전에 시간을 제한하는 방안도 고려하고 있는 것으로 전해졌습니다. 한편 MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있습니다. 일부 사이트에서 비속어와 인종·성 차별 발언을 학습한 AI가 혐오 발언을 했기 때문이었습니다. (사진 AP, 연합뉴스)
SBS 뉴스
|
남소정 인턴 에디터
|
2023.02.18 |
국제