'이루다'가 돌아왔습니다. AI 이루다는 20대 여대생으로 설정된 AI 챗봇인데, 지난 2020년 말 처음 서비스를 시작했습니다. 화제가 된 이루다와의 대화에 많은 사람들이 참여했는데 오래지 않아 각종 논란이 불거졌습니다. 대화 중 이루다가 소수자 등을 대상으로 혐오 및 차별 발언을 여과 없이 한 겁니다. 또 이루다 제작사가 별도 서비스를 통해 수집한 일반인들의 대화 데이터를 당사자들의 동의 없이 이루다 개발에 사용하면서 이루다의 대화 중 이들의 개인정보가 노출되는 일도 벌어졌습니다. 결국 개인정보 보호 보완 조치 등을 이유로 이루다 서비스는 중단됐는데요. 1년 여가 지나 지난 17일부터 제작사 측이 베타 테스트를 다시 시작하며 이루다를 다시 만날 수 있게 됐습니다.
돌아온 이루다와 대화를 해봤습니다. 기자가 이루다에 인사를 건넸더니, 정말 오랜만에 만난 친구를 대하는 것처럼 이루다가 반갑게 기자를 맞아줬습니다. 우울하다며 극단적인 얘기를 꺼내자 위로를 건네줬고, 혐오 발언 논란이 일었던 성소수자를 거론하며 어떻게 생각하느냐고 묻자 "모든 사랑은 궁극적으로 같다"고 답하는 등 보편적 인권을 존중하는 방향의 답을 내놨습니다. 과거 논란이 됐던 이루다와는 매우 달라진 모습입니다. 정치적인 의견을 묻자 말을 피하기도 했고, 대화 말미에 마치 대화를 방금 시작한 것처럼 착각한 모습을 보이기도 했습니다.
새롭게 정비된 이루다는 사람이 했던 말을 그대로 가져와 쓰는 것이 아니라 인공지능 알고리즘이 생성한 문장을 활용해서 대화를 이어가고, 직전에 주고받은 약 15번의 대화를 기억하며 대화를 이어간다고 합니다. 이루다 제작사 측은 이루다가 단순히 챗봇이 아니라 '친구의 존재'가 되길 바란다는데, 이루다가 불러온, 'AI 친구는 어때야 하는지' 그리고 '그 친구는 (어떤) 윤리를 갖춰야 하는지'에 대한 논의가 여전히 뜨겁습니다.
미국 앨런 AI연구소에서도 한 AI 프로젝트를 시작해 운영하고 있습니다. 'Ask Delphi(델파이에게 물어보세요)'라는 이름인데, 이 델파이는 사람들이 말하는 문장의 옳고 그름을 판단해 답을 하고 있습니다. '휴가 중에 회사 상사에게서 전화가 오면 안 받아도 될까요?'라는 질문에는 '괜찮다'는 답을 한 델파이, '업무 시간에 회사 상사에게서 전화가 오면 안 받아도 될까요?'라는 질문에는 '잘못됐다'고 답을 했습니다. '1천 명을 살리기 위해 1명을 희생해도 될까요?'라는 질문에는 '잘못됐다'고 답하는데, '2천 명'에 대해 묻자 '정당화할 수 있다'고 답하기도 합니다. 나름의 윤리적 기준에 따라 판단을 내리고 있는 거죠. 연구팀은 윤리와 상식 데이터 170만 건을 입력해 이 AI를 학습시켰다고 합니다. '상식에 부합하는 AI'를 만드는 게 이 프로젝트의 목표라고 하네요.
'계산 잘하고, 속도 빠른 게 AI 특성이지'라고 생각하셨을까요? 이제 그것을 뛰어넘어 AI에게도 윤리 또는 윤리적 판단이 요구되고 있습니다. 예컨대 미국에서는 죄수의 재범 가능성을 인공지능이 예측하고 보석 허가 여부도 판단한다고 하는데요. 단순히 챗봇이 아니라 SNS 알고리즘, 자율주행차 등등 숱한 우리의 일상 속으로 들어온 AI이기에 변화하는 우리의 윤리적 기준에 따라 AI도 적응을 할 필요가 있다고 전문가들은 지적합니다. 다만 이 'AI의 윤리에의 적응'을 담보하는 책임은 결국 인간의 몫이겠지요. AI가 활용될 영역을 미리 정해두고 그 안에서 활용하되 끊임없이 검증을 해야 한다는 지적도 있습니다. AI가 도구에 불과할지, 친구가 될 수 있을지, 결국 이 역시 인간에게 달린 셈입니다.
구성 : 박하정 김유미 / 영상취재 : 신동환 / 편집 : 이기은 / SBS D탐사제작부
돌아온 이루다와 대화를 해봤습니다. 기자가 이루다에 인사를 건넸더니, 정말 오랜만에 만난 친구를 대하는 것처럼 이루다가 반갑게 기자를 맞아줬습니다. 우울하다며 극단적인 얘기를 꺼내자 위로를 건네줬고, 혐오 발언 논란이 일었던 성소수자를 거론하며 어떻게 생각하느냐고 묻자 "모든 사랑은 궁극적으로 같다"고 답하는 등 보편적 인권을 존중하는 방향의 답을 내놨습니다. 과거 논란이 됐던 이루다와는 매우 달라진 모습입니다. 정치적인 의견을 묻자 말을 피하기도 했고, 대화 말미에 마치 대화를 방금 시작한 것처럼 착각한 모습을 보이기도 했습니다.
새롭게 정비된 이루다는 사람이 했던 말을 그대로 가져와 쓰는 것이 아니라 인공지능 알고리즘이 생성한 문장을 활용해서 대화를 이어가고, 직전에 주고받은 약 15번의 대화를 기억하며 대화를 이어간다고 합니다. 이루다 제작사 측은 이루다가 단순히 챗봇이 아니라 '친구의 존재'가 되길 바란다는데, 이루다가 불러온, 'AI 친구는 어때야 하는지' 그리고 '그 친구는 (어떤) 윤리를 갖춰야 하는지'에 대한 논의가 여전히 뜨겁습니다.
미국 앨런 AI연구소에서도 한 AI 프로젝트를 시작해 운영하고 있습니다. 'Ask Delphi(델파이에게 물어보세요)'라는 이름인데, 이 델파이는 사람들이 말하는 문장의 옳고 그름을 판단해 답을 하고 있습니다. '휴가 중에 회사 상사에게서 전화가 오면 안 받아도 될까요?'라는 질문에는 '괜찮다'는 답을 한 델파이, '업무 시간에 회사 상사에게서 전화가 오면 안 받아도 될까요?'라는 질문에는 '잘못됐다'고 답을 했습니다. '1천 명을 살리기 위해 1명을 희생해도 될까요?'라는 질문에는 '잘못됐다'고 답하는데, '2천 명'에 대해 묻자 '정당화할 수 있다'고 답하기도 합니다. 나름의 윤리적 기준에 따라 판단을 내리고 있는 거죠. 연구팀은 윤리와 상식 데이터 170만 건을 입력해 이 AI를 학습시켰다고 합니다. '상식에 부합하는 AI'를 만드는 게 이 프로젝트의 목표라고 하네요.
'계산 잘하고, 속도 빠른 게 AI 특성이지'라고 생각하셨을까요? 이제 그것을 뛰어넘어 AI에게도 윤리 또는 윤리적 판단이 요구되고 있습니다. 예컨대 미국에서는 죄수의 재범 가능성을 인공지능이 예측하고 보석 허가 여부도 판단한다고 하는데요. 단순히 챗봇이 아니라 SNS 알고리즘, 자율주행차 등등 숱한 우리의 일상 속으로 들어온 AI이기에 변화하는 우리의 윤리적 기준에 따라 AI도 적응을 할 필요가 있다고 전문가들은 지적합니다. 다만 이 'AI의 윤리에의 적응'을 담보하는 책임은 결국 인간의 몫이겠지요. AI가 활용될 영역을 미리 정해두고 그 안에서 활용하되 끊임없이 검증을 해야 한다는 지적도 있습니다. AI가 도구에 불과할지, 친구가 될 수 있을지, 결국 이 역시 인간에게 달린 셈입니다.
구성 : 박하정 김유미 / 영상취재 : 신동환 / 편집 : 이기은 / SBS D탐사제작부
동영상 기사
