뉴스

인공지능윤리협회 "이루다, AI 윤리 어겼다…서비스 중단해야"

인공지능윤리협회 "이루다, AI 윤리 어겼다…서비스 중단해야"

SBS 뉴스

작성 2021.01.11 17:21 조회수
프린트기사본문프린트하기 글자 크기
기사 대표 이미지:인공지능윤리협회 "이루다, AI 윤리 어겼다…서비스 중단해야"
인공지능(AI) 챗봇 '이루다'가 동성애·장애인 혐오 및 성차별을 학습했다는 문제가 제기되면서 'AI 윤리' 논쟁이 불거지자 학계에서 "이루다 서비스를 중단하라"는 첫 성명이 나왔다.

한국인공지능윤리협회는 11일 성명서를 내 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 짚었다.

협회는 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"며 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"고 지적했다.

그러면서 협회는 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"며 "AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문"이라고 설명했다.

이들은 이루다를 둘러싼 개인정보 유출 의혹에 관해서는 "카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다"며 "카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다"고 의견을 냈다.

협회는 이루다 서비스를 중단해야 한다면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"고 촉구했다.

협회는 "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.

AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.

협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 이용자가 40만명을 넘기는 등 크게 주목받았는데, 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 태도를 보이기도 해 논란이 계속되고 있다.

(연합뉴스/사진=이루다 페이스북 캡처, 연합뉴스)

많이 본 뉴스