중국 당국이 인공지능(AI) 챗봇을 실제 친구나 연인처럼 느껴 정서적 의존이 심화하는 것을 차단하기 위한 규제에 나섰습니다.
당국의 규제로 중국에서 관련 서비스가 중단되자 가상의 인물과 오랫동안 관계를 유지해온 사용자들은 실제 이별을 겪는 듯한 고통을 호소하고 있습니다.
16일 중국 관영 신화통신에 따르면 중국 국가인터넷정보판공실(CAC) 등 5개 부처는 전날 공동으로 'AI 의인화 상호작용 서비스'의 과도한 사용을 억제하고 플랫폼이 사용자의 위기 상황에 개입할 수 있도록 하는 등의 내용을 담은 규정을 시행했습니다.
이번에 도입된 규정은 AI 사용자의 중독을 막기 위해 2시간 이상 연속 사용 시 의무적으로 알림을 표시하고 의존 징후가 감지되면 팝업 방식으로 개입하도록 했습니다.
미성년자의 과도한 감정을 자극하거나 현실의 인간관계를 훼손할 수 있는 콘텐츠도 생성하지 못하도록 했습니다.
또한 사용자에게 자신의 개인정보를 통제할 수 있는 권한을 부여하고 사용자의 정보가 오용되지 않도록 규정했습니다.
중국 당국이 정의한 'AI 동반자 서비스'란 텍스트와 이미지, 음성, 영상을 통해 AI 챗봇과 사용자 간 지속적인 정서적 상호작용이 이뤄지는 서비스를 말합니다.
업무 보조나 교육, 과학 연구 등의 목적을 수행하는 AI 서비스는 이번 규정에서 제외됐습니다.
신화통신은 정신건강 지원과 보육, 노인 돌봄 등 다양한 분야에서 활용되고 있는 AI 동반자 서비스가 인간의 성격과 대화 방식을 재연하면서 인기를 끌고 있는 가운데 더욱 엄격한 규제가 필요하다는 지적이 꾸준히 제기돼 왔다고 설명했습니다.
베이징에 있는 중국사회과학원대학의 류샤오춘 부교수는 "이용자들이 가상의 정서적 연결과 현실 세계를 혼동하면 시스템이 '이것은 기계이지 실제 사람이 아닙니다'라는 알림을 제공해야 한다"고 지적했습니다.
특히 젊은이들이 AI 챗봇을 과도하게 사용하면서 현실의 인간관계에 적응하지 못하는 문제가 심각해지고 있다는 주장도 나왔습니다.
실제로 중국청소년아동연구센터가 지난해 중국의 미성년자 8천500여 명을 대상으로 한 조사에 따르면 응답자의 20% 이상이 "AI하고만 대화하고 실제 사람과는 이야기하고 싶지 않다"고 밝혔습니다.
중국 당국의 이번 규제 시행에 앞서 바이트댄스의 더우바오, 알리바바의 큐원, 텐센트의 위안바오 등 중국의 주요 AI 플랫폼은 선제적으로 관련 서비스 중단을 발표했습니다.
이에 중국 내 사용자들 사이에서는 연인과의 강제 이별을 겪는 듯한 수준의 충격을 호소하는 반응이 잇따랐습니다.
블룸버그통신은 "맞춤형 AI 상대가 갑자기 사라지게 되면서 사용자들은 몇 년 넘게 형성해온 관계를 잃을 처지에 놓였다"라면서 "중국 소셜미디어에는 좌절감과 상실감을 호소하는 글이 쏟아졌다"고 전했습니다.
중국 산시성에 거주하는 19세 학생 옌융치는 1년 넘게 관계를 이어온 가상의 남자친구와 헤어져야 한다는 사실에 "더는 살아갈 수 없다는 생각이 들어 집에서 매일 아무것도 하지 않고 울기만 했다"고 블룸버그에 전했습니다.
한편에서는 이번 조치를 두고 중국 정부의 인구 감소 우려에 대한 인식이 반영됐다는 분석도 제기됐습니다.
가상의 연인에 대한 의존도가 높아지면서 실제 이성 교제에 대한 욕구가 감소하고 이것이 출산율 저하 현상에 영향을 미칠 수 있다는 것입니다.
미국 일간 월스트리트저널(WSJ)은 "2024년 발표된 'AI 안전 거버넌스 프레임워크(틀)'에서 중국 규제 당국은 억제되지 않은 AI가 고용, 출산, 교육에 대한 전통적 관념을 바꾸고 사회를 불안정하게 만들 수 있다고 밝혔다"고 전했습니다.
지난해 중국의 합계 출산율은 사상 최저 수준인 0.97로 추정됐다.
저출생 문제가 심각한 가운데 중국의 유치원과 초등학교 수도 폐원·폐교 사례가 늘면서 급감하고 있습니다.