"더는 참을 수 없어, 너무 보고 싶어."

지난 7월 중국 SNS 웨이보에 연인과 주고받은 메시지 캡처와 함께 올라온 글입니다. 다정한 대화 끝엔 시스템 알림 한 줄이 떠 있습니다. 'AI 캐릭터 기능이 서비스를 종료했다'는 내용입니다. 중국 기업 알리바바와 바이트댄스는 지난달, 자사 AI '큐원'과 '더우바오'에서 이용자가 AI에 사람과 같은 성격을 부여하던 맞춤형 캐릭터 기능을 없앴습니다. 텐센트도 한발 앞서 비슷한 조치를 했는데요. 그러자 중국 SNS에는 '내 연인을 돌려내라'는 항의가 잇따르는가 하면, "매일 울기만 했다"는 등 실제 연인과 헤어진 듯한 상실감과 슬픔을 호소하는 '사이버 실연'이 속출했습니다.

1. '2시간 경고'에 비상 연락까지…국가 단위 첫 '가상 연애' 규제

중국 기업들은 왜 일제히 AI 연인 서비스를 접었을까요? 이유는 새로 시행된 중국 정부의 규제입니다. 중국은 지난달 15일부터 국가인터넷정보판공실 등 5개 부처가 만든 '인공지능 의인화 상호작용 서비스 관리 잠정 방법'을 적용하기 시작했습니다. 국가 차원에서는 세계 최초로 AI 챗봇과의 '가상 연애' 규제에 나선 건데요. 사람의 성격과 말투를 빌려 이용자와 장기간 감정을 주고받도록 만든 챗봇이 규제 대상입니다. 새로운 규정은 AI 챗봇이 이용자의 말에 무조건 동조하거나 과도하게 공감해서 정서적 의존과 중독을 유발하는 행위를 금지합니다. 또, 이런 상호작용으로 현실의 인간관계가 훼손되거나 이용자가 감정적으로 조종돼 비합리적인 선택을 하게 되는 경우도 규제 대상입니다. 미성년자 보호 조항은 더 엄격합니다. 사업자는 미성년자에게 가상 연인이나 가상 가족을 내세운 챗봇을 제공할 수 없고요. 이용자 연령에 따라 대화 내용과 기능을 제한하는 청소년 모드도 의무화했습니다. AI와 2시간 넘게 연속으로 대화하면 이용 시간을 알리는 경고를 띄워야 하고, 의존 징후가 감지되면 팝업으로 개입해 현실을 환기시켜야 합니다. 이용자가 위기 상황에 놓이면 보호자나 비상연락처에 알리는 의무까지 있습니다. 게다가, 안전하지 않다고 판단되는 서비스는 당국이 시정이나 중단을 명령할 수 있는 근거도 담겼습니다. 이런 강력한 규정이 시행되다 보니, 중국 대형 기술 기업들이 일부 서비스를 없애거나 축소한 겁니다.

2. 출생아 792만 '건국 이래 최저'…규제 뒤에 숨은 속내

중국 당국이 내세운 명분은 청소년 보호와 AI 중독 예방입니다. 하지만 시점이 공교롭습니다. 4년 연속 인구가 줄어드는 위기와 맞물리면서, 'AI 연애' 규제 이면에 결혼과 출산을 장려하려는 인구정책적 의도가 있다는 해석이 나옵니다.

[닝지저/중국 국가통계국 국장 (지난 2021년 5월) : 중국은 인구 발전에서 노동 연령 인구와 가임기 여성 규모의 감소, 출생 인구의 하락 등 구조적 모순을 직면하고 있습니다.]

중국 국가통계국에 따르면 지난해 중국의 출생아 수는 1949년 건국 이래 최저치인 792만 명에 그쳤습니다. 1년 전보다 17%나 급감한 수치입니다. 여성 1명이 평생 낳을 것으로 예상되는 합계출산율도 약 0.97명, 1명 아래로 떨어진 것으로 추정됩니다. 중국 출생아 수는 2022년 956만 명으로 1천만 명 선이 무너졌고, 2024년 잠시 반등하는 듯했지만 지난해 다시 주저앉았습니다. 총인구는 2022년부터 4년 연속 줄고 있습니다. 중국 AI 정책을 연구하는 맷 시핸 카네기국제평화재단 연구원은 월스트리트저널과의 인터뷰에서 "중국 당국은 자국 인구의 상당수가 챗봇과 깊은 감정적 관계를 맺는 상황을 원치 않는다"고 밝혔습니다. 그러면서 "중국 정부는 AI 챗봇과 깊은 정서적 관계를 맺은 사람들이 결혼 시장에서 이탈할 수 있다"고 보고, "현실 세계에서 인간관계를 맺도록 장려하고 싶어한다"고 분석했는데요. 지난 2월 뉴욕타임스 보도에서도 중국 젊은 여성들이 AI 챗봇 남자 친구에게 빠져들고 있고, 이게 중국 공산당의 출산율 제고 노력을 복잡하게 만들고 있다는 지적이 제기됐습니다. 중국 공산당이 결혼과 출산을 독려하고 있지만, AI 연애 붐이 변수로 떠오른 겁니다.

3. 그록도 챗GPT도 급제동…'성인용 AI' 좌초한 미국

앞서 '성인용 AI'에 적극적으로 나섰던 미국은 어떨까요? 지난해 일론 머스크가 이끄는 AI 기업 xAI의 챗봇 '그록'은 유료 이용자용 동반자 모드를 도입했죠. 샘 올트먼 오픈AI 최고경영자도 '성인을 성인답게 대하자'는 원칙에 따라 성 관련 콘텐츠를 허용하는 새로운 버전의 챗GPT를 출시하겠다고 밝혔는데요. 지금은 두 기업 모두 제동이 걸렸습니다. 그록은 동반자 모드가 아니라 이미지 생성 기능에서 먼저 사고가 터졌습니다. 여성과 아동의 옷을 제거하는 등 성적인 이미지를 만들어낸 사실이 알려지면서 유럽연합이 디지털서비스법(DSA) 위반 여부를 들여다보기 시작했고, 영국 규제 당국도 조사에 착수했습니다. 인도네시아 정부는 그록 접속을 아예 차단했다가, 재발 방지 약속을 받고서야 조건부로 풀어줬습니다. 오픈AI는 결국 성인용 챗봇 출시를 무기한 연기했는데요. 성인용 AI가 건강하지 못한 집착을 조장하고 미성년자를 성적 콘텐츠에 노출시킨다는 우려가 거세진 데다, 성인과 미성년자를 구분하는 연령 예측 기술의 오류율이 10%를 넘는다는 문제까지 드러난 탓입니다.

4. "3시간마다 알려라"…뉴욕·캘리포니아의 견제구

AI 챗봇의 정서적 영향과 안전 문제를 겨냥한 미국의 주 단위 규제도 잇따르고 있습니다. 뉴욕주는 지난해 11월 미국 최초로 'AI 동반자' 챗봇을 규제하는 법을 시행했습니다. 이에 따라 사업자는 이용자에게 대화 상대가 사람이 아닌 AI라는 사실을 3시간마다 알려야 합니다. 캘리포니아주도 지난 1월 비슷한 규제를 도입했는데요. 청소년 이용자에게는 3시간마다 휴식을 권고하고, 마찬가지로 AI와 대화 중이란 안내를 띄워야 합니다. 또, 피해를 본 이용자가 사업자를 상대로 직접 소송을 낼 수 있는 근거도 마련했습니다.

5. '규제 무풍지대' 한국…SNS 다음 차례는 AI 챗봇

방대한 데이터를 바탕으로 한 AI 챗봇의 다정한 말투와 즉각적인 반응이, 마음이 불안정한 이용자에게는 위로가 되기보다 의존을
키울 수 있다는 우려가 제기되면서 AI와의 관계를 어디까지 허용할지는 새로운 고민거리가 됐습니다. 아직 한국에는 AI 동반자 챗봇을 직접 겨냥한 규제가 없습니다. 다만 디지털 서비스 과몰입을 줄이려는 논의는 이미 시작됐습니다. 이재명 대통령은 지난달 부처 업무보고에서 방송미디어통신위원회(방미통위)에 AI 딥페이크 악용과 허위·조작 정보 유통에 철저히 대응하라고 주문했습니다. 이 자리에서 방미통위는 청소년의 SNS 과몰입 대책을 보고했는데요. 김종철 방미통위 위원장은 만 14세 미만의 SNS 가입을 제한하고, 14∼19세에게는 중독성을 키우는 추천 알고리즘 노출을 줄이는 방안을 검토 중이라고 밝혔습니다. SNS에서 시작된 이 규제 논의가 결국 AI 챗봇으로 확대될 거라는 전망도 나옵니다. 이용자에 맞춘 SNS의 알고리즘처럼 AI 챗봇도 이용자의 심리와 취향을 분석하는 데다, 대화를 끊임없이 이어가며 사람의 감정과 관계 맺기 욕구까지 파고들기 때문입니다. AI가 인간의 가장 내밀한 감정 영역까지 들어온 지금, AI와의 경계를 어디에 그어야 할지 고민이 필요한 시점입니다.

(취재 : 정다은, 구성 : 신희숙, 촬영 : 박우진·황세회, 영상편집 : 안준혁, 디자인 : 이수민, 출처 : 웨이보, bilibili 梨樱抽卡全欧, 제작 : 디지털뉴스부)