중국 관영 매체가 AI 즉 인공지능의 '목소리 복제' 기술이 사회적 신뢰를 무너뜨릴 위험이 있다며 규제가 필요하다고 강조했습니다.

신화통신은 17일 논평에서 "AI의 목소리 복제 기술이 끊임없이 발전하고 소셜 미디어와 함께 일상생활에 들어가면서 일부 AI '목소리 훔치기' 남용 현상도 끊임없이 나타나고 있다"고 전했습니다.

이어 "이는 다중의 안전 문제를 드러낼 뿐 아니라, 사기의 새로운 방식이 돼 사회 거버넌스에 새 도전을 가져다준다"고 지적했습니다.

통신은 현재 개인의 목소리가 허가 없이 수집돼 AI 음성팩으로 훈련된 뒤 짧은 영상 형태나 상품 광고에 이용되거나 공개 거래되는 등 인격권이 침해되고 있다"고 설명했습니다.

특히 "가족의 목소리를 흉내 낸 사기 범죄자들에 속아 노인들이 노후 자금을 송금하는 사례도 벌어지고 있다"고 전했습니다.

이어 온라인 쇼핑 플랫폼과 중고 거래 플랫폼에서는 AI 복제 소프트웨어와 음성 교체, 맞춤형 음성 서비스 등을 한화 몇천 원에서 몇만 원이면 손쉽게 구할 수 있었다고 전했습니다.

신화통신은 "무질서가 잇따라 발생하는 핵심 원인은 AI 목소리 도용 권익 침해의 비용이 저렴한데 권익을 수호하기는 매우 어렵다는 데 있다"며 "음성의 진위를 가리기 어렵게 되면 사회적 신뢰 역시 심각하게 훼손될 것"이라고 강조했습니다.

그러면서 "플랫폼은 음성 위조 판별 시스템을 업그레이드하고, 음성 모델을 불법으로 판매하는 거래를 근절해야 한다"고 주장했습니다.

또 "사법 층위에선 음성 권리 인정 기준을 세분화하고, 권익 침해·사기의 불법 행위 비용을 높여야 한다. 감독·관리 층위에선 AI 훈련 플랫폼에 데이터 출처 규정 준수 심사를 요구해야 한다"고 덧붙였습니다.