'19금 대화 허용' 챗GPT 논란에…"우린 도덕경찰 아냐"

<앵커>

전 세계 가장 많은 AI 서비스 가입자를 확보한 오픈AI가 성인용 콘텐츠를 허용하겠다고 밝혀 논란이 커지고 있습니다. 샘 올트먼 최고경영자는 자신들은 도덕경찰이 아니라며 강행을 예고했습니다.

홍영재 기자가 취재했습니다.

<기자>

지난 7월 일론 머스크의 AI 기업 xAI가 내놓은 성인용 AI 챗봇 '애니'입니다.

[(안녕, 자기야, 잘 지냈어?) 안녕, 자기 당신 목소리만 들어도 구름 위를 떠다니는 기분이야.]

소녀 챗봇과의 교감이 깊어질수록 대화와 노출 수위가 높아져 AI 서비스를 성적 대상화했다는 비판이 나왔습니다.

xAI는 보란 듯 AI 이미지 생성기에 노출이 많은 콘텐츠를 만들어낼 수 있는 '스파이시', '매운맛' 모드까지 선보였습니다.

테슬라 차량엔 욕설이나 비속어를 포함해 유머러스하고 도발적으로 말하는 음성 모드도 공개했습니다.

[(그록AI를 테스트해 보죠, 좋은 아침, XX) XX 좋은 아침, 이 타락한 XX야.]

선정성이나 도덕성 논란을 감수하더라도 유료 구독자를 늘리고 사용자들을 챗봇이나 AI 서비스에 붙잡아 두겠다는 전략입니다.

AI 콘텐츠 생성에 여러 검열 장치를 둬온 오픈AI도 노선 전환을 선언했습니다.

샘 올트먼은 "성인 이용자를 성인처럼 대하겠다"며 오는 12월부터 챗GPT에 성적인 대화와 콘텐츠를 허용하겠다는 방침을 밝혔습니다.

[이승환/국회미래연구원 IT연구위원 : (xAI가) 실제로 성과를 좀 냈거든요. 수익 모델 관점에서 보면 일석이조죠. 체류 시간도 엄청 늘릴 수 있고 이 사람들이 다 성인이기 때문에 이제 구매력이 다 있잖아요.]

주간 활성 이용자 수만 8억 명에 달하지만 흑자를 내지 못하고 있는 오픈AI가 결국 성애물로 수익을 내려한다는 비판이 쏟아졌습니다.

올트먼은 재차 "사람들이 원하는 방식으로 AI를 사용할 자유도 중요하다"며, "우리는 선출된 도덕경찰이 아니"라고 강행 의지를 밝혔습니다.

오픈AI는 챗GPT와 대화를 나누다 미국 10대 청소년이 사망한 사건 이후 소송을 당하고 정부 조사도 받고 있는데, 정서적 교감을 강조하는 성인 콘텐츠까지 활성화될 경우 더 엄격한 제재 요구를 불러일으킬 것으로 전망됩니다.

(영상편집 : 김병직, 디자인 : 장예은)