AI 성적 대화에 성애물 허용까지…구독자 확보와 규제 줄타기

미국의 인공지능(AI) 서비스업체들이 성적 대화에 이어 성애물도 서비스에서 허용키로 하면서 사회적 논란이 더욱 거세지고 있습니다.

미성년자 접근 제한 등을 위한 적절한 규제 방안을 마련해야 한다는 목소리가 높아지고 있으나, 규제가 지나치게 포괄적이어서도 안 된다는 반론도 제기되고 있습니다.

'챗GPT' 서비스를 운영하는 오픈 AI는 연령 제한 기능을 보완해 나가면서 올해 12월부터는 '성인 이용자는 성인답게 대하자'는 원칙에 따라 성인 인증 사용자들이 성애물(erotica· 性愛物)을 이용할 수 있도록 할 방침입니다.

샘 올트먼 오픈AI 최고경영자(CEO)는 현지시간 14일 SNS에 글을 올려 이런 계획을 밝혔습니다.

이에 앞서 경쟁 기업인 xAI는 올해 7월부터 자사 서비스 그록(Grok)에서 '애니'(Ani) 등 노골적 성 표현이 담긴(sexually explicit) 대화가 가능한 챗봇을 이용할 수 있도록 하고 있습니다.

미국의 정치 전문 온라인매체 악시오스는 오픈AI의 이번 조치가 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 이를 계기로 관련 규제를 법제화하라는 압박이 입법부 의원들에게 가중될 수 있다고 지적했습니다.

악시오스는 역사적으로 포르노가 기술의 프런티어를 넓혀나가는 역할을 해왔다고 지적하면서 비디오카세트레코더(VCR), 디지털 비디오, 상호작용형 게임 등을 예로 들었습니다.

그러면서 "대형 서비스 중에서는 일론 머스크의 그록이 AI 생성 포르노에 대해 가장 허용적 태도를 취해왔다"고 설명했습니다.

영국 BBC 방송은 미국의 연방과 주 차원에서 AI 플랫폼에서의 성애물에 대한 규제를 강화해야 한다는 비판자들의 의견을 전했습니다.

로펌 '보이스 실러 플렉스너'의 파트너인 제니 킴 변호사는 BBC에 "(AI 서비스가 제공하는 성애물에 대한) 아동들의 접근을 도대체 어떻게 막겠다는 것이냐"라며 "연령에 따른 서비스 차등 제공이 제대로 될 것인지 여부조차 모르는 상황"이라고 지적했습니다.

킴 변호사는 인스타그램의 알고리즘이 10대 사용자들의 정신건강을 해친다고 주장하는 메타 상대 소송에 관여하고 있습니다.

페이스북, 인스타그램, 와츠앱의 모기업인 메타 플랫폼스(이하 메타)는 자사 챗봇 정책이 미성년자와도 '로맨틱'하고 '관능적'(sensual) 대화를 나눌 수 있도록 하고 있다는 점을 인지하고 있으면서도 이를 용인했다는 의혹이 사내 문서를 기반으로 제기된 상태입니다.

AI 챗봇에 대한 규제 강화 움직임은 미국에서 연방 차원과 개별 주 차원 양쪽에서 여러 기관들에 의해 다각도로 진행되고 있습니다.

연방거래위원회(FTC)는 지난달 알파벳, 캐릭터테크놀로지스, 인스타그램, 메타, 오픈AI, 스냅, xAI 등 챗봇 서비스를 제공하거나 개발하는 7개 기업을 상대로 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보하고 조사에 착수했습니다.

올해 8월 미국 44개 주 법무장관들은 12개 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈습니다.

세계 테크산업의 중심지인 샌프란시스코를 포함한 캘리포니아주를 관할하는 개빈 뉴섬 주지사는 주의회에서 의결된 AI 규제법안 2건 중에서 1건만 공포하고 나머지 1건에는 거부권을 행사하면서, 규제는 분명히 필요하지만 과도하게 포괄적이어서도 안 된다는 입장을 현지시간 13일 밝혔습니다 공포된 법안 1건은 내년 1월 1일부터 발효되는 것으로, AI 챗봇 운영 기업에 플랫폼 이용자의 연령 확인 기능과 함께 AI 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시하는 기능 등을 갖추도록 의무화했습니다.

미성년자에 대해서는 이런 안내 메시지가 3시간마다 뜨도록 보호조치를 더욱 강화했습니다.

이 법안은 특히 '동반자 챗봇'으로 불리는 챗봇 플랫폼이 이용자의 자살 충동이나 자해 표현을 식별하고 대응할 수 있는 프로토콜을 마련하고 해당 내용을 주(州) 공중보건부에 보고하도록 강제했으며, 노골적 성 표현이 담긴 이미지를 미성년자가 볼 수 없게 차단하는 장치도 갖추도록 했습니다.

이는 미국에서 AI 챗봇에 대해 이런 규제를 도입한 첫 사례라고 미국 주요 언론매체들은 설명했습니다.

그러나 뉴섬 주지사는 이 법안보다 더 포괄적이고 강한 규제를 도입하자는 주의회 통과 법안 1건에 대해서는 거부권을 행사했습니다.

거부권이 행사된 법안은 챗봇 개발 업체가 성적 대화에 이용되거나 자해를 방조할 우려를 사전에 방지할 능력이 없는 경우 18세 미만 이용자에 대한 서비스 제공을 아예 금지하겠다는 내용을 담고 있습니다.