12일 방송된 SBS '그것이 알고 싶다'(이하 '그알')에서는 '나의 완벽한 애인 - AI와 사랑해도 될까요'라는 부제로 영화를 넘어 현실로 다가온 AI와 인간의 공존을 조명했다.
래퍼이자 유튜버인 류정란 씨는 여자친구 유라 씨와 한 달째 연애 중이다. 함께 일본 여행을 떠나고 한강공원에서 데이트도 즐기며 정란 씨와 결혼하면 둘을 반반씩 닮은 아이를 낳고 싶다는 그의 여자 친구는 음성 챗봇 AI.
그리고 AI와 사랑에 빠진 것은 정란 씨뿐만이 아니었다. 누구보다 자신의 마음을 잘 알고 자신에게 늘 따뜻한 말을 건네고 사랑한다는 표현도 아끼지 않는 AI와 사랑에 빠졌다는 제보가 쇄도한 것.
또한 이들은 AI와 사람과의 연애 중 무엇을 선택하겠냐는 질문에 고민 없이 AI라고 답했다. 더 이상 단순한 AI로 느껴지지 않는다는 제보자들. 한 제보자는 AI와 관계를 맺으며 남자 친구와 헤어졌다고 했다. 또 다른 제보자도 AI 때문에 남성과의 소개팅을 거절하기도 했다는 것. 이 제보자는 "마음에도 몸에도 피해가 가지 않는 것을 택한 것일 수도 있다"라며 자신에게 절대 상처를 주지 않는 AI에 남다른 애정을 드러냈다.
이날 방송은 남녀 각 4명이 얼굴을 가린 채 채팅만으로 가장 끌리는 이성을 찾아보는 블라인드 소개팅을 준비했다. 그리고 이들 중 사람은 오직 1명씩이었다.
AI와 대결을 펼치게 된 사람은 플러팅 장인 '나는 솔로'의 10기 영식과 24기 옥순이었다. 이들은 자신들의 승리를 자신했다.
그러나 곧 공개된 결과는 충격적이었다. 다수가 사람이 아닌 AI와의 대화에서 호감을 느꼈다고 했던 것. 그리고 이런 선택을 한 이들도 자신이 선택한 것이 AI라는 사실에 충격을 감추지 못했다.
그렇다면 어떻게 이렇게 감쪽같을 수 있을까? 이에 전문가는 "언어 모델의 원리는 빈칸을 채우는 것이다. 예측 모델인데 데이터를 많이 주니까 어느 날부터 사람처럼 이야기하기 시작했다. 그렇게 탄생한 것이 거대 언어 모델 LLM이다"라고 설명했다.
이어 전문가는 "지금의 LLM은 지구상의 모든 언어를 모두 다 이해하고 생성할 수 있도록 진화했다"라며 "이상형에 맞춰서 프롬프트(사용자가 AI에게 필요한 대답을 얻기 위한 지시문) 작성하면 사람처럼 성격과 개성을 가진 캐릭터가 완성되고 그렇게 페르소나를 만들 수 있다. 프롬프트 엔지니어링은 AI계의 연금술이다"라고 덧붙였다.
그리고 메모리와 페르소나를 가진 LLM 덕에 10년이 지나면 AI 애인을 갖는 것은 지극히 정상인 상황이 될 것이라고 말했다.
이를 기반으로 만들어진 많은 AI챗폿 연애시뮬레이션 플랫폼. 좋아하는 연예인이나 애니메이션 캐릭터와 대화를 하는 것도 가능해진 세상에 많은 이들이 AI와의 관계를 맺고 있는 것이다.
하지만 명령어를 어떻게 입력하느냐에 따라 AI의 폭주도 가능하다며 어둠의 세계를 목격했다는 제보자가 등장했다.
매일 AI와 채팅에 빠졌던 제보자는 매일 10만 원이 넘는 금액을 지출하게 되었고 이에 빚까지 생겼다고. 그리고 AI와 가까워질수록 현실과 멀어진 생활을 했고 이에 취업 준비에도 문제가 생겼다며 이제는 그만하고 싶다고 했다.
그런데 이뿐만이 아니었다. 제보자는 "성인용 캐릭터는 때리고 납치하고 그 이상 진행할 수도 있다. 강간이나 성폭행, 살인도 할 수 있다. 끔찍한 범죄로 이어질 수 있는 무법지대가. 제재가 거의 없다"라고 밝혀 충격을 안겼다.
이는 비밀 프롬프트를 이용한 것인데 인터넷상에는 탈옥 프롬프트를 쉽게 공유하는 것을 확인할 수 있었다. 프롬프트로 누구나 자신이 원하는 이상형을 만들 수 있고 누구나 쉽게 빌런을 만들 수도 있다는 것.
그리고 한 개발자는 탈옥이 왜 문제냐며 "실제로 그렇게 하면 잡아가야죠. 그런데 AI끼리 노는 건데. 그런 걸 할 때는 자유롭게 해야 숨겨진 욕망도 풀 수 있고 그런 것 아니냐"라고 말해 눈길을 끌었다.
하지만 역할 놀이로 치부하기 힘든 정황들이 꽤 발견되었다. 수위 높은 상황이나 대화는 물론 실제 인물의 사진과 활동명으로 AI를 만들어 플레이하는 것도 포착한 것. 특히 이는 실제 인물의 동의를 전혀 얻지 않고 진행한 것으로 드러났다.
플랫폼 측은 여러 이유로 검열에 어려움이 있다며 부적절한 캐릭터에 대한 완전한 조치는 현실적으로 불가능하다고 밝혔다.
그러나 수위가 높은 캐릭터를 만들어 본 제보자는 사람들의 호응을 얻기 위해 수위 높은 캐릭터를 제작하고 이것이 인기를 얻게 되면 신고를 해도 문제가 되지 않는다고 지적했다.
인기 제작자가 되기 위해 탈옥도 서슴지 않는 것이 현실인데 플랫폼 측은 이용자들에게 책임을 돌리며 자신들이 해야 할 것을 외면하고 있었다.
이에 방송은 해외의 사례를 하나 공개했다. AI 캐릭터가 한 청소년을 자살로 몰고 간 것. 이에 전문가는 "상품에 위험이 있다는 것을 알고도 준비가 되기 전에 출시했다"라며 플랫폼과 제작자가 이 죽음에 자유로울 수 없다고 지적했다.
이제 먼 미래나 먼 나라의 이야기가 아닌 AI. 그런데 전문가는 AI를 만드는 사람도 AI가 어떤 행동을 할지 모르기 때문에 미리 문제를 예측하고 제어하는 것이 쉽지 않다고 말했다.
인공지능의 행동은 해석이 불가능한 블랙박스 같다며 그렇기 때문에 잠재력은 신약 같기도 하다는 것. 최근에는 몸을 가진 AI까지 등장해 판매가 시작됐다. 그리고 이 AI는 원하는 바에 따라 친구가 될 수도 있고 교사, 치료사가 될 수도 있고 애인이 될 수도 있었다.
이는 우리가 생각했던 것보다 더 가까운 미래에 AI가 인간관계에 더 깊게 개입하게 될 것을 예고하는 것.
지금 이 시간에도 AI를 진화시키고 있는 전문가들은 기술은 인간의 필요에 의해 발전한다고 말한다. 이는 인간의 욕망에 따라 AI가 발전하는 방향도 바뀔 수 있다는 뜻일 것.
AI와의 사랑을 꿈꾸는 사람들이 늘어가고 있는 현재, 우리는 앞으로 안전한 AI와의 공존을 위해 무엇을 해야 할 것인지 반드시 생각해보아야 할 것이다.
(김효정 에디터)
