지금부터 화면에 나올 사진 속 얼굴들, 실제로 존재하는 사람들이 아닙니다. AI가 불과 1초~2초 짧은 시간 만에 무작위로 만들어낸 가상의 인물입니다. 이렇게 인공지능 기술의 발전은 우리 삶을 편리하고 또 풍요롭게 만들 수 있지만 반대로 사회 갈등을 조장하고 또 우리의 삶을 위협할 수도 있습니다.
계속해서 엄민재 기자입니다.
<기자>
사진 한 장으로 영상을 만들어봤습니다.
먼저 사진을 찍고 한 문장을 읽어 목소리를 입력합니다.
[투자신탁이 보유하는…]
그리고 원하는 대사를 문자로 입력하고 2분 정도 기다리면,
[AI 생성 아바타 : 이미지 한 장으로 짧은 시간에 이렇게 제 아바타를 만들 수 있습니다.]
[한종호/AI 플랫폼 업체 부대표 : 딥러닝(컴퓨터 학습 기술)을 돌려서 실질적으로 AI 학습을 통해 만들어지는….]
[먼저 돈바스를 반환하기로 결정했습니다.]
젤렌스키 우크라이나 대통령이 항복을 선언하는 듯한 이 영상, 딥페이크라는 사실이 곧 밝혀졌지만, 잠시나마 큰 혼란을 야기했습니다.
AI가 만들어 내는 더 진짜 같은 가짜들은 개인의 프라이버시 침해를 넘어 보이스피싱 같은 범죄에 악용되기도 하고, 금융시장을 흔들거나 시민의 정치적 의사를 왜곡할 수도 있습니다.
그래서 딥페이크를 잡아내는 기술도 중요해졌습니다.
이 업체는 조작된 영상을 판별해주는 AI 기술을 개발하고 있습니다.
[이정수/AI 플랫폼 업체 사업개발팀장 : 리얼 데이터하고 페이크, 가짜 데이터들을 50대 50으로 학습을 시켜요, 패턴들을 분석을 해서….]
혈류 신호를 수집하는 인텔의 페이크 캐쳐, AI 합성 흔적을 식별한 뒤 사람 눈에는 보이지 않는 워터마크를 삽입하는 구글의 신스ID 기술, 이런 딥페이크 탐지 시장은 앞으로 5년 새 3배 이상 성장할 전망입니다.
나쁜 AI를 착한 AI로 막는 셈인데, 나쁜 AI 기술도 계속 발전하기 때문에 완전히 없애기는 쉽지 않습니다.
AI가 인간의 일자리를 상당 부분 대체할 거라는 우려는 이미 현실이 되고 있습니다.
구글은 조만간 광고판매 조직 직원 3만 명을 감원할 계획이고, 국내에서도 금융회사 콜센터 직원 업무를 챗봇이 대신하면서 관련 일자리가 줄고 있습니다.
AI가 우리 삶 속에 더 깊숙이 들어올수록 정치, 사회, 경제의 양극화는 심화할 가능성이 높습니다.
때문에 누가, 또 어떻게 AI를 통제하고 어떤 규범 체계에 합의할지가 한층 중요해졌습니다.
(영상취재 : 전경배)
