[스프] 인공지능 포토샵이 엄청나게 쉬워지면 무슨 문제가 생길까

*파라드 만주는 오피니언 칼럼니스트다.
이미지 편집 애플리케이션 계의 시조새이자 필터로 보정된 미디어 생태계의 근원인 '포토샵'은 이제 우리 문화와 떼려야 뗄 수 없는 존재다. 이미 포토샵이란 제품명은 고유명사뿐 아니라 (구글이나 우버처럼) 동사와 형용사로 쓰이고 있으며, 래퍼들에게도 인기 있는 소재가 됐다. 포토샵은 매우 널리 사용되고 있다. 첫 버전이 나온 지 30여 년이 흐른 지금, 전 세계의 전문 사진작가부터 그래픽 디자이너, 그리고 다양한 시각 예술 분야의 전문가들이 포토샵을 사용하고 있다. 인터넷과 지면, 광고판, 버스 정류장, 포스터, 제품 포장을 비롯해 빛이 닿는 모든 곳에서 우리가 보는 이미지 대부분은 포토샵을 거쳤다고 봐도 무방하다.

그렇다면 포토샵이 생성 인공지능(generative AI)의 영역으로 뛰어든다는 것은 어떤 의미일까? 최근 출시된 '제너레이티브 필(Generative Fill)'이라는 베타 기능을 사용하면 원하는 이미지라면 무엇이든 (물론 서비스 약관에 따라서) 사진처럼 생생하게 만들어 낼 수 있다고 한다.

그뿐만이 아니다. 지난 1년 사이 수많은 AI 이미지 생성기가 출시되면서 컴퓨터가 원하는 이미지를 만들어 준다는 개념 자체는 이미 많은 이들에게 익숙하다. 포토샵에 추가된 기능은 실재하는 이미지와 만들어 낸 이미지를 쉽게 합성할 수 있고, 이를 넓은 사용자층이 활용할 수 있다는 점에서 새롭다. 마우스와 상상력, 월 10~20달러 정도의 돈만 내면, 전문성이 없어도 누구든 이미지를 교묘하게 편집할 수 있다는 뜻이다. 진짜와 가짜 사이에 그나마 남아있던 경계마저도 지워버릴 수 있을 만큼 '진짜 같은' 이미지를 누구나 만들어 낼 수 있는 것이다.

포토샵을 개발한 어도비는 이러한 위험성을 고려해 디지털로 조작된 사진의 광범위한 배포 문제를 해결하기 위한 대책을 수립하고 있다. 어도비는 생성되는 모든 이미지에 일종의 '영양성분 표시' 같은 정보를 삽입해, AI로 생성된 부분이 있는지를 포함해 해당 이미지가 어떤 편집 과정을 거쳤는지 알 수 있도록 했다.

콘텐츠 진위 이니셔티브(Content Authenticity Initiative)이라는 이름의 이 대책은 디지털 매체의 신뢰도를 높이기 위한 것이다. 가짜 이미지를 매번 알려주는 개념이라기보다, 크리에이터나 출판사가 특정 이미지의 진위를 가릴 수 있도록 해준다. 미래에는 트위터에서 자동차 사고나 테러 공격, 자연재해 사진을 보더라도 해당 이미지가 어떻게 만들어졌고 편집되었는지 보여주는 '증명서'가 없다면 가짜 이미지로 치부할 수 있을지 모른다.

"정부나 언론사는 물론 일반 시민에게도 무엇이 진짜인지 증명할 수 있는가가 중요해질 것입니다."

어도비의 법률 고문이자, 최고 신뢰 책임자인 데이나 라오의 말이다.

"이런 장치가 대중화된다면 중요 정보를 접했을 때 증명서가 없다면 회의적인 태도를 보일 수 있겠죠. 이 사람은 자기 작업물을 증명하지 않기로 했으니 '의심해 봐야겠구나'하고 말이죠."

하지만 여기서 중요한 것은 '대중화된다면'이라는 전제다. 어도비의 대책이 제대로 작동하려면 업계와 미디어가 받아들이고 참여해야 하는데, 포토샵의 AI 기능은 안전장치가 만들어지기도 전에 이미 대중에게 공개되는 중이다. 어도비를 탓하는 것은 아니다. 업계 표준이란 산업이 성숙하고 나서야 받아들여지기 마련이고, 생성 AI는 이제 막 개발돼 선보이는 중이기 때문이다. 그러나 포토샵이 새 기능을 출시하면서 널리 통용되는 표준의 도입이 매우 시급해진 것도 사실이다.

곧 우리 주변에는 진짜 같은 인공 이미지들이 지금보다 훨씬 더 많이 넘쳐날 것이다. 테크 기업들이 하나로 뭉쳐 어도비의 증명 시스템이건 그 비슷한 안전망이건 하루빨리 도입해야 한다. 인공지능이 만들어 내는 이미지가 날로 정교해지는 마당에 시간을 낭비할 여유가 없다.

최근 AI의 발전을 보며 나는 두 가지 생각을 거의 동시에 떠올렸다.

이런 시대를 살게 되다니 멋지군!

이런 시대를 살게 되다니 큰일이다!

지난주 어도비 본사를 방문해서 포토샵의 새 AI 기능을 보고 느낀 기분도 이와 비슷했다. 나중에 직접 프로그램을 사용해 봤는데, 구분할 수 없을 정도로 완벽한 이미지 편집은 아직 불가능하지만, 이만하면 충분하다고 느낀 순간이 많았다. 곧 상용화된다고 해도 놀랄 일이 아니다.

예를 들어보자. 올해 휴가 때 나는 하와이에서 야외 탁자에 앉은 머리가 빨간 새 사진을 찍었다. 괜찮은 사진이었지만, 드라마가 부족했다. 여느 새처럼 그냥 멀뚱멀뚱 앉아있는 새 사진이었기 때문이다.


포토샵의 새 기능을 이용해 탁자 주변에 선택 영역을 그리고 '새가 앉아있는 남성의 팔뚝'이라고 입력했다. 포토샵은 나의 사진과 입력어를 어도비가 올해 웹 애플리케이션으로 출시한 인공지능 이미지 생성 시스템인 '파이어플라이(Firefly)'로 보냈다. 약 30초 후, 수정된 사진이 나왔다. 나무 탁자는 팔뚝으로 변했고, 팔뚝에 닿은 새의 발 부분도 꽤 진짜처럼 그려져 있었다.

프로그램을 갖고 노는 데 정신이 팔려 순식간에 몇 시간이 지나갔다. 포토샵은 하나의 요청에 세 가지 안을 제시하는데 (새 사진 합성안 2번에는 털이 무성한 팔이, 3번에는 지나치게 근육이 발달한 팔이 등장해 약간 부자연스러워 보였다) 만약 셋 다 마음에 들지 않는다면 새로운 이미지를 다시 주문할 수 있다. 결과물이 별로인 경우도 있다. 사람의 얼굴 이미지를 만들어 내는 데는 아직 서툴러서 조금 이상해 보이는 얼굴이 나온다. 매우 특정한 요구에도 약한 편이다. 처음에 팔뚝 피부색을 정해주지 않자, 모든 안에서 창백한 팔뚝을 가져왔고, 내 피부색과 맞추기 위해 갈색 피부를 주문하자, 좀 가짜 같아 보이는 이미지가 나왔다.

그럼에도 포토샵이 요청 사항을 처리하는 솜씨는 놀라웠다. 덧붙인 이미지들은 빛이나 비율, 원근법에 이르기까지 원본의 맥락에 잘 어울렸다. 뉴욕 마천루 사진에 내가 추가한 장난스러운 이미지들을 보라.


말벌과 독수리는 약간 부자연스럽지만, 왕벌과 열기구는 햇빛의 각도를 정확하게 받고 있다. 난간에 추가된 사람들, 건물 사이에 뻗어있는 거미줄 등 작은 이미지들은 진짜라고 해도 믿을 만큼 완벽에 가깝다.

사람이나 사물을 지우는 것도 재미있다. 아래 사진에서는 낙서와 담벼락을 지워버렸는데, 마치 원래 없었던 것처럼 보인다.


자전거 택배원 주변에 보이는 스쿠터 탄 사람과 자동차들도 순식간에 사라지게 만들 수 있다!


파이어플라이 웹 버전에서 만든 이미지들에는 해당 이미지가 AI에 의해 생성되었다는 어도비의 증명서가 붙는 것이 기본 설정이다. 그러나 이번 베타 버전에는 증명서가 자동으로 달리지 않는다. 증명서 기능을 켤 수는 있지만, 그러지 않아도 프로그램을 이용할 수 있다. 어도비는 신기능이 베타 버전을 벗어나면 AI 생성 이미지 태그가 반드시 달리도록 할 것이라고 밝혔다. 반드시 그렇게 돼야 한다. 자격 증명이 없다면 진짜 이미지와 가짜 이미지를 구분하기 위해 어도비가 만들어 놓은 그 모든 대책도 실패로 돌아갈 것이다.

(남은 이야기는 스프에서)