[스프] 챗GPT가 민주주의를 장악하는 경로

*네이선 샌더스(Nathan E. Sanders)는 데이터 과학자다. 브루스 슈네이어(Bruce Schneier)는 기술 보안 전문가다.
챗GPT는 세상에 선보인 지 불과 몇 주 만에 사람의 글쓰기와 소통 방식 자체를 근본적으로 뒤바꿔놓고 있다. 이메일, 대학교 에세이는 말할 것도 없고, 세상의 수많은 문장, 댓글, 코딩까지 언어로 된 표현이라면 뭐든 챗GPT는 깜짝 놀랄 만한 결과물을 내놓았다.

챗GPT는 오픈 에이아이(OpenAI)라는 회사가 만든 챗봇 프로그램이다. 명령문을 입력하면 미리 학습한 데이터를 바탕으로 답변을 내놓는데, 종종 기계가 내놓은 답이라고는 믿기 어려울 만큼 사람이 쓴 문장 같아서 섬뜩할 정도다.

사람들은 기계가 곧 사람 대신 시를 쓰거나 시트콤의 대본을 쓰는 미래를 걱정한다. 하지만 정작 훨씬 더 큰 위협은 따로 있다. 바로 인공지능이 사람이 만든 민주주의 제도와 그 절차를 장악하는 일이다. 민주주의 제도의 약한 고리는 선거보다도 로비다.

챗GPT는 정부가 새로운 법이나 규제를 만들 때 그에 관한 댓글을 자동으로 생성할 수 있다. 지역 신문에 편지를 보내 독자 기고난을 가득 채울 수도 있다. 온라인에 올라오는 기사마다 달라붙어서, 또 수많은 블로그와 소셜미디어 포스팅에 하루 종일 댓글을 다는 일도 챗GPT에게는 식은 죽 먹기다. 러시아 정부가 비밀리에 운영하는 해커 기관이 2016년 미국 대선에 개입하려고 한 공작을 흉내 낼 수도 있다. 심지어 러시아 정부는 수백만 달러를 들여 해커 수백 명을 고용하고 관리해야 했지만, 챗GPT에 드는 비용은 공짜나 다름없다.

자동으로 생성된 댓글은 사실 어제오늘의 문제가 아니다. 우리는 이미 오랫동안 자동으로 콘텐츠를 생산하는 기계 '봇(bot)'과 술래잡기해오고 있다. 5년 전 연방통신위원회(FCC)가 망 중립성(net neutrality)에 관한 규제 초안을 공개하고, 이에 관한 의견을 수렴했을 때 접수된 댓글 중 최소 100만 건은 봇이 작성한 것으로 추산된다. 지난 2019년에는 하버드 학부생이 저소득층 의료보장 제도인 메디케이드(Medicaid)에 관한 여론을 수렴하는 정부 사이트에 시험 삼아 텍스트 생성기를 이용해 쓴 댓글을 1,001개나 제출했다. 불과 4년 전만 해도 여전히 댓글의 질보다 양이 더 중요하게 여겨지던 때였다.

여러 플랫폼들은 봇이나 이른바 '티 나게 어색한 행위'를 점점 더 잘 걸러내고 있다. 예를 들어 페이스북은 매년 10억 개의 허위 계정을 찾아내 삭제한다. 그러나 자동으로 생성한 메시지나 댓글은 시작에 불과하다. 국회의원의 이메일함을 봇이 쓴 탄원서로 가득 채우거나 기계음 자동 발신 전화를 이용해 워싱턴 정가의 모든 민원 창구에 전화를 돌리는 방식은 더는 통하지 않는다. 이제는 챗GPT처럼 정교한 인공지능 시스템이 관련 데이터를 학습한 뒤 이를 바탕으로 정책 결정 과정에서 가장 큰 영향을 미칠 만한 의원 등 목표를 먼저 추려낸다. 그러고 나서 해당 의원에게 직접 연락을 취하거나 각종 홍보 행사를 열고, 또 원하는 걸 얻어내고자 치밀한 교섭을 벌인다.

위에서 묘사한 업무를 사람이 하면, 그게 바로 로비(lobbying)다. 유능한 로비스트가 하는 가장 기본적인 업무가 바로 내가 바라는 걸 해줄 수 있는 사람을 잘 선정해서 그 사람에게 원하는 바를 분명히 전달하는 것이다. 그러려면 메시지를 잘 쓰는 게 중요하다. 사람의 글쓰기 상당 부분을 빠르게 대체하고 있는 챗GPT를 지금 당장 로비에 활용할 수 없는 이유는 글쓰기 능력이 부족해서가 아니다. 챗GPT가 스스로 로비 대상을 잘 추려내지 못하기 때문이다. 그런데 인공지능의 도움을 받으면 이 약점을 보완하는 것도 시간문제다.

정치권의 복잡한 역학관계를 훤히 꿰뚫어 보는 시스템에 챗GPT의 글쓰기 능력을 결합하면 무엇을 할 수 있을까? 이 시스템은 우선 법인세든 방위산업 예산이든 특정 정책 분야에 관해 누가 가장 큰 영향력을 행사하는 인물인지 추려낼 수 있다. 그러고 나서 사람 로비스트가 하는 것처럼 현안의 향방이 달린 문제를 다루는 위원회에 속한 어떤 의원이 캐스팅 보트를 쥐었거나 아직 마음을 정하지 못했는지도 추려낸다. 위원회를 통과한 다음 본회의 표결을 앞두고는 원하는 결과를 얻기 위해 자원을 집중해 공들여야 할 여당의 실력자들을 다시 선정한다.

누구한테 어떻게 로비해야 할지, 즉 로비의 대상과 전략이 정해지고 나면 챗GPT와 같은 인공지능 챗봇은 탄원서, 댓글을 포함해 글이 필요한 모든 곳에 쓸 메시지들을 뚝딱 써낸다. 인공지능은 로비 대상만 추려내고, 사람 로비스트가 기존 방식대로 직접 의원에게 정보를 전달할 수도 있다. 핵심은 인공지능과 사람이 힘을 합치면 지금까지는 할 수 없던 로비가 가능해진다는 사실이다. 신문 사설이나 소셜미디어 댓글은 한계가 뚜렷하다. 또 로비 대상을 명확히 추려내는 것만으로는 의미가 없다. 누군가는 직접 로비를 해야 한다.

의사결정 과정을 이해하고 그 과정에서 영향을 미칠 수 있는 대상을 정확히 추려내는 능력을 갖춘 시스템은 이른바 인공지능 해킹(A.I. hacking)을 할 수 있다. 인공지능 해킹이란 사회, 경제, 정치 제도 안에서 취약점을 찾아낸 다음 이를 믿을 수 없이 빠른 속도로 전방위로 공략해 시스템을 장악해 버리는 것이다. 미국 민주주의의 입법 절차는 인공지능 해킹의 대단히 매력적인 표적이다. 정책 결정 과정에 영향력을 행사해 자기한테 유리한 정책을 만들 유인은 누구에게나 있다. 지금은 누가 어디서 자료를 모으고 의견을 취합해 논의하고, 결정을 내리는지와 관련해 많은 데이터가 공개돼 있다. 인공지능이 학습할 양질의 데이터가 풍부하다는 뜻이다. 게다가 인공지능이 직접 로비를 벌이지 않고, 사람 로비스트에게 필요한 자료를 추리고 전략을 짜주기만 한다면, 인공지능의 도움을 받은 로비를 적발해 규제하기도 매우 어렵다.

인공지능이 학습할 수 있는 데이터는 시간이 갈수록 많아지고, 인공지능이 짜주는 전략은 갈수록 정교해질 것이다. 열린 사회는 절차적 투명성을 지향한다. 민주주의 의사결정 과정은 시민이라면 누구나 확인할 수 있도록 기록된다. 또한, 정치인은 자신에게 표를 주는 유권자들의 의견을 경청하고 가능한 한 모든 의견을 반영하고자 한다. 적어도 원칙은 그렇다.

인공지능은 아마도 어떤 의원에게 지도부의 마음을 움직일 만한 영향력이 있는지, 그런데 대중들에게는 아직 그 사실이 잘 알려지지 않았는지 등을 모두 파악할 수 있게 될 것이다. 그러고 나서 해당 의원에게 가장 큰 영향력을 행사하는 슈퍼팩(SuperPAC, 옮긴이: 정치적인 의제에 관해 정치자금을 무제한으로 모을 수 있는 단체)이나 시민단체를 콕 집는다. 한 걸음 더 나아가 후원금을 얼마나 내면 목표한 단체를 움직일 수 있는지 계산하거나 목표 의원들에게 가장 효과적으로 메시지를 전달하는 광고나 캠페인을 직접 제작할 수도 있다. 사안마다 누구의 마음을 사면 되는지 알아내는 능력, 누구의 마음을 사려면 정확히 어떤 메시지를 언제 내야 하는지 아는 능력은 아주 귀한, 그래서 무척 비싼 능력이다.

인공지능의 능력을 장착한 로비가 현재 워싱턴 정가를 움직이는 값비싼 로비 회사들의 로비보다 특히 위협적인 이유는 인공지능에 브레이크를 달 방법이 (지금으로선) 없기 때문이다. 사람 로비스트는 수십 년간 쌓은 경험과 지혜를 토대로 원하는 정책적 결과를 얻기 위해 필요한 전략을 세운다. 이런 전문성은 흔하지 않고, 희귀한 만큼 비싸다.

적어도 이론적으로 인공지능은 이 비싼 임무를 훨씬 싼 값에, 훨씬 더 빨리 해낼 수 있다. 특정 사안이나 정책에 관한 여론이나 언론의 시각은 비교적 순식간에 형성되고, 한번 굳어지면 좀처럼 바뀌지 않는 세상이다. 세간의 관심을 끌고자 하는 수많은 일이 끊임없이 벌어지는 상황에서 한 사안에 빠르게 전략을 세워 대응할 수 있다는 건 무척 귀한 능력이다.

사안별로 맞춤형 전략을 빨리 짤 수 있는 것도 대단하지만, 인공지능의 유연성은 또 다른 엄청난 능력이다. 즉 인공지능을 이용하면, 다양한 정책에 관해 수많은 층위에서 동시에 적용할 수 있는 로비 전략을 짤 수도 있다. 인공지능 기반 로비 회사는 현재 미국 의회에서 논의되는 모든 법안에 원하는 조항을 삽입하기 위해 필요한 전략을 짤 수 있다. 연방 의회는 물론이고, 50개 주 의회까지 범위를 넓혀도 된다. 현재 사람 기반 로비 회사들은 연방 의회만 전문으로 하거나 특정 주에서의 사안별 로비에 특화돼 있다. 주마다 법과 절차, 정치 지형이 제각각이므로, 어디서나 통하는 로비 전략을 사람이 짜는 건 사실상 불가능한 일이었다. 그런데 인공지능은 이 모든 차이와 변수를 고려해 어디서는 큰 원칙을 따르고 어디서는 예외를 적용해 접근할지 계산해 낸다.

챗GPT의 등장으로 교사가 학생에게 시험과 과제를 어떻게 낼지 새로 고민하게 된 것처럼 이제 정부도 로비스트와 관계를 다시 설정하는 데 있어 챗GPT가 불러온 변화를 염두에 둬야 한다.

인공지능 챗봇이 민주주의에 미치는 긍정적인 영향력도 물론 있을 것이다. 당장 접근성이 좋아질 것이다. 지금은 아무나 로비 회사를 고용하고 로비스트를 쓰지 못한다. 돈이 어마어마하게 들기 때문이다. 그런데 인공지능을 이용해 로비 전략을 짜주는 소프트웨어가 생긴다면 누구나 로비를 할 수 있게 된다. 로비의 진입장벽이 낮아지는 셈이다. 잘하면 평범한 시민들도 인공지능 전략을 활용해 민주주의 절차에 더 많이 참여하고, 민주주의가 더욱 공고화되는 이상적인 결과가 날 수도 있다.

**'보러가기' 버튼이 눌리지 않으면 해당 주소를 주소창에 옮겨 붙여서 보세요.