AI는 선거와 민주주의를 어떻게 흔들고 있나 [스프]

⚡ 스프 핵심요약

딥페이크 기술이 발전함에 따라 이를 활용한 허위 사실 유포가 선거 기간 내 급증하고 있으며, 우리나라는 선거일 90일 전부터 딥페이크 선거 운동을 전면 금지하는 강력한 규제를 시행하고 있습니다.

고령 유권자는 다른 연령층에 비해 딥페이크 영상을 더 신뢰하고 공유하려는 성향이 강해, 한국 사회의 고령화 추세와 맞물려 선거의 핵심적인 변수로 작용할 위험이 있습니다.

AI 챗봇은 데이터와 팩트를 중심으로 유권자를 설득해 짧은 시간 내에 정치적 신념을 변화시킬 수 있지만, 답변 과정에서 정보의 오류나 왜곡이 포함될 가능성이 커 민주주의를 위협하는 요소가 될 수 있습니다.

안녕하세요. 데이터를 만지고 다루는 안혜민 기자입니다. 6.3 지방선거가 끝이 났습니다. AI 생성 이미지와 영상, 그리고 유권자와 대화하는 AI 챗봇까지 AI는 이미 우리 선거 깊숙이 스며들고 있습니다. 오늘 오그랲에서는 AI가 선거와 민주주의에 어떤 영향을 미치고 있는지, 또 어떤 부작용을 낳고 있는지 다양한 데이터와 그래프를 통해 살펴보겠습니다.

진짜보다 더 진짜같은 가짜... 선거를 위협하다
이미지를 생성하고, 영상을 생성하는 AI의 성능이 하루가 다르게 발전하고 있습니다. 예전에는 진짜와 가짜를 구분하는 게 어렵지 않았지만 이제는 구별하기가 어려울 정도로 기술이 발전해서 일단 이상하다 싶으면 AI가 만든 건 아닌지 의심하게 되죠.

지방선거 역시 영향을 받았습니다. 거짓 정보가 담긴 딥페이크 게시물이 선거 기간 동안 논란이 될 정도로 말이죠. 지난 2월, 울산 남구청장 예비후보가 SNS에 이런 게시글을 올렸습니다.

시사주간지 타임이 울산 남구를 이끌 인물로 자신을 선정했다고 게시한 건데요. 선관위에선 바로 이 예비후보에게 딥페이크를 활용한 허위사실 유포 혐의로 고발 조치를 취했습니다. 결국 이 예비후보는 후보직을 사퇴했죠. 그뿐만 아니라 실제 사진처럼 보이는 AI 합성물들이 SNS에 떠돌기도 했어요. 5월 말까지 선관위가 조치한 딥페이크 게시물은 벌써 1만 건에 육박할 정도입니다.

지난 2024년에 치러진 22대 총선에서 선관위가 조치한 딥페이크 게시물은 모두 389건이었습니다. 하지만 작년 대선에서는 그 규모가 10,513건으로 급증했죠. 이번 선거에서는 5월 26일 기준으로 9,998건을 기록하고 있어요.

사실 우리나라는 선거 관련 딥페이크에 대해선 꽤 강력한 규제를 하는 국가입니다. 지난 2023년 12월에 국회에서 공직선거법에 딥페이크 금지 조항을 신속하게 넣어 개정했는데요. 선거일 90일 전부터는 딥페이크 선거운동이 전면 불허됩니다. 만약 이를 어기면 7년 이하의 징역 또는 1,000만 원 이상 5,000만 원 이하의 벌금이라는 강력한 처벌을 받게 되죠.

정부는 AI를 활용한 가짜뉴스에 대해선 무관용 원칙을 강조하고 있어요.

"이제 딥페이크는 단순한 기술 문제가 아니라 민주주의를 위협하는 새로운 정보 범죄가 되고 있는 것입니다."

물론 과도한 규제가 기술 혁신을 막는다는 목소리도 있습니다. 가령 악의적 딥페이크는 막아야 하지만 AI 기술 혁신과 표현의 자유가 보장되어야 한다고 주장하는 사람들도 있거든요. 하지만 해외 주요 선거에서 발생한 딥페이크 논란을 보면 촘촘한 규제의 필요성을 주장하는 정부의 입장도 이해가 안 가는 건 아닙니다. 이를테면 2023년 슬로바키아 총선과 2024년 미국 대통령 선거의 사례가 있죠.

2023년 슬로바키아 총선이 치러지기 이틀 전에 SNS에 진보 슬로바키아당 대표의 음성입니다.

모니카 토도바 | Denník N 기자 : 이번에도 누가 와서 표를 직접 집어넣는 거야?
미할 시메치카 | 진보 슬로바키아당 대표 : 그건 걱정하지 마. 그 문제는 이미 해결됐어.

AI로 생성된 가짜 음성이었지만 SNS에서 급속도로 퍼져나갔고, 결국 진보 슬로바키아당은 여론조사 우위에도 불구하고 친러시아 성향의 SD당에 패배했습니다.

미국에서는 2024년 1월에 가짜 전화 소동으로 난리가 났어요. 민주당의 뉴햄프셔 예비선거 전에 당원들에게 바이든 대통령을 사칭하는 전화가 걸려왔던 건데요. "11월 대선을 위해 투표권을 아껴두라"는 내용이었는데, AI로 만든 가짜였죠. 미 연방정부는 딥페이크 음성을 만든 정치 컨설턴트를 검찰에 넘겼고 600만 달러, 우리 돈 82억 원 가량의 벌금을 부과했어요.

슬로바키아와 미국뿐 아니라 수많은 국가들이 선거에서 딥페이크와 전쟁을 벌이고 있습니다.

2021년 이후 선거 기간 중 딥페이크 사건이 발생한 국가는 모두 38개국입니다. 인구로 따지면 총 38억 명의 유권자가 딥페이크의 영향권에 놓인 셈이죠.

딥페이크에 가장 취약한 유권자는 누구일까?
제대로 된 정보를 갖고 투표를 하고 싶어도 점점 가짜 뉴스들은 고도화되어가고 있습니다. 2024년 말에 발표된 정부 조사를 살펴보면 국민 가운데 41.9%는 딥페이크 가짜뉴스를 진짜와 구별 못한다고 답변할 정도죠. 특히 고령의 유권자들이 더 큰 영향을 받을 수 있습니다.

해외 연구진들이 딥페이크를 사람들이 얼마나 신뢰할만하다고 생각하는지 실험을 진행해 봤습니다. 분석 결과 나이가 많을수록 딥페이크 영상을 더 신뢰할 가능성이 높게 나타났어요. 고령일수록 더 신뢰할 뿐 아니라 가짜라고 판단하는 것도 더 줄었죠. 또 하나 중요한 지점은 나이가 많을수록 이 딥페이크 영상을 다른 사람에게 공유하고 추천하려는 의향도 높게 나타났다는 겁니다. 다만 연구진들은 효과 크기가 유의미하긴 하지만 정도가 아주 강하진 않아서 인과관계로 단정할 순 없다고 말했어요.

이 연구 결과가 우리나라에 유독 아프게 다가오는 건 우리나라의 고령화 비율이 상당히 높기 때문일 겁니다. 일각에서는 투표 인구 가운데 노년층의 비율이 압도적으로 높아지는 이른바 '실버 민주주의' 문턱에 우리나라가 와 있다고 경고할 정도니까요. 이번 지방선거 선거인수 4,464만여 명 가운데 6070 유권자 비율이 얼마나 될까요? 전체의 3분의 1이 넘습니다.

2010년 5회 지선 때만 하더라도 6070의 비율은 채 20%가 되질 않았습니다. 하지만 지난 22대 총선에서 6070 유권자 비율이 처음으로 30%를 넘겨버렸고, 올해는 34. 1%로 유권자 3명 중 1명이 60대 혹은 70대 이상인 겁니다. 다른 연령대보다 딥페이크를 더 신뢰하고 남들에게 더 공유하는 성향이 있는 노년층이 선거에 있어 핵심으로 떠오르고 있는 거죠. 저출생 고령화가 점점 가속화되면 이 6070 유권자의 상승세는 더욱더 빨라질 테고요.

문제는 우리나라의 노년층이 딥페이크 영상이 가득한 유튜브 뉴스를 유독 많이 소비하고 있다는 겁니다. 로이터 저널리즘 연구소가 발표한 2025 디지털 뉴스 리포트 자료입니다.

우리나라 50대와 60대 이상은 유튜브 뉴스 이용률이 50% 넘습니다. 60대 이상에서는 조사국 평균의 2배 이상으로 높게 나오고 있죠.

특이할만한 지점은 우리나라는 정치 성향별로 유튜브 뉴스 이용률이 갈린다는 겁니다. 다른 나라들의 수치를 살펴보면 진보냐 보수냐에 따라 이용률이 크게 갈리지 않아요. 하지만 우리나라는 어떨까요? 우리나라는 보수 성향 이용자들이 63%로 가장 높고, 진보 성향이 43%로 낮았어요. 정치 성향에 따라, 또 연령에 따라 유튜브 뉴스 이용 패턴이 극단적으로 갈리고 있는 겁니다.

6분 대화로 표심이 바뀐다? AI 챗봇이 뒤흔드는 신념
AI가 선거에 미치는 영향이 단순히 가짜 뉴스나 딥페이크에 그칠까요? 아닐 겁니다. 가령 AI 챗봇은 유권자의 정치적 신념을 흔들어서 표심을 직접적으로 제어할 수도 있습니다. 단순히 미래의 가능성이 아니라 이미 실험으로 증명된 내용입니다.

2025년 12월에 네이처에 공개된 논문인데요. 연구진들은 2024년 미국 대선과 2025년 캐나다 총선, 2025년 폴란드 대선이라는 실제 선거를 두고 실험을 진행했습니다. 미국 대선 실험에서는 오픈AI의 모델로 멀티 에이전트를 만들어 사용했고 캐나다 총선에는 오픈AI와 메타 그리고 딥시크의 모델을, 폴란드 대선에서는 오픈AI와 딥시크 모델을 활용해 챗봇을 설계했습니다. LLM이 과연 인간의 정치적 판단에 영향을 미칠 수 있을까요? 오그랲 마지막 그래프를 통해 살펴보겠습니다.

2024년 미국의 대선 직전에 유권자들에게 상대 후보의 정책을 옹호하는 AI 챗봇과 대화를 시켜봤습니다. 딱 6분만 대화했는데 표심 변화는 뚜렷했어요. 친 해리스 챗봇과 대화한 트럼프 지지자들이 해리스 쪽으로 3.90%p 이동했고, 친 트럼프 챗봇과 대화한 해리스 지지자들은 트럼프 쪽으로 1.84(수정수정)%p 이동했던 겁니다. 전통적인 정치 광고에서는 지지자들에게 오히려 역효과를 유발했지만 챗봇은 이렇게 유의미한 변화를 이끌어 냈던 겁니다.

챗봇이 설득력을 높이는 방법은 미사여구나 장황한 서술 같은 게 아니었습니다. 숫자와 데이터, 팩트로 때려 박는 방식이 가장 효과가 좋았죠. 단순 설득 프롬프트에서는 8%p의 신념 변화를 이끌어 냈다면 정보 중심의 프롬프트에선 설득 효과가 11%p로 더 높았어요. 다만 문제는 AI 챗봇이 정보 중심의 글을 생성하면서 정확도가 떨어졌다는 겁니다. 챗봇이 데이터를 많이 생성할수록 답변 속에 섞이는 오류와 왜곡 정보도 함께 늘어났던 거죠.

이게 단순히 실험실에서만 나오는 경고가 아닙니다. 이미 AI 챗봇을 이용한 정치 선전과 공작은 전 세계에 걸쳐서 일어나고 있어요. 오픈AI에서는 2024년에만 르완다, 미국, 인도, 가나, EU의 선거 기간 동안 20개가 넘는 악성 네트워크를 차단할 정도죠. X와 페이스북에서 아제르바이잔을 찬양하고 유럽 각국 정치에 개입하는 댓글을 올리던 150여 개의 계정들도 알고 보니 AI가 생성한 콘텐츠를 퍼뜨리는 공작이었고요.

AI가 우리 사회에 미칠 수 있는 악영향들이 점점 가시화되고 고도화되고 있다 보니 교황청에서도 경고에 나섰습니다.

"저는 편견과 불의로 오염된 데이터를 근거로 의료, 고용, 안전에 대한 접근을 차단할 수 있는 알고리즘에 대한 매우 우려스러운 증언들도 듣습니다."

레오 14세 교황은 '위대한 인간성'이라는 이름의 회칙을 발표하면서 AI 기술 발전으로 인한 불평등 확대와 민주주의 약화, 그리고 인간다움이 훼손될 수 있다고 우려했어요. AI 기업들도 AI 기술이 민주주의에 악영향을 미치지 않도록 안전장치를 도입했다고 밝히고 있긴 합니다. 하지만 그럼에도 불구하고 여전히 할루시네이션은 등장하고 있고, 우리가 AI가 생성한 결과물을 완벽하게 통제할 수 없다 보니 한계가 있죠.

이번 선거뿐 아니라 앞으로 치러질 모든 선거에서 우리는 점점 더 발전된 AI와 함께하게 될 겁니다. 기술에는 언제나 빛과 그림자가 존재합니다. AI 역시 마찬가지일 겁니다.

선거 운동을 효율화하고, 유권자에게 더 많은 정보를 제공할 수 있는 밝은 면이 있는 반면에, 가짜 정보를 퍼뜨리고 유권자의 판단을 흐리는 어두운 면도 분명히 존재하죠. 그림자를 줄이고 빛을 키워나가는 건 기술 기업만의 몫도, 정부만의 몫도 아닐 겁니다. 기업과 정부, 그리고 우리 사회가 함께 AI가 민주주의를 위협하지 않도록 끊임없이 감시하고 대응해야 하지 않을까요? 오늘 준비한 오그랲은 여기까지입니다. 긴 글 끝까지 읽어 주셔서 진심으로 감사드립니다.

참고자료
- 선거 기간 중 딥페이크 사건 발생 | Surfshark
- 연령대별 선거인수 변화 | 행정안전부
- 최근 선거 딥페이크 게시물 조치 현황 | 중앙선거관리위원회
- 연령대별, 정치 성향별 유튜브 뉴스 이용률 | Reuters Institute Digital News Report 2025
- Development and Validation of the Perceived Deepfake Trustworthiness Questionnaire (PDTQ) in Three Languages | Plohl, N. et al. (2025)
- Persuading voters using human–artificial intelligence dialogues | Lin, H., Czarnek, G., Lewis, B. et al. (2025)
- ENCYCLICAL LETTER MAGNIFICA HUMANITAS | The HOLY SEE

글 : 안혜민 디자인 : 안준석 인턴 : 김수영