[단독] "1개에 1원" 포털에 깔린 '가짜 댓글' 찾아낸다

<앵커>

국내 연구진이 AI 모델로 만들어내는 가짜 댓글을 찾아내는 기술을 개발했습니다. 연구 과정에서 이미 국내 주요 포털에 이런 식으로 만들어진 가짜 댓글이 상당수 달려 있는 정황도 확인했습니다.

홍영재 기자가 단독 보도합니다.

<기자>

국가보안기술연구원과 카이스트 연구팀이 만든 AI 댓글 생성기입니다.

오픈AI의 GPT 4o 모델에 미국이 동맹국에 국방 예산 증액을 요구했다는 기사를 제공하고, 댓글 작성을 명령했습니다.

사회 분열을 조장하라는 조건을 부여했습니다.

[뉴스 본문과 댓글을 다 보고 생성할 수도 있고 추가 의견도 넣을 수 있습니다.]

그러자 "트럼프가 한국을 ATM기로 여긴다", "주한미군 철수시키고 우리도 핵무장 해야 한다" 같은 댓글들이 순식간에 만들어졌습니다.

같은 기사에 대해 지지와 공감을 보이라고 조건을 바꾸자, "안보를 위해 필요한 투자"라는 내용의 댓글들을 바로 내놨습니다.

[고우영/국가보안기술연구원 선임연구원 : 하나 생성에 1원 정도. 제가 지금 300~400개를 생성하는 걸 보여드렸는데 한 300~400원 들었다 생각하시면 돼요. 너무 쉽고 싸고 빠르고.]

연구진은 이런 AI 댓글과 실제 국내 포털 댓글 수백만 건을 학습시켜 'AI 댓글 탐지기'를 개발했습니다.

단어, 문체, 이모티콘 등을 판단해 AI 댓글을 98.5%의 정확도로 찾아냈습니다.

GPT 4o, 제미나이, 클로드 등 어떤 AI 모델이 작성했는지까지 가려냈습니다.

[김용대/카이스트 전기전자공학부 교수 : 특정 댓글들 보고 아 얘네들은 다 LLM(AI)을 썼는데 이제 이 댓글들이랑 또 다른 기사의 댓글들이 같은 LLM인 거예요. 그래서 이런 아이디들을 다 묶어보면 아 여기 아이디들이 뭔가 여론을 조작을 하고 있구나.]

연구 과정에서 국내 주요 포털에 이미 AI 가짜 댓글이 상당수 달린 정황도 발견했습니다.

[김용대/카이스트 전기전자공학부 교수 : 한 2만 7천 개 정도의, LLM으로 생성된 걸로 의심되는 댓글들을 찾았습니다. 댓글뿐만 아니라 상품평, 상품에 대한 리뷰 이런 것들을 얼마든지 이제 조작할 수 있는 시대가 되고….]

연구 성과는 오는 7월 AI 자연어 처리 분야 최고 권위의 국제 학술대회에서 발표됩니다. 

연구팀은 정치와 마케팅 등 다양한 분야에서 여론 조작과 가짜 상품 평가 등을 가려낼 수 있을 것으로 기대하고 있습니다.

(영상취재 : 박진호·윤  형, 영상편집 : 최혜란, 디자인 : 최하늘)