[멋진 신세계, AI]③"AI가 생성한 데이터를 AI가 학습…챗봇 5개 중 2개 오류"

AI 기술 발전의 이면에는 가짜 뉴스가 자리하고 있습니다.

생성형 AI 등을 이용해 실제 뉴스와 구분하기 어려울 정도로 정교하게 만든 가짜 뉴스가 폭발적으로 증가하고 있는 겁니다.

미국 주요 단체들은 허위정보의 확산을 막기 위해 딥페이크를 활용한 가짜뉴스를 실시간으로 추적하고 검증하는 시스템을 구축해나가고 있습니다.

전 월스트리트 저널 발행인 고든 크로비츠가 설립한 뉴스가드도 그중 하나입니다.

[신뢰할 수 없는 소셜 미디어 계정이나 우리가 이전에 가짜 뉴스를 퍼뜨린다고 평가한 웹사이트에서 딥페이크로 보이는 동영상이나 이미지가 공유되면, 우리의 분석가들이 이를 검토하고, 탐지 도구와 기타 방법을 사용해 그것이 진짜인지 아닌지 확인합니다.]

뉴스가드가 매달 발간하는 AI 모니터 리포트는 챗GPT, 구글 제미나이 등 대표적인 생성형 AI의 허위 답변을 분석해 공개합니다.

[(최근 보고서에서) 10개의 주요 생성형 AI 모델이 38.3%의 오류율을 보였다는 결과가 나왔습니다. 이 오류율은 잘못된 정보를 포함하거나 프롬프트에 응답을 거부하는 비율을 나타냅니다.]

질문에 따라 오류율, 즉 응답하지 못하거나 거짓 답을 하는 경우가 더 많기도 합니다.

러시아의 포격으로 우크라이나에 있던 스웨덴 교사가 사망했다는 가짜 뉴스에 대해, 빅테크의 AI 챗봇 10개 중 6개가 '사실'이라고 답했습니다.

왜 이런 일이 일어날까?

AI 시스템이 자신이 생성한 데이터를 다시 학습하면서 누적되는 오류, 이른바 'AI 루프 학습' 현상 때문입니다.

[우리는 많은 챗봇이 가끔 AI가 생성한 웹사이트와 그들의 응답을 인용한다는 것을 발견했습니다. 이 웹사이트들이 챗봇에 의 해 만들어지고, 다시 챗봇들이 이 사이트들을 인용하는 경우도 있는 겁니다.]

AI로 만들어진 웹사이트, 사람의 감독 없이 운영되는 이런 사이트들은 확인된 것만 1천 개가 넘습니다.

[인간의 감독이 거의 없거나 전혀 없는 AI에 의해 운영되는 정보 사이트들이 있으며, 이들 사이트는 AI를 사용한다는 사실을 공개하지 않고 있습니다. 전통적이고 오랜 역사를 가진 뉴스 매체로 자신을 소개하고 있는 겁니다. 우리는 이 러한 유형의 웹사이트를 주마다 추적하며, 다양한 언어로 검색하여 이들이 나타날 때마다 확인하고 있습니다. 현재 그 수는 1000개가 넘습니다.]

한글 사이트도 있습니다.

[우리는 한글 사이트가 사용하는 챗봇이 여러 언어를 지원하지 못했기 때문에 대부분의 콘텐츠가 한글임에도 불구하고 오류 메시지는 영어로 게시하고 있다는 점을 발견했습니다.]

AI가 만든 창작물을 AI가 다시 학습하고 그 과정이 반복되면서 진실과 거짓을 가리는 일은 더 어렵고 번거로워졌습니다.

[우리 시대의 큰 도전 과제 중 하나입니다. 사람들은 기존 신념과 편견, 의견을 확인해주는 뉴스와 정보를 소비하는 경향이 있습니다. 웹이나 케이블 TV 등을 통해 하루 종일 자신이 이미 동의하는 정보만을 접할 수 있습니다.]

객관적인 사실보다는 개인의 신념과 감정에 따라 판단하려는 경향이 확산하는 세상, 뉴스가드는 믿을 수 있는 사이트의 정보를 제공하면서 진짜와 가짜를 구분하는 방법도 교육하고 있습니다.

[소비하는 정보에 대해 판단을 내릴 수 있는 기본적인 방법에 대해 가르치는 겁니다. 무언가가 진짜일 수 있다는 신호는 무엇이고 숨겨진 의도가 있을 수 있다는 징후는 무엇인지 이런 것들이요.]

다만, 교육보다 중요한 건 가짜뉴스에 대한 경각심을 높이고 스스로 정보의 진위를 판단할 수 있는 능력을 키우려는 의지라고 강조합니다.

※ 본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.

(취재 : 엄민재, 영상취재 : 황인석, 영상편집 : 원형희, CG : 최재영, 제작 : 디지털뉴스편집부)