'AI 엉터리 보고서' 버젓이 정부 공식 사이트에

<앵커>

더 심각한 문제는, 이런 허위 정보가 담긴 보고서들이 정부 사이트에 공개돼, 마치 정부의 공식 기록처럼 국민들에게 그대로 전달되고 있다는 겁니다. 여기에 AI로 보고서를 쓰는 과정에서 중요한 정보가 외부로 유출될 수 있다는 보안 문제까지 지적되고 있습니다.

이어서 배여운 기자가 취재했습니다.

<기자>

북한 인권 증진 전략을 다룬 통일부 공무원의 국외훈련 보고서.

본문에 인용했다고 밝힌 '북한 보건 상황' 자료의 인터넷 주소로 직접 접속해 봤습니다.

하지만 정작 화면에 나타난 건 태국 보건 정책 문서입니다.

출처를 확인할 수 없거나 존재하지 않는 문헌도 여럿 발견됐습니다.

대북 정책을 다루는 주무 부처 보고서조차 검증되지 않은 정보에 기대 작성된 겁니다.

[공무원A/통일부 과장 : AI를 쓴 거는 맞아요. 자료를 서칭하고 하는 부분에서 AI를 활용하지 않는 분이 어디 있겠어요? 거르지 못한 부분들은 아무튼 그거는 제 잘못입니다.]

문제는 이런 보고서들이 누구나 열람할 수 있는 정부 사이트에 게시된다는 겁니다.

가짜 정보가 공식 문서의 외피를 입고 확산될 수 있는 구조입니다.

여기에 심각한 보안 우려까지 제기됩니다.

해외에 서버를 둔 AI에 정부 내부 자료나 정책 내용을 입력할 경우 민감한 정보가 외부로 흘러 나갈 가능성을 배제할 수 없습니다.

[황의원/이화여대 컴퓨터공학과 교수 : 유저가 입력한 데이터도 결국에 학습에 사용될 수 있고, 그게 나중에 다른 유저의 출력으로 나올 수도 있는 문제가 있거든요. 대부분의 국내나 해외 기업들도 사실 생성형 AI 사용을 다 금지하고 있고요.]

실제로 미국에서는 정보 유출을 우려해 미 의회에서 적대국의 AI 사용을 공공 부문에서 제한하는 법안이 상, 하원에 각각 발의된 상태입니다.

공공 영역에서의 AI 활용 범위, 검증 의무 그리고 보안 통제 장치.

지금 필요한 건 그 책임의 기준을 세우는 일입니다.

(영상취재 : 설민환, 영상편집 : 김종태, 디자인 : 김예지, VJ : 김준호)