<앵커>
정부는 '국제 전문가'를 양성할 목적으로 매년 공무원들에게 해외 연수 기회를 제공합니다. 한 해 600명 넘는 공무원이 해외 연수를 받고 와서 보고서를 써냅니다. 저희가 지난해 1월부터 1년여간의 '국외훈련보고서' 481건을 모두 분석했습니다. 그 결과, 보고서 대부분을 AI로 짜깁기한 보고서들이 무더기로 확인됐습니다.
먼저 노유진 기자입니다.
<노유진 기자>
보건복지부의 한 과장급 공무원이 쓴 보고서, 영국 옥스퍼드에서 1년간 연구한 내용이라며 제출됐습니다.
그런데 시작부터 문제가 드러납니다.
국내 1인 가구 연구 동향을 설명하면서 특정 학자들의 논문을 인용하는데, 확인해 보니 존재하지 않는 논문입니다.
이 보고서의 참고문헌 중 이처럼 실재하지 않는 논문은 최소 6편.
모두 AI가 만들어낸 가짜 정보입니다.
[김은주/경기도미래세대재단 정책연구단장 : 강의를 하거나 발표를 하거나 이런 적은 있는데, 통합 사례 관리라는 형태로 논문을 쓰거나 그런 적은 없어요.]
AI가 그럴듯한 정보들을 짜깁기해 존재하지 않는 내용을 보여주는 이른바 '환각' 현상입니다.
실제 논문과 저자, 내용까지 비슷하게 꾸며 낸 겁니다.
보고서를 쓴 해당 과장을 직접 찾아갔습니다.
처음엔 청사 1층으로 내려오겠다고 했지만 1시간가량 기다려도 나타나지 않았고, 결국 문자로 답을 해왔습니다.
AI로 보고서를 썼느냐는 질문에 처음엔 내용 확인에 AI를 쓰고, 직접 검증했다고 밝혔지만 가짜 논문들에 대해 묻자 사실관계가 명확하지 않은 문헌은 삭제하겠다고 답했습니다.
최소한의 확인도 없이 보고서를 제출한 겁니다.
[김부근/중앙대학교 AI학과 교수 : 환각문제는 아직까지 완벽하게 잡히지 않았습니다. 좀 많이 일어나는 편입니다. 저희도 논문 찾다 보면 한 10번에 한 번 정도는 거짓 논문이 나오는 것 같아요.]
AI 사용 여부 판별 프로그램으로 분석한 결과, 이 보고서는 전체의 81%가 AI 작성으로 의심된다는 결과가 나왔습니다.
문제는 이런 사례가 한 두건이 아니란 점입니다.
지난 1년여간 제출된 연구보고서 481건을 모두 분석했더니, 절반 이상을 AI가 작성한 걸로 보이는 보고서만 82건이었습니다.
(영상취재 : 설민환, 영상편집 : 최혜영, VJ : 김준호, 디자인 : 서승현)
---
<앵커>
지난해 공무원 해외연수에 투입된 예산은 430억 원입니다. 매년 막대한 세금이 들어가는데 보신 것처럼 결과물은 허술했습니다. AI가 쓴 내용을 그대로 복사해 붙여 넣은 흔적들은 여러 보고서에서 발견됐지만 정부는 걸러내지 못했습니다.
이어서 배여운 기자입니다.
<배여운 기자>
AI가 보고서를 썼다는 걸 보여주는 결정적 흔적들은, 여러 보고서에서 확인됩니다.
대표적인 게 단어 양옆에 붙은 별표 두 개입니다.
GPT나 제미나이 같은 생성형 AI가 문구를 강조할 때 쓰는 특유의 기호입니다.
AI의 답변을 그대로 복사해 붙여 넣다 보니 남게 된 흔적입니다.
별표를 지우는 최소한의 조치조차 없었던 겁니다.
SBS가 국외훈련보고서 481건을 전수 조사했더니, 이렇게 별표 표시가 고스란히 남아 있는 보고서만 37건.
한 보고서에선 이런 패턴이 무려 6번이나 반복됐습니다.
참고문헌은 가짜가 수두룩하고, AI가 답변 끝에 덧붙이는 이모지조차 지우지 않은 보고서까지 있습니다.
아예 본문을 통째로 AI에게 맡긴 게 아니냔 의구심이 드는 대목입니다.
[황의원/이화여대 컴퓨터공학과 교수 : LLM(거대언어모델)이 학습한 데이터 중에 뭐 SNS나 블로그 같이 그런 이모지나 별표가 쓰이는 그런 데이터들을 학습했을 거라 추측이 되고요. 사실 저희가 보통 그런 걸(이모지) 쓰지 않잖아요.]
보고서 작성자는 AI의 도움을 많이 받았다고 인정했습니다.
[국외훈련 보고서 작성 공무원 : AI의 도움을 좀 많이 받은 것도 있긴 합니다. 그런 부분들 수정해서 보완하겠습니다.]
인사혁신처는 이런 엉터리 보고서들을 걸러내지 못하고 있습니다.
보고서 제출 시 표절률만 검증할 뿐 AI 작성 여부는 심의하지 않기 때문입니다.
[인사혁신처 관계자 : 그 보고서도 다 지도 교수님이나 슈퍼바이저가 1차적으로 검증을 한 결과물이라서 심의를 하고 올려라, 이렇게 제출해라 그렇게는 안 하고 있습니다.]
올해 공무원 국외훈련 예산은 지난해보다 100억 가까이 는 530억 원입니다.
세금은 늘었지만 검증 장치는 여전히 비어 있습니다.
(영상취재 : 설민환, 영상편집 : 김종태, 디자인 : 김예지)