직접 써 보니…결론·참고문헌까지 '단 36초'

<앵커>

공무원들이 세금으로 해외 연수를 다녀온 뒤 작성하는 '국외훈련보고서'의 상당수가 인공지능으로 쓴 엉터리였다고 어제(10일) 보도해 드렸습니다.

그렇다면 이런 '그럴듯한 가짜'는 어떻게 만들어지는 건지, 노유진 기자가 직접 AI로 보고서를 써봤습니다.

<기자>

캐나다 연수 이후 저출산 극복 방안을 다룬 보고서입니다.

참고 문헌에 학자들의 논문이 줄줄이 등장하지만 존재하지 않는 자료가 수두룩합니다.

저자로 언급된 교수들조차 AI가 여러 연구를 짜깁기해 만든 가짜 연구물이라고 말합니다.

[국외훈련보고서 작성 공무원 : (AI 쓰신 건 맞나요?) 일부는 좀 그런 부분이 있는데, 인정을 할 수밖에 없는데 전체적으로 그렇다는 건 당연히 아니고요.]

제가 같은 주제인 저출산 인구 부족 현상에 대한 극복 방안을 가지고 AI를 통해서 연구보고서를 한 번 써보겠습니다.

결론과 참고문헌을 쓰는데 단 36초가 걸렸습니다.

참고문헌을 보면, 이 분야 유명한 학자들이 쓴 논문들이 나왔는데요.

이 논문들이 실제로 검색해 보면 AI가 만들어낸 가짜 논문들이었습니다.

공무원 보고서에 실린 가짜 참고문헌과 저자까지 동일합니다.

AI가 만들어낸 '환각'입니다.

AI는 방대한 데이터를 학습해 다음에 올 말을 확률적으로 예측하는 모델입니다.

답을 모르는 질문이 들어와도 가장 그럴듯한 문장을 조합해 '답처럼 보이는 결과'를 만들어냅니다.

[황의원/이화여대 컴퓨터공학과 교수 : 인공지능 자체가 전반적으로 약간 통계적인 모델이라고 볼 수가 있고, 이 통계적인 모델에서는 사실 가장 확률이 높은 것을 출력하도록 되기 때문에 사실이 아니더라도 그럴듯하면 생성이 되는….]

존재하지 않는 논문에 권이나 호수, 페이지까지 나오는 이유입니다.

때문에 AI를 활용해 보고서를 작성하려면 교차 검증은 필수입니다.

국제 AI 학회는 이미 지난 2023년 관련 가이드라인을 마련해 본문 작성에는 AI를 쓰지 않고 첨삭이나 번역 등 보조적 활용만 허용하고 있습니다.

하지만 공무원 국외훈련 보고서의 경우 AI 사용 범위 규정이 전혀 없습니다.

AI 시대, 효율은 선택이 아니라 흐름일 수 있습니다.

하지만 최소한의 기준 없이 사용된다면 연구는 순식간에 자동 생성 문서로 전락할 수 있습니다.

(영상취재 : 설민환, 영상편집 : 최혜영, VJ : 김준호)