https://naver.me/xB72wp8l

공무원들이 세금으로 해외 연수를 다녀온 뒤 작성하는 '국외훈련보고서'의 상당수가 인공지능으로 쓴 엉터리였다고 어제(10일) 보도해 드렸습니다.

-

캐나다 연수 이후 저출산 극복 방안을 다룬 보고서입니다.

참고 문헌에 학자들의 논문이 줄줄이 등장하지만 존재하지 않는 자료가 수두룩합니다. 저자로 언급된 교수들조차 AI가 여러 연구를 짜깁기해 만든 가짜 연구물이라고 말합니다.

[국외훈련보고서 작성 공무원 : (AI 쓰신 건 맞나요?) 일부는 좀 그런 부분이 있는데, 인정을 할 수밖에 없는데 전체적으로 그렇다는 건 당연히 아니고요.]

제가 같은 주제인 저출산 인구 부족 현상에 대한 극복 방안을 가지고 AI를 통해서 연구보고서를 한 번 써보겠습니다.
결론과 참고문헌을 쓰는데 단 36초가 걸렸습니다.

참고문헌을 보면, 이 분야 유명한 학자들이 쓴 논문들이 나왔는데요. 이 논문들이 실제로 검색해 보면 AI가 만들어낸 가짜 논문들이었습니다. 공무원 보고서에 실린 가짜 참고문헌과 저자까지 동일합니다.

AI가 만들어낸 '환각'입니다.

-

국제 AI 학회는 이미 지난 2023년 관련 가이드라인을 마련해 본문 작성에는 AI를 쓰지 않고 첨삭이나 번역 등 보조적 활용만 허용하고 있습니다. 하지만 공무원 국외훈련 보고서의 경우 AI 사용 범위 규정이 전혀 없습니다.

-

더 심각한 문제는, 이런 허위 정보가 담긴 보고서들이 정부 사이트에 공개돼, 마치 정부의 공식 기록처럼 국민들에게 그대로 전달되고 있다는 겁니다. 여기에 AI로 보고서를 쓰는 과정에서 중요한 정보가 외부로 유출될 수 있다는 보안 문제까지 지적되고 있습니다.

이어서 배여운 기자가 취재했습니다.

<배여운 기자>

북한 인권 증진 전략을 다룬 통일부 공무원의 국외훈련 보고서. 본문에 인용했다고 밝힌 '북한 보건 상황' 자료의 인터넷 주소로 직접 접속해 봤습니다.

하지만 정작 화면에 나타난 건 태국 보건 정책 문서입니다.
출처를 확인할 수 없거나 존재하지 않는 문헌도 여럿 발견됐습니다.
대북 정책을 다루는 주무 부처 보고서조차 검증되지 않은 정보에 기대 작성된 겁니다.

[공무원A/통일부 과장 : AI를 쓴 거는 맞아요. 자료를 서칭하고 하는 부분에서 AI를 활용하지 않는 분이 어디 있겠어요? 거르지 못한 부분들은 아무튼 그거는 제 잘못입니다.]

문제는 이런 보고서들이 누구나 열람할 수 있는 정부 사이트에 게시된다는 겁니다. 가짜 정보가 공식 문서의 외피를 입고 확산될 수 있는 구조입니다.

여기에 심각한 보안 우려까지 제기됩니다.

해외에 서버를 둔 AI에 정부 내부 자료나 정책 내용을 입력할 경우 민감한 정보가 외부로 흘러 나갈 가능성을 배제할 수 없습니다.

[황의원/이화여대 컴퓨터공학과 교수 : 유저가 입력한 데이터도 결국에 학습에 사용될 수 있고, 그게 나중에 다른 유저의 출력으로 나올 수도 있는 문제가 있거든요. 대부분의 국내나 해외 기업들도 사실 생성형 AI 사용을 다 금지하고 있고요.]

실제로 미국에서는 정보 유출을 우려해 미 의회에서 적대국의 AI 사용을 공공 부문에서 제한하는 법안이 상, 하원에 각각 발의된 상태입니다.

공공 영역에서의 AI 활용 범위, 검증 의무 그리고 보안 통제 장치.

지금 필요한 건 그 책임의 기준을 세우는 일입니다.

-- 

공무원 보고서나 업무에 ai사용을 제한히거나 규제하는 법이 시급해보입니다.