#A기관에서 근무하는 공무원 B씨는 최근 공무원 교육훈련을 받은 후 내야 하는 결과보고서가 골칫거리였다. 훈련을 마친 뒤 업무에 복귀하는 것도 바쁜데, 시간을 쪼개 보고서를 작성하려니 여간 귀찮은 일이 아니었다.
"공무원들은 그런 것도 직접 해야 해? 요즘 인공지능에 맡기면 알아서 다 해주는데 무슨 고민이야" 친구들의 '조언'으로 인공지능(AI)에게 받아본 자료들은 놀라운 수준이었다. B씨가 미처 들어보지 못한 희귀한 통계·사례들을 척척 내놓았고, 근사한 참고문헌들도 곧잘 찾아냈다. 처음에는 죄책감도 들었지만, '내가 직접 인터넷에서 검색해서 쓴 것과 크게 다를 게 없다'고 생각하니 마음도 편했다.
문제는 AI가 건낸 통계·사례·참고문헌이 몽땅 거짓이었는데도, B씨가 이를 확인조차 하지 않고 '복붙'으로 보고서를 작성했다는 것이다. 결국 B씨의 엉터리 보고서는 인사혁신처의 전수 점검에 덜미를 잡혔다.
인사혁신처가 나랏돈으로 국외 교육훈련을 받은 공무원들의 최근 3년치 결과보고서를 전수 점검한 결과, 인공지능(AI)를 무분별하게 사용한 사례들을 실제로 찾아내고 훈련비 환수 등 강경 대응에 나섰다.
더 나아가 인사처는 앞으로 AI가 대거 활용될 시대 변화에 대비해 국내외 교육훈련생들이 지킬 'AI 활용 가이드라인'도 이번에 처음으로 마련했다.
인사처는 이처럼 공무원 교육훈련 결과보고서에서 AI를 부적절하게 활용한 사례를 집중 점검한 결과를 22일 공개했다.
인사처는 최근 3년간 제출된 국외 훈련 결과보고서 1385건을 대상으로 훈련생 개인 자가 점검과 해당 부처의 교차 검증을 거친 보고서들을 상대로 'AI 흔적 검사 프로그램' 등을 동원해 추가 검증한 후, 외부 전문가 심의까지 거쳐 의심되는 45건의 보고서를 윤리위원회에 상정했다.
그 결과 최종적으로는 11건의 보고서에서 명백한 생성형 AI 부적절 활용사례를 발견했다고 판단을 마쳤다.
인사처는 해당 보고서들에서 사실과 동떨어진 내용을 그럴듯하게 지어내는 AI 특유의 환각이 드러났거나, 문헌정보가 일치하지 않거나 확인이 불가능한 경우, AI가 자주 사용하는 이모지·특수기호 등을 사용하는 등 AI를 부적절하게 활용한 사례가 분명하게 드러났다고 지적했다.
인사처는 해당 교육생들에 대해 해당 부처에 명단을 통보할 뿐 아니라, 현행 규정상 표절에 해당한다고 판단해 지급됐던 월 체재비의 4배에 해당하는 금액도 환수하기로 결정했다.
아울러 인사처는 이번 점검 결과를 토대로, 공무원들이 훈련 결과보고서를 작성할 때 손쉽게 참고할 수 있는 '생성형 인공지능 활용 지침'을 마련해 모든 부처에 배포했다. 또 위와 같은 '부적절한 인공지능 활용사례' 점검 결과도 함께 부처들에게 공개할 방침이다.
인사처는 이미 챗GPT, 제미나이 등 생성형 AI가 자료수집이나 번역 등 교육훈련 과정에서도 널리 활용되고 있지만, 정작 명확한 사용 기준이 없는 점에 주목해 관련 문제를 예방하기 위해 이번 지침서를 작성했다고 설명했다.
이에 따라 지침서는 교육훈련 등 연구 과정에서 AI을 보조적 도구로 사용한다는 전제 아래, 비판적 시각에서 활용하되 최종 책임은 훈련생 자신에게 있다는 인식을 심어주는 데 방점을 뒀다.
지침이 강조하는 7가지 기본원칙을 살펴보면 △연구 내용의 진실성 추구 △활용 사실의 투명한 공개 △공정성 유지 △윤리적 활용 △비판적 시각 △개인정보보호 등이 담겼다.
인사처는 다수의 연구기관 및 대학 등의 유사한 지침들을 분석하고, AI 연구 윤리 전문가들의 자문을 거쳐 이번 지침을 완성했다고 소개했다.
특히 지침서에는 훈련생의 이해를 돕기 위해 구체적인 위반사례 예시와 함께, 자가 진단 점검표도 담아서 누구나 손쉽게 자신의 훈련보고서가 AI를 잘못 활용한 것은 아닌지 확인할 수 있도록 했다.
인사처는 부적절한 AI 활용 사례들이 다시 발생하지 않도록 지침서를 전 부처에 배포하는 한편, 위반사례 및 자가점검표를 포함한 지침서를 인재개발정보센터 홈페이지에도 공개할 계획이다.
특히 훈련생들의 연구 윤리 인식을 높이도록 사전에 e러닝 과정을 이수하도록 의무화하고, 참고문헌 인용 방식도 표준화할 계획이다. 이를 위해 인사처는 훈련기관 지정양식이 따로 없는 경우에는 사회과학분야에서 널리 활용되는 미국심리학회(APA) 스타일을 쓰도록 권장할 방침이다.
특히 교육훈련심의위원회가 표절 여부나 AI 활용에 있어 연구윤리 위반 여부 등에 관해 훈련성과를 평가할 때, 연구윤리 전문가를 1명 이상 포함해서 평가하도록 개선했다.
인사처 김성훈 차장은 "이번 지침을 통해 공무원들이 교육훈련 과정에서 책임 의식을 갖고 인공지능을 올바르게 사용할 수 있게 되길 바란다"며 "공무원 교육훈련이 성과를 창출할 수 있도록 지속적으로 관리를 강화해 나가겠다"고 말했다.