연합뉴스정부는 앞으로 국가연구개발 과제나 논문 심사에서 이른바 '은닉 프롬프트' 등으로 평가를 왜곡하려는 시도를 연구부정행위로 판단하기로 했다. 정상적인 심사를 방해하면 관련 법령에 따라 제재받을 수 있다.
과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 이런 내용의 '국가연구개발 AI 연구윤리 가이드'를 확정했다고 20일 밝혔다.
과기정통부는 이번 가이드가 AI 활용을 규제하기보다 연구자가 AI를 윤리적으로 사용하도록 돕는 권고 기준이라고 설명했다.
가이드에는 연구자가 은닉 프롬프트 등을 이용해 정당한 심사 기준을 피하거나 평가를 왜곡해서는 안 된다는 내용이 담겼다. 은닉 프롬프트는 AI의 판단에 영향을 주기 위해 연구계획서나 논문 등에 숨겨놓은 지시문을 뜻한다.
연구 과정 전반에 대해서는 사실관계 검증과 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 관련 규정 준수, 보안 확보, 개인정보 보호 등 7대 권고사항을 제시했다.
AI를 활용했다면 최종 결과물을 제출하거나 발표할 때 사용한 모델과 버전, 활용 목적과 범위 등을 공개하도록 권고했다. 개인정보가 포함된 자료는 AI 서비스에 입력하지 말고, 보안이 필요한 연구에는 기관이 허가한 도구를 사용해야 한다는 원칙도 제시했다.
AI의 역할은 문헌 조사와 번역, 기초 코딩, 데이터 정리 등을 돕는 도구로 제한했다. AI는 저자나 발명자로 인정되지 않으며, 연구 결과물에 대한 최종 책임과 권리는 연구자에게 돌아간다.
평가자가 지켜야 할 AI 활용 원칙도 따로 담았다. 연구계획서와 결과보고서, 논문 등 평가 대상 자료는 외부 AI에 입력하지 않는 것을 원칙으로 했다. 보안사항이나 개인정보가 유출될 우려가 있어서다.
AI를 보조적으로 활용할 때도 최종 판단은 평가자가 직접 내려야 한다. AI 결과를 별도의 검토 없이 받아들이면 전문가 평가의 취지와 공정성을 해칠 수 있다는 설명이다.
영문기사 보기 (View English Article)