과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI가 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MoU)을 체결했다고 밝혔다.
이번 협약은 지난해 10월 과기부와 오픈AI 간 체결한 협력 양해각서를 기반으로 AI 안전 분야 협력을 확대하기 위해 추진됐다. 올해 과기부와 오픈AI 고위 관계자 간 논의를 거쳐 AI안전연구소와 오픈AI 간 실질적인 협력 체계를 구축하게 됐다.
양측은 협약을 통해 고위험 분야별 AI 안전 평가 방법론과 벤치마크 관련 지식·모범사례를 공유하고, 한국어 및 한국 사회·문화적 맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환하기로 했다.
또한 국제적으로 활용 가능한 AI 안전 평가 체계 마련을 위해 지속 협력할 계획이다.
오픈AI가 각국 AI안전연구소와 업무협약을 체결한 것은 미국, 영국, 일본에 이어 한국이 네 번째다.
과기부는 이번 협약을 계기로 한국이 최첨단 AI 위험 검증과 평가 기준 마련을 위한 국제 협력 네트워크에서 역할을 강화할 수 있을 것으로 기대한다고 밝혔다.
이진수 과기부 인공지능정책기획관은 "고성능 AI와 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과의 협력과 AI 안전성 평가 체계 고도화가 필요한 시점"이라고 말했다.
김명주 AI안전연구소장은 "고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수"라며 "오픈AI와 함께 최첨단 AI 위험을 과학적으로 검증하고 국제적으로 통용되는 평가 체계 구축에 기여하겠다"고 밝혔다.
오픈AI의 이상현 아시아태평양 지역 정책 총괄은 "한국은 AI 기술 활용과 혁신이 빠르게 이뤄지는 중요한 국가"라며 "고위험 분야 AI 안전성 평가 관련 지식과 모범사례를 공유해 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 기여하겠다"고 말했다.