과기정통부와 서울시 등 공공기관이 유사한 학습용 데이터를 마구 만들거나 인공지능 학습에 필수적인 정보가 누락된 데이터를 구축하는 등 품질 관리가 제대로 되지 않고 있는 것으로 드러났다.
감사원은 "쓸 만한 데이터가 없다는 AI 기업의 호소" 등을 반영해 실시한 '인공지능산업 육성실태(AI 학습용 데이터)' 감사결과를 12일 발표했다.
감사원에 따르면 과학기술정보통신부는 기업들이 데이터를 바로 사용할 수 있도록 한다는 취지에서 지난해 11월 908종의 학습용 데이터를 구축해 AI 허브에 공개 중이고, 식약처와 서울시 등 26개의 개별기관도 313종을 구축해 포털에 공개한 바 있다.
그런데 각 기관이 이미 구축된 데이터에 대한 확인 없이 사업을 수행해 유사 데이터를 구축한 사례가 다수 확인됐다.
야생동물·생활폐기물·콘크리트 균열·계란 등 이미지 데이터 4종은 과기부가 73억여원을 들여 학습용 데이터를 구축했는데, 이후 서울시와 도로공사 등 5개 기관이 유사 데이터를 새로 구축했다.
알약과 구강, 자율주행 등과 관련한 데이터 3종의 경우 2021년부터 3년 동안 과기정통부가 233억 원을 들여 학습용 데이터를 구축했는데, 이 기간에 식약처 등 3개 기관도 유사 데이터를 별도로 구축했다.
감사원은 확인 없이 유사 데이터를 구축해 예산집행의 효율성이 떨어지고 사용자에게 혼선을 초래할 우려가 있다고 지적했다.
아울러 개별 기관에 적용되는 공통의 품질관리 기준이 없어 결과적으로 AI 학습에 필수적인 정보가 누락된 데이터가 구축되는 등 품질 저하도 우려됐다.
학습용 데이터 구축실적 상위 20개 기관 가운데 개인정보보호위원회 등 5개 기관은 자체적으로 과기정통부의 가이드라인을 적용 중이었으나, 식약처 등 4개 기관은 품질관리 기준 없이 학습용 데이터 구축사업을 수행했다.
또 20개 기관 중 9개 기관은 사업 수행 시 제3자의 품질검증 없이 납품을 허용하고 있었다. 식약처와 동서발전은 제3자 품질검증은 물론 사업 수행기관의 자가 점검도 요구하지 않았다.
도로공사가 작년 구축한 '도로주행 CCTV 학습데이터 세트'는 AI 학습에 필수적인 어노테이션(annotation·데이터 라벨링) 정보에 차량별 위치 정보가 누락됐고, 2020년 서울시가 구축한 '대형폐기물 학습데이터'는 2천303장 중 538장의 파일명과 이미지가 달라 오류 발생이 우려됐다.
감사원은 관련 공공기관에 "유사 데이터 구축, 품질관리 체계 미비에 따른 활용 불가능한 데이터 생산, 데이터 구축 후 사후관리 미흡 등에 대한 사업방식 개선을 요구"했다.