[기고]좋은 모델은 잘 버린 데이터에서 나온다

[AI가 학습할 수 있는 데이터를 만드는 사람들④]


360종 가운데 122종. 2024년 5월 감사원이 발표한 숫자다. 정부가 2조 5천억 원을 들인 AI 학습용 데이터 구축 사업에서, 만들어진 데이터 360종 가운데 122종, 그러니까 34%가 품질 불량으로 쓰이지 못했다. 흔히 이 숫자는 실패의 크기로 읽힌다. 틀린 읽기는 아니다. 그러나 오늘 나는 거꾸로 읽으려 한다.

어떤 데이터 사업도 100% 성공하지 않는다. 성숙한 체계일수록 오히려 더 많이 버린다. 그렇다면 34%라는 비율 자체는 본질이 아니다. 감사원이 확인한 어떤 사업은 26개월 동안 데이터가 단 한 건도 만들어지지 않은 채 방치돼 있었다. 감사가 아니었다면 그 122종은 지금도 장부 위에서 살아 있는 데이터로 집계되고 있었을 것이다. 본질은 그 122종이 버려지기까지 너무 오래 걸렸다는 것, 그리고 그동안 누구도 버리기로 결정하지 않았다는 것이다. 실패한 것이 문제가 아니다. 실패를 끝내지 못한 것이 문제다.

왜 아무도 버리지 못했을까. 버리는 길이 없었기 때문이다.

자동차에 비유해 보자. 길을 잘못 들었으면 브레이크를 밟고 차를 세운 뒤, 어디서부터 잘못됐는지 살펴야 한다. 데이터 사업도 같다. 품질이 기준에 못 미치면, 사람의 선택이 아니라 규정에 따라 사업을 멈춰 세우고 처음으로 되돌아가 다시 만들게 하는 장치가 필요하다. 곧 브레이크다. 지금 한국의 AI 데이터 사업에는 이 브레이크가 없다. 26개월의 방치가 가능했던 이유다. 그런데 브레이크만으로는 부족하다. 브레이크는 차를 세운다. 세운 다음이 없다. 정비소로 되돌아가는 길만 있고, 폐차장으로 가는 길이 없다. 세울 줄은 알아도, 보낼 줄은 모르는 것이다.

되돌리는 것은 살릴 수 있는 데이터일 때 이야기다. 그러나 현장에는 되돌려도 살아나지 않는 데이터가 있다. 애초에 목적이 잘못 정해진 데이터, 수집 설계부터 어긋나 손볼수록 비용만 쌓이는 데이터다. 이런 데이터를 계속 처음으로 되돌리는 것은 정비가 아니라 연명이다. 폐차 판정을 내리지 못하는 정비소에서는 고칠 수 없는 차가 리프트 하나를 영원히 차지한다. 그 옆에서 멀쩡한 차들이 순서를 기다린다.

버림은 모자람이 아니라 설계다. 세계 최고의 AI 모델들은 인터넷에서 긁어모은 원본 문서의 대부분을 버리고 만들어진다. 세계 최대 AI 개발 플랫폼인 허깅페이스의 한 공개 데이터 프로젝트는, 이미 한 차례 거른 방대한 웹 문서에서 다시 92%를 덜어내고 8%만 남겼다. 그 8%로 학습한 모델의 성적이 더 좋았다. 최전선의 경쟁력은 버리는 능력에서 갈리고 있다.

연구실만의 이야기가 아니다. 우크라이나의 하늘에서는 위성과 드론과 레이더가 쉬지 않고 신호를 쏟아낸다. 상업위성 한 회사의 하루치 영상만 해도 분석가 혼자 다 보려면 85년이 걸린다는 계산이 있다. 미군과 우크라이나군은 팔란티어라는 데이터 분석 기업의 전장 소프트웨어를 쓴다. 이 소프트웨어는 그 신호를 최대한 모으되, 분석가의 화면에는 결정에 필요한 극소수만 올린다. 하는 일의 대부분이 보여주는 일이 아니라 보이지 않게 하는 일이다. 신호는 무한하고 결정은 유한하다. 결정에 닿지 못하는 데이터는 아무리 쌓여도 힘이 되지 않는다.

잘 버리는 나라가 좋은 모델을 갖는다.

이 눈으로 감사원의 122종을 다시 보자. 그 데이터들은 버린 것이 아니라 버려진 것이다. 34%는 부끄러운 숫자가 아니다. 부끄러운 것은 그 34%를 스스로 판정하지 못하고 감사원의 손을 빌렸다는 사실이다. 성숙한 체계는 덜 버리는 체계가 아니라 더 일찍 버리는 체계다.

그래서 제안한다. 브레이크를 달되, 세운 차가 갈 길을 두 갈래로 내자는 것이다. 품질 평가에서 미달 판정이 나면, 보완할 수 있는 데이터는 규정에 따라 처음으로 되돌린다. 살릴 수 없는 데이터는 폐기 근거를 문서로 남긴 뒤, 남은 예산과 일정을 살아 있는 데이터로 옮긴다. 핵심은 폐기를 징계 사유가 아니라 정상 절차로 만드는 데 있다. 일찍 손을 드는 담당자가 불이익을 받는 구조에서는 아무도 손을 들지 않는다. 그 침묵의 값이 26개월이었다. 아직 제도로 존재하지 않는 제안이다. 그러나 구조는 단순할수록 강하다. 버리는 길이 있는 사업은 실패를 기록으로 남기고, 없는 사업은 실패를 감사로 들킨다.

버림에는 기준이 필요하고, 기준은 입구에서 정해진다. 어떤 AI를 위해 어떤 데이터가 어떤 품질로 필요한지가 먼저 서 있어야, 살릴 데이터와 버릴 데이터를 가를 수 있다. 기준 없이 출발한 사업은 무엇을 버려야 하는지 가릴 잣대조차 없다. 그런데 한국의 AI 데이터 사업에서 이 따져 보는 작업은 예산 항목이 아니다. 제안서 단계에서 수행기관이 알아서 해 오는 공짜 노동이다. 값이 매겨지지 않은 일은 아무도 제대로 하지 않는다. 26개월의 방치는 게으름이 아니라, 입구에 원가가 없어서 생긴 구조적 결과다.

그래서 두 번째 제안이다. 정부가 데이터 사업을 발주할 때는 어떤 일에 얼마를 쓸지 정해 두는 표준원가라는 기준이 있다. 여기에 '데이터 필요성 사정(査定)' 항목을 새로 만들자. 데이터가 정말 필요한지 따져 보는 일, 지금 공짜로 시키는 그 일에 이름과 값을 붙이자는 것이다. 사업비의 큰 몫을 떼자는 거창한 요구가 아니다. 작아서 실현 가능한 요구다. 입구에서 필요를 정의하고, 미달이면 되돌리고, 살릴 수 없으면 버린다. 이것이 데이터에 질서를 세우는 일이다.

다만 정직하게 마주할 반박이 하나 있다. 잘 버리는 조직이 좋은 모델을 만드는 것이 아니라, 여력 있는 조직이 버릴 수 있는 것 아닌가. 버림에는 판단할 전문가와 실패를 견딜 예산이 필요하니, 버림은 원인이 아니라 결과라는 지적이다. 이 반박은 옳다. 그리고 옳기 때문에 결론이 선명해진다. 버림이 여력의 산물이라면, 여력 없는 다수의 현장에 맡겨 두는 한 버림은 영원히 일어나지 않는다. 시장이 알아서 해결해 줄 수 없는 일이라는 뜻이다. 공공이 입구의 원가를 먼저 부담해야 하는 이유가 여기에 있다. 버림의 원가를 국가의 회계에 올려 주는 것, 그것이 공공만이 할 수 있는 선투자다.

많이 모으는 것은 죄가 아니다. 못 버리는 것이 죄다. 브레이크를 달아 차를 세웠다고 치자. 세운 차를 전부 정비소로만 보내는 체계는 결국 정비소부터 마비된다. 되돌아가는 길 옆에 폐차장으로 가는 길이 나 있어야, 브레이크는 비로소 체계를 지키는 장치가 된다. 폐차장이 있는 도로에서만 차는 마음 놓고 달린다.

마침 정부가 추진해 온 한국형 AI 모델이 공개를 눈앞에 두고 있다. 한국어와 한국 산업 환경에 맞춰 우리 손으로 학습시킨 모델이다. 이 모델이 세계와 겨루기를 바란다면, 우리가 던지는 질문도 세계의 기준을 따라야 한다. 데이터를 얼마나 모았는가가 아니라, 얼마나 버렸는가. 좋은 모델의 뒤에는 많이 모은 데이터가 아니라 잘 버린 데이터가 서 있다.

김철현 ㈜카라멜라 CSO · 국립농업과학원 현장명예연구관(AI 특임 전문위원)

※ 외부 필진 기고는 CBS노컷뉴스의 편집방향과 다를 수 있습니다.


추천기사

실시간 랭킹 뉴스