KAIST 제공어려운 문제를 풀 때마다 전문가에게 다시 묻는 대신, 한 번 배운 풀이를 공책에 적어두고 비슷한 문제에 활용하는 AI 기술이 나왔다.
한국과학기술원(KAIST)은 전산학부 이재길 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 기기-서버 협업 기술 'CURE(누적 지식 재사용)'를 개발했다고 21일 밝혔다.
스마트폰과 같은 기기는 계산 능력과 메모리가 제한돼 가벼운 소형 AI 모델을 주로 사용한다. 소형 모델은 간단한 문제는 빠르게 처리하지만, 복잡하거나 낯선 이미지를 구분할 때는 정확도가 떨어질 수 있다.
반대로 모든 문제를 고성능 서버의 대형 AI에 맡기면 정확도를 높일 수 있지만, 데이터를 보내고 답을 기다리는 시간이 길어진다. 통신량과 서버 연산량도 늘어나 이용자의 대기 시간과 서비스 운영 비용이 커진다.
이를 보완하기 위해 기기의 소형 AI가 먼저 판단하고 어려운 문제만 서버로 보내는 협업 방식이 연구돼 왔다.
연구팀은 서버가 알려준 답을 일회성으로 사용하지 않고, 기기가 이후에도 활용할 수 있는 지식으로 축적하는 데 주목했다.
CURE는 소형 AI가 사진 속 특정 차종을 구분하지 못하면 서버의 대형 AI에 답을 요청한다. 이때 CURE는 서버의 판단 결과와 이미지의 특징을 기기의 지식 저장소에 반영한다. 이후 비슷한 차종의 사진이 들어오면 앞서 저장한 지식을 참고해 서버에 다시 묻지 않고 기기에서 직접 판단한다.
연구팀은 이미지와 글을 함께 이해하는 '비전-언어 모델'을 이용해 CURE의 성능을 검증했다. 비전-언어 모델은 사람처럼 이미지를 보고, 그 내용을 언어와 연결해 이해하는 AI다.
기기용 소형 모델로는 MobileCLIP2를, 서버용 대형 모델로는 180억 개의 매개변수를 가진 EVA-CLIP을 사용했다. 매개변수는 AI가 학습 과정에서 익힌 정보를 담고 있는 내부 수치로, 사물을 구분하고 관계를 판단할 때 활용하는 '판단 기준'과 같다.
다양한 이미지 분류 데이터셋을 이용한 실험에서 CURE는 모든 입력을 대형 서버 모델로 처리하는 방식에 근접한 정확도를 유지했다. 그러면서 서버의 지식을 축적하지 않는 기존 기기-서버 협업 방식보다 서버 호출 횟수를 평균 55.61% 줄였다.
처리 속도는 기존 기기-서버 협업 방식보다 최대 2.80배 빨랐으며, 모든 입력을 서버로 보내는 방식보다 최대 3.67배 빨랐다. CURE는 소형 모델과 서버 모델을 별도로 다시 학습시키지 않고도 적용할 수 있다. 기존 AI 모델은 그대로 두고 서버에서 얻은 지식을 담는 별도의 저장소를 붙이는 방식이어서, 다양한 AI 모델과 서비스에 유연하게 적용할 수 있다.
이재길 교수는 "CURE는 기기의 소형 AI가 서버에 같은 문제를 반복해서 묻지 않고, 한 번 얻은 지식을 기억해 다시 활용하도록 한 기술"이라며 "높은 정확도를 유지하면서 통신 부담과 응답 시간을 줄여 스마트폰과 로봇, 웨어러블 등 다양한 기기에서 고성능 AI를 효율적으로 활용하는 기반이 될 것으로 기대한다"고 말했다.
영문기사 보기 (View English Article)