한국과학기술원(KAIST) 전기및전자공학부 정명수 교수와 교원창업기업인 파네시아·메타 연구진이 CXL(CPU·가속기·메모리를 빠르게 연결하고 자원을 공유하는 국제표준 기술)을 활용해 CPU와 AI 가속기, 메모리를 하나로 묶고 이를 데이터센터 전체로 확장하는 구조를 제시했다고 9일 밝혔다.
기존 데이터센터가 여러 컴퓨터가 네트워크를 통해 협업하는 방식이라면, 이번 구조는 서버 간 경계를 낮춰 CPU·가속기·메모리를 긴밀하게 연결한다. 데이터센터 전체를 '하나의 거대한 컴퓨터'처럼 움직이게 하는 것이 핵심이다.
현재 엔비디아의 NVLink나 UALink 등도 여러 가속기를 빠르게 연결하지만 주로 랙(여러 서버와 장비를 층층이 설치하는 구조) 내부 연결에 초점을 둔다. 반면 이번 구조는 가속기뿐 아니라 CPU와 메모리까지 CXL로 연결하고 그 범위를 데이터센터 전체로 확대한다.
연구진이 제시한 구조에서는 하나의 연결 영역에 최대 960개의 가속기를 연결할 수 있다. 현행 NVLink 기반 랙보다 약 13배 큰 규모라는게 연구진의 설명이다.
데이터 이동 시간도 기존 네트워크 기반 구조의 마이크로초(μs, 100만분의 1초) 수준에서 수백 나노초(ns, 10억분의 1초) 수준으로 줄일 수 있다. AI 데이터센터에서는 작은 지연도 반복되면 전체 성능에 큰 영향을 미친다.
운영도 유연해질 수 있다. CPU·가속기·메모리를 각각의 자원처럼 연결해 문제가 생긴 부품만 교체하거나, 남는 연산·메모리 자원을 필요한 곳에 활용할 수 있기 때문이다.
정명수 KAIST 전기및전자공학부 교수 겸 파네시아 대표는 "AI가 거대해질수록 개별 가속기의 성능만큼 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다"며 "이번 연구는 CXL을 기반으로 데이터센터 전체를 하나의 컴퓨팅 시스템처럼 동작시키는 차세대 AI 인프라의 방향을 제시했다는 데 의미가 있다"고 말했다.
한편 이번 연구는 네이처 리뷰 일렉트리컬 엔지니어링에 지난달 10일 게재됐다.