최태원 SK그룹 회장과 젠슨 황 엔비디아 최고경영자(CEO)가 8일 서울 종로구 SK 서린빌딩에서 열린 엔비디아-SK 협력 관련 언론브리핑을 마친 뒤 악수하고 있다. 박종민 기자SK텔레콤이 엔비디아와 함께 한국을 넘어 아시아 전역의 인공지능(AI) 혁신을 이끌 초거대 인프라 동맹을 결성했다. 양사는 엔비디아 플랫폼을 기반으로 반도체 칩부터 데이터센터 운영까지 아우르는 '풀스택 AI 클라우드'를 구축하기로 합의했다.
SKT와 엔비디아는 8일 오전 서울 종로구 SK서린빌딩에서 브리핑을 열고 이 같은 내용의 AI 인프라 구축 계획을 발표했다.
젠슨 황 엔비디아 창업자 겸 최고경영자(CEO)는 브리핑에서 SKT와의 협력에 대해 기대감을 나타냈다. 황 CEO는 "미래의 통신 네트워크는 단순히 비트 데이터만 오가는 것이 아니라 AI 자체가 되고, 통신망 전체에 AI가 스며들게 될 것"이라며 "이를 통해 훨씬 더 나은 주파수 효율성, 더 넓은 대역폭, 그리고 훨씬 더 강력한 성능을 갖추게 될 것이기에 SK텔레콤과의 파트너십에도 큰 기대를 걸고 있다"고 말했다.
양사는 엔비디아 DSX 플랫폼을 기반으로 칩부터 데이터센터 운영까지 아우르는 '풀스택(Full Stack) AI 클라우드' 협력을 추진하기로 했다. 이를 위해 양사는 AI 작업에 특화된 데이터센터인 'AI 팩토리'를 GW(기가와트)급 스케일을 목표로 확장해 나갈 예정이다.
엔비디아 DSX는 칩·시스템부터 인프라 소프트웨어·시설·파트너 기술까지 풀스택 전반에 걸쳐 AI 팩토리의 설계·구축·최적화 방식을 정의하는 플랫폼이다.
AI 팩토리는 전력과 데이터를 원료로 AI의 핵심 단위인 '토큰'을 지속적으로 생산하는 '지능 공장'으로, 엔비디아 DSX 기반 인프라를 토대로 구축된다. 이는 범용 컴퓨팅과 자료 저장에 국한된 기존 데이터센터를 뛰어넘는 차세대 개념이다.
양사가 구축할 AI 팩토리는 내년 한국에서 첫 가동을 시작할 계획이다. 이는 양사 AI 클라우드의 거버넌스와 운영 구조를 검증하는 첫 사례가 될 것으로 보인다. SKT는 이 모델을 GW급 인프라로 단계적으로 확장하고 아시아 전역으로 AI 인프라를 넓혀 나갈 계획이다.
이를 위해 SKT는 엔비디아의 AI 인프라와 소프트웨어를 활용해 고성능 클라우드 AI 서비스를 제공하는 글로벌 파트너 생태계 프로그램인 '엔비디아 클라우드 파트너(NVIDIA Cloud Partner)' 프로그램에 합류한다. 이번 협력은 AI 인프라 시장 경쟁력을 좌우하는 최저 토큰 비용과 와트당 최고 성능을 확보하기 위한 목적으로 추진된다.
엔비디아와의 협력은 SKT AI 클라우드 사업의 핵심 기반이 될 전망이다. SKT는 엔비디아 블랙웰(Blackwell) GPU를 시작으로 AI 학습과 추론을 지원하고, 올해 하반기 공급 예정인 최신 엔비디아 베라 루빈(Vera Rubin) 플랫폼도 순차적으로 활용할 예정이다.
AI 팩토리를 구현하기 위해서는 컴퓨팅 뿐 아니라 네트워킹과 소프트웨어를 아우르는 'AI 풀스택' 역량이 반드시 필요하다. 이번 파트너십을 통해 SKT는 컴퓨팅과 전용 소프트웨어 등 엔비디아 AI 인프라를 확보하고, 엔비디아는 SK하이닉스의 메모리 리더십과 SKT의 AI 팩토리 구축·운영 전문성을 활용할 수 있게 된다.
SKT는 이번 파트너십을 발판으로 AI 클라우드 사업을 빠르게 성장시킬 방침이다. AI 클라우드는 범용 클라우드 설루션을 제공하는 기존 클라우드 사업과 달리, AI 학습, 추론, 데이터 처리 등 AI 작업에 특화된 서비스를 제공하는 새로운 사업 모델이다.
SKT는 한국을 넘어 아시아 전역에서 엔비디아가 필요로 하는 AI 인프라와 사업 네트워크를 실질적으로 제공하는 핵심 파트너로 자리매김함으로써 아시아를 대표하는 AI 클라우드 사업자 중 하나로 도약한다는 구상이다.
한편 이날 브리핑이 진행된 SK서린빌딩에는 브리핑 시작 한 시간 전부터 취재진과 시민 등 수백 명이 몰려 인산인해를 이뤘다. 황 CEO가 빌딩에 들어서자 일부 시민들은 "젠슨 황"을 연호했으며 황 CEO는 손을 들어 인사를 건네거나 악수를 나눴다. 황 CEO의 'Good morning' 인사로 시작된 브리핑은 20여 분 동안 진행됐다.