SK하이닉스가 고대역폭메모리(HBM)보다 용량을 약 10배 늘린 차세대 메모리 'HBF(High Bandwidth Flash)' 개발에 나선다. 인공지능(AI) 추론 시장이 급성장하면서 HBM을 비롯한 개별 제품의 성능 향상을 넘어 전체 메모리 계층을 최적화해야 한다는 판단에서다.
안현 SK하이닉스 개발총괄(CDO) 사장은 14일 'SEDEX 2026' 기조연설에서 AI 추론 확대에 따른 새로운 메모리 병목 현상을 진단하고 HBF와 3D Stacked DRAM 등 차세대 메모리 기술 로드맵을 제시했다.
HBF는 SK하이닉스가 HBM에서 확보한 실리콘관통전극(TSV) 적층과 고속 입출력(I/O) 기술을 낸드플래시에 적용하는 차세대 메모리다. HBM과 D램 사이에 새로운 메모리 계층을 만들어 고대역폭과 대용량을 동시에 확보하는 것이 목표다.
SK하이닉스는 HBF의 용량을 동세대 HBM의 약 10배, 대역폭은 절반 수준으로 개발한다는 목표를 세웠다. AI 연산에 필요한 대규모 데이터를 연산장치와 가까운 곳에 저장해 D램과 SSD 접근을 줄이고 시스템 성능과 에너지 효율을 높이겠다는 구상이다. 안 사장은 HBF 규격을 내년 1월 마련하고 글로벌 파트너들과 표준화 작업도 추진할 계획이라고 밝혔다.
AI 추론 과정에서는 대규모 데이터를 반복적으로 읽는 반면 쓰기 작업은 상대적으로 적어 낸드 기반 HBF가 적합하다는 게 SK하이닉스의 설명이다.
안 사장은 AI 추론 시장이 작업 복잡도와 컨텍스트 길이, 추론 요청량 등 세 방향에서 동시에 커지고 있다고 진단했다. 이 같은 수요 증가로 AI 인프라의 성능 규모가 2030년에는 2026년보다 약 20배 확대될 것으로 전망했다.
특히 AI가 이전에 처리한 토큰 정보를 저장하고 재활용하는 'KV 캐시'가 커지면서 HBM부터 D램, SSD까지 여러 계층에 데이터를 나눠 저장해야 하고, 이 과정에서 발생하는 데이터 이동 자체가 새로운 성능·전력 병목으로 떠오르고 있다는 설명이다.
SK하이닉스는 이에 따라 기존 HBM의 성능을 높이는 동시에 메모리 계층 사이의 간극을 메울 새로운 제품군을 개발하고 있다.
S램과 HBM 사이에는 '3D Stacked DRAM'을 제시했다. GPU·NPU 등 로직 반도체 위에 D램을 직접 적층해 연산장치와 데이터 간 거리를 줄이고 성능과 에너지 효율을 높이는 기술이다.
HBM은 HBM4E까지 용량과 대역폭, 에너지 효율을 높이는 한편 고객별 AI 시스템에 맞춘 '커스텀 HBM'으로 영역을 확대한다. 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 넣어 개별 AI 아키텍처에 맞게 기능과 성능을 최적화하는 방식이다.
SK하이닉스는 이와 함께 CXL과 'Storage-Next' 등 차세대 메모리·스토리지 기술을 활용해 AI 워크로드에 맞춰 메모리 계층을 세분화한다는 계획이다.
한편 SK하이닉스는 SEDEX 2026에서 HBM과 HBF 구조 모형을 비롯해 256GB 3DS RDIMM, 128GB MRDIMM, 10나노급 6세대(1c) 공정을 적용한 64GB RDIMM 등 AI 서버용 메모리 제품을 전시했다. 엔비디아 베라 루빈 슈퍼칩과 젠슨 황 엔비디아 최고경영자(CEO)의 사인이 담긴 HBM 웨이퍼도 선보였다.