차세대 인공지능(AI) 시대의 메모리 주도권을 둘러싼 경쟁이 D램을 넘어 낸드플래시로 확장될 것이라는 전망이 나왔다. 내년 상용화를 앞둔 고대역폭플래시메모리(HBF)가 10여년 뒤에는 고대역폭메모리(HBM) 시장 규모를 넘어설 수 있다는 분석이다.
'HBM 아버지'로 불리는 김정호 KAIST 전기·전자공학과 교수는 3일 서울 중구 프레스센터에서 열린 'HBF 연구내용 및 기술개발 전략 설명회'에서 "AI의 생각하고 추론하는 능력이 중요해지고 문자에서 음성 인터페이스로 전환되면서 필요한 데이터양은 필연적으로 폭증할 것"이라며 HBF의 성장 가능성을 강조했다.
김 교수는 지난 20년간 HBM 구조와 개념을 창안하고 상용화 설계를 주도해 온 세계적 석학으로, 현재도 HBM4를 비롯한 차세대 HBM 아키텍트를 연구 중이다. 그는 GPU 성능 향상이 한계에 다다른 상황에서 메모리가 AI 성능을 좌우할 것이라고 전망했다.
김 교수는 "PC 시대에는 중앙처리장치(CPU), 스마트폰 시대에는 저전력이 핵심이었다면 AI 시대에선 메모리가 핵심"이라며 "속도를 결정하는 것이 HBM이고, 용량을 결정하는 것이 HBF"라고 설명했다.
HBF는 비휘발성 메모리인 낸드플래시를 수직으로 적층해 용량을 극대화한 차세대 메모리로, 여러 개의 D램을 쌓은 HBM과 개념적으로 유사하다. 데이터 처리 속도에 초점을 맞춘 HBM 대비 최대 10배 수준의 용량 확장이 가능하고, 가격 경쟁력도 갖춰 비용과 용량 문제를 동시에 해결할 대안으로 꼽힌다.
김 교수는 "삼성전자, SK하이닉스, 샌디스크 등과 HBF 관련 기술 교류를 진행 중이며 AMD, 구글, 엔비디아 등도 잠재 고객사로 접촉하고 있다"고 말했다. 이어 "HBM 기술을 그대로 활용하다 보니 고객사 입장에서는 편리성이 높고 진입장벽도 낮다"고 덧붙였다.
그는 현재 GPU에 HBM 탑재가 필수인 것처럼 HBF 역시 AI 메모리 생태계의 핵심으로 자리 잡을 것으로 내다봤다. 특히 오는 2038년 이후에는 HBF 수요가 HBM을 넘어설 가능성도 제시했다.
배경에는 AI 시장의 구조 변화가 있다. 최근 AI 서비스는 추론 중심으로 이동하고 있으며, 사용자와의 대화 맥락을 유지하기 위한 장기 기억 장치로 '키밸류'(KV) 캐시 메모리의 중요성이 커지고 있다. 현재는 GPU에 탑재된 HBM이 이 역할을 맡고 있지만, 추론 영역 확대로 연산에 활용해야 할 HBM 용량이 줄어들면서 메모리 병목 문제가 발생하고 있다.
이에 따라 엔비디아는 차세대 아키텍처 '베라 루빈'에 KV 캐시 전용 저장 공간인 '인퍼런스 컨텍스트 메모리 스토리지(Inference Context Memory Storage)' 플랫폼을 새롭게 도입하겠다고 밝혔다.
업계에서는 이 플랫폼의 핵심 메모리로 HBF가 채택될 가능성이 크다고 보고 있다. GPU의 핵심 메모리가 HBM이 된 것처럼, 새로운 AI 스토리지 플랫폼에서도 HBF가 중심 역할을 할 것이라는 분석이다.
현재 SK하이닉스는 내년 양산을 목표로 HBF를 개발 중이며, 샌디스크는 지난해 7월 HBF 기술 자문위원회를 출범시키는 등 주요 낸드 업체들도 시장 선점 경쟁에 나섰다.
김 교수는 "HBM에 이어 HBF도 한국 메모리 제조사가 주도권을 잡아야 AI 시장에서 영향력을 잃지 않을 것"이라며 "CPU·GPU·메모리가 하나의 베이스 다이에서 결합하는 MCC(메모리 중심 컴퓨팅) 아키텍처가 완성되면 HBF 수요는 더욱 커질 것"이라고 강조했다.
(사진=연합뉴스)