안현 SK하이닉스 개발총괄 사장(사진)이 고대역폭플래시(HBF)를 인공지능(AI) 시대 차세대 메모리로 제시하고 내년 1월 최종 규격을 만들 것이라고 말했다.
안 사장은 14일 서울 삼성동 코엑스에서 열린 ‘SEDEX 2026’에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 기조연설에 나서 이같이 밝혔다. HBF는 D램 대신 낸드플래시를 쌓고 실리콘관통전극(TSV) 기술로 연결한 AI 메모리다.
안 사장은 “HBF는 고대역폭메모리(HBM) 대비 대역폭은 절반이지만 저장 용량을 10배 이상으로 늘릴 수 있다”며 “샌디스크, 구글 등과 협업해 규격을 정하고 있다”고 밝혔다.
안 사장은 AI 추론 시장이 작업 복잡도와 한 번에 처리하는 정보의 양(컨텍스트 길이), 추론 요청량이라는 세 가지 측면에서 동시에 성장하고 있다고 진단했다. 이에 따라 점점 더 많은 규모의 데이터를 저장하고, 빠르게 이동시키는 메모리가 필요해지고 있다.
안 사장은 대규모 데이터를 저장하기 위해 HBM뿐 아니라 D램, 솔리드스테이트드라이브(SSD) 등 여러 메모리를 사용해야 하는 상황이라고 설명했다. 이 과정에서 데이터를 빠르게 가져오지 못하는 ‘데이터 병목’ 현상도 생기고 있다고 강조했다. 저장 용량이 큰 낸드를 사용한 HBF가 이런 문제를 해결할 수 있다는 설명이다.
낸드가 D램보다 데이터 처리 속도가 느리다는 우려에 대해서는 “AI 추론 작업은 데이터를 읽는 작업량이 (답변을) 쓰는 작업량보다 압도적으로 많다”며 “데이터를 미리 가져다놓는 프리페치(Prefetch)를 활용하면 HBF로 충분히 데이터 병목을 해결할 수 있다”고 말했다.
안 사장은 HBM과 함께 차세대 AI 메모리로 GPU 위에 D램을 직접 쌓아 데이터 이동거리를 줄이는 3D 적층 D램, 차세대 SSD인 ‘스토리지 넥스트’ 등을 함께 제시했다.그는 “스토리지 넥스트를 고객사와 함께 개발 중”이라고 설명했다.
SK하이닉스는 내년 HBM5와 커스텀(맞춤형) HBM4E을 출시할 계획이다. 커스텀 HBM의 경우 HBM 하단의 베이스다이에 고객사마다 요구하는 기능을 개별적으로 추가하는 방식으로 맞춤 제작할 예정이다. 안 사장은 “표준(범용) HBM과 커스텀 HBM이 병행하겠지만, 장기적으로는 커스텀 HBM이 더 확대될 것”이라고 내다봤다.
노유정 기자 yjroh@hankyung.com