삼성전자와 SK하이닉스의 인공지능(AI) 메모리 경쟁이 고대역폭메모리(HBM)를 넘어 차세대 기술로 확대되고 있다. 삼성전자는 성능을 최대 8배 높이는 기술을, SK하이닉스는 메모리 용량을 10배 늘리는 기술을 각각 내세웠다.
24일 반도체 업계에 따르면 삼성전자는 AI 가속기 위에 HBM을 직접 쌓는 차세대 3차원(3D) 메모리 기술인 'zHBM' 개발에 주력하고 있다.
zHBM은 연산장치와 메모리 사이의 데이터 이동 거리를 최소화해 처리 속도를 높이고 전력 소비를 줄이는 구조다.
삼성전자에 따르면 이 기술은 차세대 HBM5(8세대)와 비교해 그래픽처리장치(GPU)당 성능을 최대 8배, 전력 대비 성능을 최대 3배 높일 수 있다.
삼성전자는 온디바이스 AI에 특화한 'z낸드-O' 기술도 선보였다. 기존 낸드플래시의 대용량 저장 능력을 유지하면서 데이터 처리 속도를 개선해 D램의 용량 부족과 낸드의 낮은 대역폭 문제를 해결하는 것이 목표다.
SK하이닉스는 고대역폭 낸드플래시(HBF)를 차세대 메모리 기술로 제시했다.
HBF는 HBM의 빠른 데이터 처리 속도와 낸드플래시의 대용량 저장 능력을 결합한 기술이다. SK하이닉스는 같은 세대 HBM 대비 데이터 처리 대역폭은 절반 수준으로 확보하면서 저장 용량은 약 10배로 높인다는 목표다.
GPU 등 연산장치 위에 D램을 직접 쌓는 3D 적층 D램 기술도 개발하고 있다. 데이터 이동 거리를 줄여 AI 모델의 추론 성능을 높이고 전력 소모를 낮추기 위한 기술이다.
양사는 저전력 서버 메모리 시장에서도 경쟁하고 있다. 올해 상반기에는 나란히 저전력 D램 기반 서버용 메모리 모듈인 '소캠2(SOCAMM2)' 양산을 시작했다.
AI 서버의 메모리 용량을 확장하는 컴퓨트 익스프레스 링크(CXL) 기반 기술 개발에도 속도를 내고 있다.
업계에서는 AI 모델이 대형화하고 추론 서비스가 확산하면서 메모리의 처리 속도뿐 아니라 저장 용량과 전력 효율이 경쟁력을 좌우할 것으로 보고 있다.
업계 관계자는 "AI 메모리 경쟁의 중심이 개별 제품의 성능을 높이는 단계에서 서버 전체의 구조와 운영 효율을 개선하는 단계로 이동하고 있다"며 "차세대 기술의 상용화 시점과 실제 비용 절감 효과가 경쟁력을 가를 것"이라고 말했다.