엔비디아가 고대역폭메모리(HBM) 제어 기술 내재화에 나섰다. 인공지능(AI) 데이터센터 인프라 전반의 주도권을 더욱 공고히 하려는 전략으로 풀이된다.엔비디아는 26일(현지시간) 반도체 간 고속 연결 기술인 ‘NV링크 퓨전’에 자체 개발한 HBM 기술 ‘NVHBM’을 추가한다고 발표했다. NV링크 퓨전은 엔비디아의 초고속 데이터 통로(NV링크)를 다른 기업이 개발한 맞춤형 칩에도 연결할 수 있도록 개방한 플랫폼이다.
ADVERTISEMENT
NVHBM은 엔비디아가 자사 그래픽처리장치(GPU)에 적용할 구조를 기반으로 개발한 맞춤형 HBM 기술이다. 핵심은 메모리 컨트롤러(제어 회로)의 위치 변화다. 기존 HBM 구조에선 메모리를 조종하는 컨트롤러가 연산 전용 반도체(XPU) 위에 있다. NVHBM은 엔비디아가 제조한 맞춤형 컨트롤러를 3차원(3D)으로 쌓아 올린 메모리의 맨 밑바닥층인 ‘HBM 베이스다이’ 내부로 집어넣었다.
이 같은 구조 변화로 연산 기능을 끌어올릴 수 있게 됐다. 연산 칩 내에서 컨트롤러가 차지하던 실리콘 면적을 최대 25% 확보할 수 있게 돼 그 공간에 AI 연산 회로 등을 더 채워 넣어 가속기 자체의 계산 성능을 크게 끌어올릴 수 있기 때문이다. NVHBM 적용 시 기존 HBM4E(7세대) 대비 메모리 대역폭은 최대 30~50% 향상되고, 전력 소비는 15%가량 줄어든다는 게 엔비디아의 설명이다.
ADVERTISEMENT
다만 엔비디아가 HBM을 직접 생산하는 건 아니다. 엔비디아가 단일 표준 설계도를 제시하면 삼성전자, SK하이닉스, 마이크론 등 주요 메모리 제조사가 이를 검증해 생산 및 공급하는 방식이다. 엔비디아가 규격을 통일하면서 빅테크 등 칩 개발사는 공급사별 메모리 검증·통합 과정을 줄여 자체 AI 칩 출시 시점을 대폭 앞당길 수 있게 됐다.
엔비디아가 메모리 제어 영역까지 기술 개발에 나선 배경으로 AI 인프라 환경의 변화가 꼽힌다. 대규모언어모델(LLM)과 AI 에이전트 작업이 대중화돼 단일 연산 칩 성능 향상만으로는 한계가 있기 때문이다. 회사 관계자는 “연산과 메모리, 네트워킹, 소프트웨어를 하나로 묶어 최적화하는 통합 시스템 접근이 필수적”이라고 설명했다.
NVHBM의 첫 협력사로는 아마존웹서비스(AWS)의 반도체 설계 자회사 안나푸르나랩스가 선정됐다. 안나푸르나랩스는 차세대 자체 AI 가속기인 트레이니엄4에 NV링크 퓨전과 NVHBM 아키텍처를 연동할 계획이다.
노유정 기자 yjroh@hankyung.com
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT