엔비디아가 차세대 인공지능(AI) 슈퍼컴퓨터 '베라 루빈 NVL72'의 양산을 시작하며 AI 인프라 경쟁을 한 단계 끌어올리고 있다. 구글·마이크로소프트(MS)·오라클 등 글로벌 빅테크에 완성형 AI 랙 공급을 본격화한 가운데 AMD도 맞불 제품 '헬리오스'를 앞세워 추격에 나섰다. AI 칩을 넘어 데이터센터 전체를 통째로 공급하는 'AI 공장' 경쟁이 본격화하고 있다는 평가다.
엔비디아는 21일(현지시간) '베라 루빈 NVL72' AI 랙이 구글 클라우드, MS 애저, 오라클 클라우드, 코어위브 등에 공급돼 가동 중이라고 밝혔다. '베라 루빈 NVL72'는 엔비디아의 그래픽처리장치(GPU) '루빈'과 중앙처리장치(CPU) '베라' 등 7개의 새 칩을 하나의 시스템으로 묶어 단일 캐비닛에 담은 AI 슈퍼컴퓨터다.
단순히 칩 하나를 파는 방식이 아니라 대형 인공지능 연산을 곧바로 돌릴 수 있는 완성형 설비를 제공하는 전략이다. 엔비디아는 컴퓨팅 수요 급증에 대응해 세계 30개국 350여 공장을 아우르는 역대 최대·최상급 공급망을 완성했다고 설명했다.
특히 엔비디아는 이번 제품이 전력 효율과 냉각 효율에서 큰 폭의 개선을 이뤘다고 강조했다. 베라 루빈 플랫폼을 설치한 코어위브가 '딥시크 R1' 모델로 진행한 성능 검사 결과 베라 루빈은 전작인 그레이스 블랙웰 대비 ㎿(메가와트)당 성능이 10배에 달하는 것으로 나타났다. 또 섭씨 45도 액체 냉각 유입 설계 등을 통해 ㎿당 연간 수천t의 물을 절약할 수 있다고도 강조했다.
네트워크 측면에서는 이전 세대 대비 용량이 두 배로 늘어나 초당 102.4Tb(테라비트)를 전송할 수 있는 '스펙트럼-6' 이더넷 스위치 시스템을 결합해 거대한 AI 공장을 단일 시스템처럼 운영할 수 있도록 지원한다. 이언 벅 엔비디아 부사장은 "우리는 본격적인 양산 단계에 들어섰다"며 "모든 주요 고객사에서 해당 시스템이 가동되고 있다"고 말했다고 블룸버그 통신이 전했다.
엔비디아가 자사 제품의 성능을 적극적으로 내세우는 것은 최근 AI 칩 시장의 경쟁이 치열해졌기 때문으로 풀이된다. AMD는 베라 루빈에 대응하는 AI 랙 '헬리오스'를 MS를 비롯한 주요 고객사에 공급한다고 최근 밝혔다.
헬리오스는 AMD가 자체 개발한 GPU, CPU, 네트워킹, 소프트웨어 등 4개 핵심 기술을 하나의 시스템으로 통합한 것이 특징이다. AMD의 최신 GPU인 MI400를 기반으로 설계됐으며 각 랙에는 AMD가 2022년 인수한 펜산도의 기술이 적용된 네트워크 칩 최대 12개가 탑재된다. 헬리오스는 엔비디아의 대표 AI 시스템인 그레이스블랙웰과 차세대 베라루빈 시스템에 맞서는 첫 경쟁 제품으로 평가된다.
AMD는 엔비디아에 맞서 AI 가속기 시장에서 고객 기반을 빠르게 넓히고 있다. 회사에 따르면 오픈AI, 코히어, 스페이스XAI 등 AI 기업 상위 10곳 중 8곳이 AMD의 인스팅트 GPU를 사용하고 있다.
메타는 지난 2월 최대 6기가와트(GW) 규모의 AMD GPU를 순차적으로 도입하겠다고 발표했으며 올해 말 헬리오스 랙을 기반으로 우선 1GW를 구축할 예정이다. 오픈AI와 오라클도 올해 헬리오스를 도입한다는 계획이며 인도 최대 IT 서비스 기업인 타타컨설턴시서비스도 고객사로 합류했다.
강경주 기자 qurasoha@hankyung.com