AI 컴퓨팅 기술 분야 선두 주자인 미국 반도체 기업 엔비디아가 한 단계 진일보한 차세대 AI 칩을 공개했다.
엔비디아는 8일(현지시간) 미국 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 차세대 AI 칩 'GH200 그레이스 호퍼 슈퍼칩'을 선보였다.
이 '슈퍼칩'은 현재 엔비디아의 최고급 AI 칩인 H100과 같은 그래픽처리장치(GPU)와 141기가바이트의 최첨단 메모리 및 72코어 암(ARM) 기반의 프로세서(CPU)를 결합했다.
이 칩에는 초당 5테라바이트(TB)의 엄청난 속도로 정보에 접근할 수 있는 고대역폭 메모리 HBM3e가 탑재됐다.
HBM은 여러 개의 D램을 수직으로 연결해 쌓아 기존 D램보다 데이터 처리 속도를 크게 끌어올린 메모리로, HBM3e는 4세대 제품이다.
젠슨 황 엔비디아 최고경영자(CEO)는 "이 프로세서는 이전 모델보다 훨씬 더 강력하다"며 "증가하는 AI 컴퓨팅 파워 수요를 충족시키기 위해 세계 데이터 센터의 규모를 확장하도록 설계됐다"고 설명했다.
엔비디아는 이 '슈퍼칩'이 내년 2분기 생산될 것이라고 밝혔다. 다만, 가격은 공개하지 않았다.
엔비디아는 이 칩이 더 많은 메모리 용량을 갖고 있어 AI 모델의 추론용으로 설계됐다며 이를 통해 더 큰 규모의 AI 모델도 하나의 시스템에 장착할 수 있다고 설명했다.
황 CEO는 "원하는 거의 모든 대규모 언어 모델을 여기에 넣으면 미친 듯이 추론할 수 있을 것"이라며 "(이렇게 되면) 대규모 언어 모델을 추론하는 데 드는 비용이 크게 떨어질 것"이라고 강조했다.
(사진=연합뉴스)