마이크로소프트는 자체 설계한 차세대 맞춤형 AI칩을 내부 AI서비스 지원용으로 내년에 백만 개 이상 배치할 계획이라고 발표했다. 이 칩은 업계 최고 수준의 메모리 대역폭을 갖고 있다고 회사는 강조했다.
12일(현지시간) 블룸버그 등 외신들에 따르면, 마이크로소프트는 이 날 자체 설계한 차세대 맞춤형 칩 마이아 300을 공개했다. 이 칩은 마이크로소프트가 자체 개발한 AI 데이터 처리 칩의 3세대 제품으로, 코딩이나 복잡한 비즈니스 작업을 사용자 대신 수행하는 데 최적화돼있다. 이전 세대 제품은 이미 마이크로소프트의 자체 AI 모델과 마이크로소프트의 애져 클라우드 컴퓨팅 서비스에서 제공되는 오픈AI의 모델을 구동하는 데 사용되고 있다.
회사는 블로그 게시물에서 마이아가 "마이크로소프트 제품 및 서비스를 위한 주요 AI 추론 시스템이 될 것"이라고 밝혔다. 또 내년부터 마이아 300 칩을 수 기가와트 규모로 대량 생산할 계획이라고 언급했다.
마이크로소프트는 마이아 300 실리콘에 탑재된 중앙 컴퓨팅 프로세서는 핵심 컴퓨팅 기능은 대만 TSMC의 2나노 기술로 제작된 칩렛으로 구성되고 프로세서에서 시스템 내부 다른 곳으로 데이터를 이동하는 기능 등에는 3나노 기술을 사용한다고 설명했다. 또 업계 최고 수준의 메모리 대역폭을 갖고 있다고 밝혔다.
마이크로소프트는 마이아 300 프로세서는 96개의 칩이 들어가는 랙에 탑재되며 약 167킬로와트의 전력을 소비한다고 언급했다. 이는 엔비디아의 최신 GB300 AI 서버 랙(그래픽 처리 장치(GPU) 72개 탑재)이 사용하는 142킬로와트와 비교된다. 회사는 마이아 300 칩이 "주요 GPU 기반 시스템"보다 메가와트당 약 40% 더 많은 토큰을 생성할 수 있다"고 주장했다.
마이크로소프트의 애져 하드웨어 시스템 및 인프라 부문 사장인 라니 보르카르는 “기본적으로 시스템 전체를 최적화해 모든 와트, 모든 달러, 모든 바이트의 메모리에서 더 많은 지능을 제공한다”고 말했다.
최근 알파벳의 구글과 아마존 같은 클라우드 컴퓨팅 경쟁업체와 오픈AI 등 AI연구소들은 엔비디아 칩에 대한 의존도를 낮추기 위해 맞춤형 칩을 잇따라 출시하고 있다. 마이크로소프트는 구글과 아마존보다 자체 칩 개발이 늦어졌다.
마이크로소프트의 자체 칩 확대가 엔비디아 GPU의 구매를 대체하는지, 아니면 전체 AI 컴퓨팅 용량을 추가로 확대하는 것인지는 알려지지 않았다. 또 AI 기능 작동에 필수적인 기억과 추론 기능을 위해 어떤 메모리를 사용하는지도 확인되지 않았다. 그러나 상당량의 AI추론을 대규모로 처리하기 위해서는 상당한 메모리 용량과 대역폭이 필요할 것으로 보인다.
마이크로소프트는 올해 자본 지출에 1,750억 달러 이상을 투자할 것이라고 발표했다.
김정아 객원기자 kja@hankyung.com