[머니인사이트]
글로벌 인공지능(AI) 시장의 패권은 ‘토큰 생성량’에 따라 바뀌고 있다.
현재 AI의 기술 우위는 생성 가능한 ‘토큰 수(Token Count)’에서 결정되고 있다. 이에 따라 글로벌 IT 기업들의 자본지출도 토큰 생성량을 늘리기 위한 AI 가속기(GPU), 인프라(저전력, 저지연) 투자에 집중되고 있다. 높은 연산 성능을 만들어내기 위해서는 짧은 시간에 많은 양의 토큰을 생성해내야 하며 비용 구조를 고려 시 저전력, 저지연의 필수 최적화 기술도 필수적이다. 이와 같은 투자 환경 속에서 엔비디아와 같은 GPU 가속기를 개발하는 기업을 중심으로 고성능 클라우드를 만들고 최적화하는 네오 클라우드 및 인프라 최적화 기업들의 수혜가 이어질 것으로 예상한다.
대규모 토큰 공장 프로젝트 나선 미국
토큰은 언어 모델이 텍스트를 처리하는 데 사용하는 데이터 단위(단어 및 단어의 일부 등)다. 비용과 수익을 포함하여 AI의 퍼포먼스를 결정짓는 데 중요한 역할을 하며 짧은 시간 안에 대규모 토큰을 생성해내는 것이 AI 인프라를 구성하는 가장 핵심 목적이 되고 있다.
미국은 정부와 오픈AI를 중심으로 초대형 AI 인프라 구축 사업에 돌입했다. 스타게이트 프로젝트는 오픈AI, 소프트뱅크, 오라클이 주도하고 정부가 정책적으로 지원하는 초대형 AI 인프라 구축 사업으로 2029년까지 미국 전역에 총 10GW 규모의 데이터센터 인프라를 구축하고 5000억 달러를 투자하는 것을 목표로 한다. 오픈AI는 2025년을 기점으로 초대형 AI 인프라 구축을 위한 ‘거대한 AI 팩토리’ 전략을 본격화했다. 오픈AI는 엔비디아, AMD, 브로드컴, 코어위브 등 주요 반도체 및 클라우드 기업들과의 대규모 계약을 통해 약 26GW 규모의 컴퓨팅 역량을 확보하는 데 나섰다.
토큰 공장(AI Factory) 투자가 이어지면서 엔비디아의 견고한 AI 생태계에도 새로운 변화가 일어나고 있다. 브로드컴, AMD, 인텔 등의 기업을 중심으로 AI 전용 칩이 만들어지고 있으며 엔비디아의 핵심 기술인 NVLink와 동일한 기능을 갖춘 표준화 기술(스케일 업 방식)인 UALink도 등장했다. 엔비디아의 고성능 GPU 공급이 제한적이고 가격 부담이 높은 점도 새로운 시장 형성을 가속화하고 있으며 에이전틱 AI, 피지컬 AI와 같은 기술의 발달로 자본투자도 크게 증가하고 있다.
AI 기술의 진화와 데이터센터 수요 성장을 고려 시 엔비디아의 수요가 감소하기보다는 엔비디아 외 시장도 함께 성장하고 있는 것으로 봐야 한다. 엔비디아의 GPU 수요는 여전히 공급을 초과하고 있으며 매년 새로운 기술을 탑재한 칩이 출시되고 있고 엔비디아의 고유한 소프트웨어 솔루션(CUDA, NeMo, 옴니버스, Isaac, Cosmos 등)은 AI 필수 솔루션으로 자리 잡았기 때문이다.
즉 현재의 AI 시장은 엔비디아의 AI 생태계를 기반으로 만들어지고 있으며 엔비디아의 차세대 칩을 먼저 샘플로 받는 기업이 기술적 우위에 서는 시장이 되었다. 다만 엔비디아의 칩 공급이 제한적인 점 등으로 엔비디아 외 시장이 함께 확대되고 있는 것이다.
AI 팩토리 인프라 최적화 기업 성장
UALink 컨소시엄은 인텔, AMD, 브로드컴, 시스코, 구글, HPE, 메타, 마이크로소프트와 같은 주요 테크 기업들이 데이터센터 AI 중심 상호 연결 시스템 개발에 초점을 맞춘 그룹이다. 엔비디아의 NVLink에 대한 대안을 제공할 뿐만 아니라 AI 가속기 네트워크에서 빠른 접근이 가능한 옵션을 제공하는 것을 목표로 삼고 있다.
특히 표준화 기술로 이를 적용시켜 하드웨어·소프트웨어 생태계를 접목시키고 있으며 현재 100개가 넘는 기업이 컨소시엄에 참여하고 있다.
아리스타네트워크(ANET US/ 스위치), 아스테라랩(ALAB US/ 리타이머), 크레도테크놀로지(CRDO US/ 리타이머& AEC), 버티브홀딩스(VRT US/ 데이터센터 전력, 냉각수 공급 등 운영), 델테크놀로지(DELL US/ 서버 랙, 엔비디아, AMD 지원), 암페놀(APH US/ 전자 커넥터 및 케이블 어셈블 등)과 같은 네오 클라우드 관련 기업은 이러한 시장 변화에 대응하여 여러 최적화 기술을 선보이고 있을 뿐만 아니라 현재 엔비디아의 AI 생태계에서도 저전력·저지연 최적화에 중심 역할을 하고 있으므로 수요는 꾸준히 증가할 것으로 기대한다.
에이전틱 AI, 피지컬 AI로의 변화도 고성능 데이터센터 수요를 끌어 올리고 있다. 현재의 인공지능은 생성형 AI를 넘어 에이전틱 AI로 진화했다. 인공지능이 스스로 생각, 분석하고 추론하는 추론형 AI(Reasoning AI)는 동일 시간 대비 데이터센터 토큰 생성량을 약 20배 이상으로 요구하고 있으며 이로 인해 컴퓨팅 사용량이 약 150배 증가할 것으로 보고 있다(엔비디아 예상). 또한 로봇 등 피지컬 AI 시대도 열리고 있어 고성능 데이터센터의 역할은 더욱 중요해지고 있다.
AI 팩토리의 새로운 형태 ‘네오 클라우드’
네오 클라우드는 이러한 변화에 맞춰 진화한 클라우드로 기존 범용 클라우드 대비 저전력, 저지연(Low Latency), 고성능 GPU(Blackwell)의 특징을 가지고 있다. 대표 종목으로는 코어위브(CRWV US), 네비우스(NBIS US), 아이렌(IREN US), 어플라이드디지털(APLD US)이 있다. 이들은 기존에 코인을 채굴하여 즉시 판매하는 사업 구조를 가지고 있었으나 코인 가격의 높은 변동성과 전력 가격 상승 등 비용 증가로 대부분 순손실을 기록 중이었다. 반면 엔비디아는 소프트웨어 영역 확대로 데이터센터 확장이 필요했기 때문에 이들 기업에 GPU를 공급하여 파트너이자 고객으로 발돋움하는 중이다.
데이터센터 확대에 따른 저장장치 시장도 활성화되고 있다. 에이전틱 AI 출시 이후 저장장치 시장은 추론형 수요가 높아지고 있어 SSD, HBM과 같은 핫 데이터(자주 쓰는 데이터) 시장이 확장되고 있고 학습과 만들어진 결과물(콜드 데이터로 분류)을 저장할 HDD 시장도 함께 성장하고 있다.
SSD는 퓨어스토리지(PSTG US), HDD는 시게이트(STX U)와 같은 기업의 수요 증가가 예상된다. 퓨어스토리지는 구독형 저장 서비스(StaaS)를 강화 중이며 엔비디아의 B200과 같은 고성능 GPU 기반 클라우드 파트너 인증을 획득했다. 시게이트는 학습 및 이미지 등 생성 결과물을 저장하는 콜드 데이터 시장에 적합하며 영상과 같은 리치 콘텐츠 증가에 따라 수요가 늘어날 것으로 예상하고 있다.
엔비디아와 브로드컴을 둘러싼 연합, 둘 중 누가 승자인가와 같은 이분법적 사고는 바람직하지 않다. AI 데이터센터에 역사상 보기 드문 막대한 자금이 투입되고 있으므로 시장 자체의 확대로 봐야 하기 때문이다. 하이퍼스케일러(CSP) 4대 업체의 CAPEX 수준은 지난 1년 기준 S&P500 전체 CAPEX의 21%에 달할 정도로 높아지기도 했다. 이러한 시장 확장에 따라 AI 관련 기업들의 지속적인 수혜도 이어질 것으로 기대한다.김세환 KB증권 애널리스트