▼ AI 데이터센터 인프라 시장의 현주소
인공지능(AI) 기술이 모든 산업의 패권을 좌우하는 '소버린 AI(Sovereign AI)' 시대가 도래함에 따라, 국가적 차원의 기술 주권 확보가 그 어느 때보다 중요해졌다. AI 경쟁력의 핵심인 글로벌 AI 데이터센터 시장은 2024년 143억 달러에서 2034년 1573억 달러 규모로 10배 이상 성장할 것으로 전망되고 있지만, 현재 국내 AI 데이터센터의 90% 이상은 엔비디아 GPU에 의존하고 있다.
엔비디아의 독점은 GPU에만 국한되지 않는다. AI 데이터센터의 핵심 요소 두 가지는 GPU와 네트워크인데, 엔비디아의 인피니밴드(InfiniBand) 기반 UFM(Unified Fabric Manager)이 네트워크 관리 분야에서 70%에 달하는 시장 점유율을 차지하며 사실상의 표준으로 자리 잡았다. 이로 인해 국내 AI 인프라 시장은 엔비디아의 기술 생태계에 종속되어, 자율적인 운영이 제한되고 공급망 위기나 가격 변동에 취약한 구조로 고착화되었다.
독점 구조로 인한 경쟁부재는 비용문제로 이어졌다. 인피니밴드(InfiniBand) 기반 솔루션은 이더넷 기반 솔루션에 비해 구축 비용이 30~100% 가량 더 비싸다. 비용 부담은 AI 인프라 구축을 위한 초기 투자 부담을 가중시킴과 동시에 AI 기술 개발의 진입 장벽을 높여 기술 생태계의 성장을 저해한다.
뿐만 아니라 인피니밴드(InfiniBand) 기반 솔루션은 사실상 엔비디아가 유일한 공급자인만큼 선택의 기회가 줄어들고, 이는 특정 기업에 대한 기술 종속성 심화라는 결과를 낳는다. 이외에도 국산 NPU에 대한 기술 지원이나 최적화된 협력을 기대하기 어려워 국산 NPU 생태계 성장이 어려울 수밖에 없다.
▼ 국산 UFM의 반격: 아토리서치, 범용 이더넷 기반의 해법을 제시하다
이러한 위기 속에서 AI 신흥기업들의 발빠른 개발과 시장 진출이 하나의 해법으로 자리잡을 수 있을 것으로 보인다.
소프트웨어 정의 네트워킹(Software Defined Networking, 이하 SDN) 및 클라우드 전문기업 아토리서치는 독점적 구조 문제를 해결하기 위해 자체 네트워크 인프라 관리 기술과 범용 이더넷 기반의 개방형 기술을 활용한 AI 데이터센터 패브릭(네트워킹) 관리 솔루션 'AIFM(AI Fabric Manager)'을 공식 출시했다.
엔비디아 UFM이 강력한 성능을 제공하지만, AIFM은 비용 효율성, 개방성, 가상화 통합이라는 차별화된 장점으로 AI 네트워크 인프라 시장의 새로운 대안으로 부상하고 있다.
인피니밴드(InfiniBand) 기반의 솔루션은 하드웨어에 종속되어 있어 초기 투자 비용이 높은 반면, 아토리서치의 AIFM는 RoCEv2(RDMA over Converged Ethernet) 기술과 SONiC OS를 지원하는 다양한 제조사의 범용 이더넷 장비를 활용해 고객이 자신의 예산과 요구사항에 맞는 하드웨어를 선택하여 네트워크를 구성할 수 있도록 한다. 이는 인피니밴드(InfiniBand) 대비 130%~200% 수준의 가성비(bandwidth/$)를 제공함으로써 AI 데이터센터 구축 비용을 획기적으로 절감할 수 있다.
또한 아토리서츠의 AIFM는 특정 제조사의 하드웨어에 얽매이지 않고 다양한 하드웨어와 소프트웨어를 유연하게 선택할 수 있기 때문에 고객의 목적에 따라 AI 네트워크를 최적화할 수 있는 자유를 제공한다. 국내에서 개발 중인 NPU(신경망처리장비)와 같은 국산 하드웨어와의 긴밀한 연동 및 최적화가 가능해 국산 AI 반도체 생태계 발전에 중요한 역할을 할 수 있다.
이외에도 아토리서치의 고유한 가상화 기술과 결합해, 서버-서버 간 통신뿐만 아니라 VM(가상머신)-VM 간 등 복잡한 클라우드 환경에서 네트워크 병목 현상을 파악하고 트래픽 흐름을 효율적으로 관리하여 AI 워크로드의 성능을 최적화시킬 수 있다.
아토리서치의 AIFM는 AI 인프라 구축에 있어 경제성과 유연성, 그리고 향후 확장성을 중요시하는 기업들에게 매력적인 선택지가 될 것으로 보인다. 특히 아토리서치는 이러한 패브릭 관리 솔루션을 통해 AI 인프라 구축의 비용 효율성을 높이고 AI 데이터 센터의 운영 안정성도 강화할 수 있는 만큼 빠른 시장 진입이 가능할 것으로 전망된다.