인공지능(AI) 산업을 이야기할 때 가장 많이 등장하는 단어 중 하나가 ‘병목’입니다. 립부탄 인텔 CEO는 23일(미국 동부시간) 실적 발표 컨퍼런스콜에서 "업계는 여전히 AI 인프라 전반에 걸쳐 역사상 가장 심각한 공급 제약에 직면해 있다"면서 그중에서도 "메모리는 분명한 병목(bottleneck)"이라고 했습니다.
‘공급 부족’과 ‘병목’은 비슷해 보이지만 다릅니다. 공급 부족은 말 그대로 수요보다 공급이 적은 상태입니다. 재고를 풀거나 대체재를 찾으면 완화할 수 있습니다. 반면 병목은 그것이 없으면 다음 단계로 넘어가지 못하고 전체 시스템이 멈추는 핵심 제약입니다.
AI 산업에는 이런 병목이 겹겹이 쌓여 있습니다. 최첨단 GPU가 있어도 메모리와 파운드리 생산능력, 첨단 패키징과 네트워크, 전력이 없으면 AI는 돌아가지 않습니다. 천문학적인 투자비를 마련하는 자금, AI를 실제 기업 업무에 적용하는 기술, 데이터센터와 고용 충격에 대한 사회적 수용성도 새로운 병목입니다.
이 '겹겹이 병목'은 AI 버블론에 대한 반박 논리의 핵심이기도 합니다. 젠슨 황 엔비디아 CEO는 반도체와 메모리, 전력, 부지와 건설 인력 등이 투자 집행 속도를 제한하기 때문에 적어도 향후 5년 안에는 전형적인 과잉설비가 나타나기 어렵다고 주장합니다. 빅테크가 아무리 많은 돈을 쓰고 싶어도, 이런 병목 때문에 실제 데이터센터를 짓고 가동하는 속도에는 물리적 상한이 있다는 것입니다. 반대로 말하면 이 병목이 해소되는지 여부가 AI 버블을 탐지하는 데 중요한 지표가 될 수도 있습니다. 병목 따라 진화하는 AI 투자 논리 투자자들이 병목에 주목하는 이유는 AI 투자 논리가 그 좁은 길목을 따라 이동해왔기 때문입니다. 병목을 장악한 기업은 강한 가격 결정력을 얻고, 병목을 풀어주는 기술을 가진 기업에는 새로운 수요가 몰립니다.
2022년 11월 챗GPT가 처음 등장했을 때 가장 큰 제약은 엔비디아의 GPU였습니다. 누가 더 빨리, 더 많은 GPU를 확보해 연산 능력을 확장하느냐가 모두의 관건이었습니다. GPU는 공급이 부족하다못해 병목이 됐고, 엔비디아 주가도 폭등했지요.
엔비디아가 독점한 연산 병목을 우회하기 위해 구글, AMD, 세레브라스 같은 기업들이 도전장을 냈습니다. 물론 맞춤형 반도체(ASIC)나 추론 전용 칩 등은 엔비디아 GPU의 완벽한 대체재가 되거나, 연산 병목을 완전히 해소할 수 없습니다. 다만 '엔비디아 유일'이던 투자 논리는 더 복잡다단해졌습니다.
이것이 이른바 ‘AI 수혜주’가 확산해온 경로입니다. AI가 발전하면서 병목은 확산했습니다. GPU에 데이터를 공급하는 고대역폭메모리(HBM), GPU와 메모리를 묶는 첨단 패키징, 수많은 칩을 연결하는 네트워크와 광통신, 데이터센터를 돌리는 전력까지. AI의 비용과 성능을 좌우하는 요소들로 수요와 투자가 몰렸습니다. 병목을 장악한, 혹은 그것을 풀어낼 기업들의 주가는 급등했습니다. <h2 data-end="1242" data-section-id="16805hh" data-start="1218"> </h2> "메모리, 증설해도 2030년까지 부족" 현재 가장 강한 물리적 병목으로 꼽히는 것은 메모리입니다. 에이전트 AI가 확산하면서 모델은 커지고 문맥은 길어지며 추론량은 폭증하고 있습니다. 그만큼 더 많은 메모리 용량과 대역폭이 필요합니다. 2분기 반도체 업종이 89% 오르는 동안 메모리 관련 주가가 146% 폭등한 배경입니다. '메모리 병목' 심화에 베팅한 투자자들이 몰렸다는 뜻이기도 합니다.
그렇다면 7월 들어 메모리 주가가 하락한 것은 이런 병목이 해소되고 있기 때문일까요? 실제 메모리 기업들의 잇단 증설 발표, 중국 창신메모리(CXMT)의 상장과 증설 계획은 공급 과잉 우려를 자극하며 투자자들의 차익실현과 레버리지 축소를 부추겼습니다.
그러나 업계와 월가의 분석은 다릅니다. 실제 공장 건설과 장비 확보, 수율 안정화까지는 몇 년이 걸리기 때문에 2028년은 되어야 공급 증가가 가능하다는 겁니다. 그때도 공급 과잉은 먼 이야기일 수 있습니다. 도이치뱅크는 2030년에도 메모리 수요가 공급을 11% 웃돌 것으로 예상했고, 시트리니리서치는 부족률을 18%로 전망했습니다.
심지어 HBM을 제외한 범용 D램 부족률은 2030년에도 24~25%에 이를 수 있다고 봤습니다. HBM이 일반 D램보다 더 많은 웨이퍼와 클린룸 공간을 차지해 범용 메모리 생산을 잠식하기 때문입니다.
중국 메모리 증설도 당장 글로벌 시장의 병목을 해소하기는 어렵다는 시각이 중론입니다. 중국 업체들은 자국 수요를 충족하는 데 집중하고 있는데다, 고성능 HBM 시장은 아직 본격적으로 진입하지 못한 상태입니다. 중국산은 싸다는 통념도 메모리 시장에선 통하지 않고 있습니다. 창신메모리의 서버용 D램 가격은 삼성전자의 동급 제품보다 비싼 것으로 알려졌습니다. 메모리보다 풀기 어려운 전력물리적 병목 가운데 어쩌면 메모리보다 더 풀기 까다로운 것은 전력입니다. 메모리는 한국에서 만들어 미국에서 수입할 수 있지만, 전력은 데이터센터가 위치한 곳에서 생산하고 연결해야 합니다. 또 발전소가 있어도 송전선과 변전소, 변압기가 없으면 전기를 쓸 수 없습니다. 발전량 자체보다 전력을 실제로 공급받을 수 있는 계통 접속권이 더 희소한 경우도 많습니다.
가스터빈과 스위치기어, 냉각설비, 숙련된 전기 기술 인력까지, 공급망도 복잡합니다. 하나만 늦어져도 데이터센터를 가동할 수 없습니다. 국제에너지기구(IEA)는 전력망과 장비 공급망 병목 때문에 계획된 데이터센터의 약 20%가 지연될 위험이 있다고 봤습니다.
그래서 기업들은 전력망 연결을 기다리는 대신 가스터빈, 연료전지, 배터리 등을 데이터센터에 설치해 직접 전력을 생산하거나, 자체 발전 역량을 갖춘 네오클라우드 기업들과 계약하고 있습니다. '계통 연결 병목'을 우회하기 위한 방법들입니다.
동시에 고전압 아키텍처와 전력 관리 반도체, 광통신·실리콘포토닉스, 액체냉각 등 전력 손실을 줄이고, 같은 전력으로 더 많은 연산을 처리하기 위해 필요한 기술에도 돈이 몰립니다. 전력을 더 빨리 확보하거나 덜 쓰게 만드는 능력이 곧 경쟁력이 된 것입니다. 다음 병목은 ‘AI를 꽂아넣는 능력’물리적 병목을 빠져나와도 'AI 배포·도입' 과정이 만만치 않습니다. 쉽게 말해 AI를 기업의 실제 업무와 데이터, 맥락에 맞춰 '꽂아넣는' 능력입니다. 티리아스리서치는 "모델을 돌리는 건 컴퓨팅 문제지만, 에이전트를 돌리는 건 시스템과 플랫폼의 문제"라고 말합니다.
기업용 에이전트는 똑똑한 모델 하나만 연결한다고 되지 않습니다. 회사 고유 데이터와 전사관리시스템(ERP), 고객관리시스템(CRM) 등 기존 시스템과 통합돼야 합니다. 누가 어떤 정보와시스템에 접근할 수 있는지 신원과 보안, 권한을 설정하고 오류와 비용도 통제해야 합니다. 한 마디로 AI 에이전트가 일할 수 있도록 기업의 데이터와 업무 흐름을 새롭게 세팅해야 합니다. 모건스탠리가 소프트웨어 업계 조사에서도 AI 도입의 주요 과제로 인프라·에너지 제약과 함께 레거시 시스템 통합, 데이터 준비, AI 인력 부족이 꼽혔습니다.
이에 따라 오픈AI, 앤스로픽, 마이크로소프트, 아마존, 구글, 서비스나우, 팔란티어, 오라클 등 내로라 하는 AI·플랫폼 기업들은 일제히 '현장 배포' 경쟁에 뛰어들고 있습니다. 업무별로 적합한 모델을 선택해주는 ‘모델 라우팅’, 여러 에이전트를 조율하는 ‘오케스트레이션’, 오류와 비용을 감시하는 ‘옵저버빌리티’가 격변하는 소프트웨어 업계에서 새 투자 키워드가 된 이유입니다. 조정과 붕괴를 가르는 기준지금 AI 산업의 병목은 하나가 풀려서 다음으로 넘어가는 것이 아닙니다. AI가 똑똑해지고 더 많이 쓰일수록 메모리와 전력, 네트워크와 데이터센터는 더 많이 필요해집니다. 새로운 병목이 기존 병목 위에 겹겹이 더해지는 구조를 보면 AI 사이클은 여전히 초입에 가깝습니다.
다만 지금의 메모리 조정이 보여주듯, 산업의 병목이 깊어진다고 병목주의 주가가 같은 속도로 계속 오르는 건 아닙니다. 기다리는 줄이 길어질수록 누군가는 이를 우회할 새로운 기술과 공급원을 찾아 움직입니다. 시장의 관심과 자금도 늘 그다음 돌파구를 향해 먼저 이동합니다. 금리와 유동성 환경이 나빠지면 앞서간 주가와 밸류에이션이 압박을 받기도 합니다.
결국 시장의 질문은 'AI 사이클이 끝났느냐'가 아닙니다. 누가 지금의 병목에서 협상력을 가장 오래 지킬 것인지, 누가 그 길목을 넓히거나 우회할 것인지, 또 다음 병목은 어디에서 생길 것인지입니다. 그 옥석 가리기가 치열해질수록 시장과 주가의 변동성도 커질 것입니다. 그러나 조정과 붕괴를 가르는 기준은 결국 병목입니다. 재고가 쌓이고 납기가 짧아지고 전력 연결이 빨라지는 신호가 없다면, 흔들림은 사이클의 끝이 아니라 과정일 가능성이 큽니다.
쉬운 돈이 흘러넘치고, AI라는 이름만으로 함께 오르던 구간은 점점 끝나가고 있습니다. 하지만 AI 시대의 투자 기회가 사라지는 것은 아닙니다. 돈은 앞으로도 병목을 장악한 기업과 깨뜨리는 기업, 그리고 다음 병목을 선점하는 기업으로 움직일 것입니다.
뉴욕=빈난새 특파원 binthere@hankyung.com