AI가 데이터센터 밖으로 나온다…다음 격전지 ‘엣지’ [빈난새의 빈틈없이월가]

입력 2026-05-31 06:22
이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.


과열 우려가 팽배한 와중에도 5월 증시를 끌고 간 건 역시 인공지능(AI)이었습니다. 끝날 듯 끝나지 않는 이란 전쟁과 풀리지 않는 호르무즈 해협 상황, 유가와 금리 부담에도 미국 증시는 사상 최고치를 기록했고, 주도주는 여전히 AI였습니다. 다만 AI 랠리에 대한 시장의 질문은 미묘하게 달라지고 있습니다. 이제까지는 ‘AI를 더 크게 돌리기 위해 무엇이 필요한가’가 핵심이었다면, 이제 ‘AI를 어디에서 돌릴 것인가’로 한 단계 더 나아가고 있습니다.

지금까지 AI는 주로 중앙화된 데이터센터에서 돌아갔습니다. 챗GPT, 클로드, 제미나이 같은 대형 모델은 마이크로소프트, 아마존, 구글 같은 하이퍼스케일러의 클라우드 데이터센터에서 학습되고 서비스됐습니다. 이 단계에서 핵심은 AI 모델을 돌리는 데 필요한 컴퓨트(연산력), 즉 GPU·HBM·메모리 반도체부터, 그 컴퓨트를 담는 데이터센터와 전력, 냉각 시스템 등의 인프라입니다. 올 1월 AI 에이전트가 본격적으로 활성화되면서 그 수요는 더 폭발적으로 늘었고, 하이퍼스케일러들은 앞다퉈 더 큰 투자를 선언하면서 AI 자본지출을 주도하고 있습니다.


그러나 AI가 기업들의 일상 업무와 물리 세계로 들어오려면 그것만으로는 부족합니다. 기업 내부의 독점 데이터, 공장 현장의 센서 데이터, 도로를 달리는 자율주행차와 전장에서 표적을 식별하는 드론의 실시간 판단을 처리하려면 AI가 중앙화된 데이터센터와 클라우드에만 묶여있을 수 없습니다. 그것이 기업의 사내 서버가 됐든, 자율주행차와 드론 그 자체가 됐든, 데이터가 발생하는 바로 그곳에서 작동해야 합니다. 젠슨 황 엔비디아 CEO는 "인텔리전스(지능)는 맥락이 있는 곳에 존재해야 한다"는 말로 이를 설명합니다.

그래서 다시 주목받는 것이 바로 ‘엣지 AI’입니다. 클라우드 데이터센터가 중앙이라면, 공장·차량·로봇·드론·PC 같은 네트워크의 끝단(엣지)으로 AI가 내려오는 흐름을 압축한 표현입니다. 온프레미스 AI, 온디바이스(로컬) AI, 피지컬 AI 등과도 상통합니다. 엄밀히 모두 다른 뜻이지만, 핵심은 같습니다. AI가 현장에서 바로 보고, 판단하고, 행동하는 시대를 바라보는 것입니다.

이번 <빈난새의 빈틈없이월가>에서는 AI 랠리의 다음 확산 방향으로 떠오른 엣지 AI를 짚어봤습니다. 특히 이 흐름을 가장 적극적으로 가리키고 있는 회사는 역시 엔비디아인데요. 젠슨 황 엔비디아 CEO는 이미 2~3년 전부터 머신러닝, 인공 신경망에서 출발한 AI가 생성형 AI → 에이전트 AI → 피지컬 AI로 나아갈 것이라는 큰 그림을 제시해왔지요. 엣지 AI는 에이전트 AI 시대를 맞이하기 시작한 세상이 다시 피지컬 AI로 나아가는 과정의 일환으로 볼 수 있습니다.


젠슨 황은 최근 주가가 폭등한 델테크놀로지의 마이클 델 CEO와 함께 한 인터뷰에서 이 흐름을 보다 분명하게 설명했습니다. "개인용 컴퓨터(PC)의 등장이 메인프레임의 일부 기능을 개인도 쓸 수 있도록 함으로써 생산성 대폭발을 가능케 했던 것처럼, AI도 클라우드 밖으로 확산하는 과정"이라는 것입니다.

AI가 현장으로 내려오면 시장은 다시 새로운 수혜를 찾기 시작할 것입니다. 엔터프라이즈용 AI 인프라 구축이 늘어날 때, 로컬 기기와 극한 환경에서 저전력·저지연 추론을 돌려야 할 때, 현장의 데이터를 더 잘 처리해야 할 수요가 늘어날 때 누가 수혜를 볼 수 있는지로 시장의 관심이 확산하고 있습니다.

최근 델과 퀄컴이 과열 논란이 뜨거울 만큼 주가가 급등한 것도 이 흐름과 무관하지 않습니다. AI 랠리는 이제 데이터센터를 넘어 현장에서 지능을 돌리는 인프라로 번지고 있습니다. 왜 엣지 AI가 다음 랠리의 레이어로 부상하고 있는지, 이것이 AI 랠리의 지속 가능성에 어떤 의미를 갖는지, 이 흐름에서 투자자들이 어떤 기업과 기술을 주목할 만한지 자세히 짚어봅니다.

뉴욕=빈난새 특파원 binthere@hankyung.com