인공지능(AI)이 챗봇을 넘어 검색·코딩·외부 프로그램 실행을 대신하는 'AI 에이전트'로 진화하면서 데이터센터 반도체 구성에도 변화가 나타나고 있다는 관측이 나온다. 그래픽처리장치(GPU)의 중요성은 여전하지만 중앙처리장치(CPU)가 담당해야 할 범용 연산이 대폭 늘면서 서버용 CPU 시장이 새로운 성장 국면을 맞을 수 있다는 분석이다.
16일 대한무역투자진흥공사(KOTRA·코트라)에 따르면 이영주 코트라 미국 시카고무역관은 최근 "기존 챗봇형 AI가 GPU 중심의 대규모 연산에 집중했다면 AI 에이전트는 GPU 밖에서 처리되는 범용 작업을 크게 늘리는 구조"라며 "이에 따라 CPU는 GPU를 보조하는 장치를 넘어 AI 에이전트의 실제 작업환경을 운영하는 핵심 구성요소로 다시 주목받고 있다"고 분석했다.
이 무역관은 코트라 해외시장뉴스 게시글을 통해 이 같은 분석을 제시했다.
AI 에이전트는 사용자가 원하는 목표를 달성하기 위한 계획을 세우고 웹·사내 문서를 검색하면서 외부 소프트웨어·응용프로그램 인터페이스(API)를 호출한다. 또 필요한 경우 코드를 작성·실행하고 해당 결과를 검토해 작업을 다시 수행하기도 한다.
이 무역관은 이 과정에서 "언어 모델의 추론과 답변 생성은 주로 GPU가 담당하지만 검색 결과 처리, 코드 실행, 파일 관리, 도구 호출 및 여러 작업 간 조율에는 중앙처리장치(CPU)가 폭넓게 사용된다"고 설명했다.
CPU·GPU의 구성비도 달라질 수 있다. 이 무역관은 "AMD는 기존 챗봇형 AI 환경에서 CPU와 GPU의 구성비가 약 1대 4~8 수준이었다면 AI 에이전트 환경에서는 1대 1 수준으로 이동하고 일부 작업에서는 CPU 비중이 GPU보다 높아질 수 있다고 설명했다"고 전했다.
그러면서도 "이는 GPU 수요가 줄어든다는 의미가 아니라 동일한 수의 GPU를 효율적으로 활용하기 위해 필요한 CPU 자원이 이전보다 증가한다는 의미"라고 강조했다.
Arm의 전망도 비슷하다. 시장조사업체 트렌드포스가 인용한 Arm 전망에 따르면 "기존 AI 데이터센터에는 전력 1GW당 약 3000만 개의 CPU 코어가 필요했지만 AI 에이전트 시대에는 약 1억2000만 개로 네 배 늘어날 수 있다"는 관측이다. CPU·GPU 구성비도 "향후 약 1대 1~2 수준으로 변화할 가능성"이 제기됐다.
반도체 기업들 간 경쟁도 본격화하고 있다. 엔비디아는 베라 CPU, 루빈 GPU를 결합한 '베라 루빈' 플랫폼을 내놨다. 회사는 자체 벤치마크에서 "베라 CPU가 코드 컴파일, 파이썬 도구 실행·코드 분석 등 '에이전트 샌드박스' 작업에서 주요 x86 기반 CPU보다 최대 1.8배 높은 성능"을 보였다고 소개했다.
베라 루빈 NVL72의 경우 "이전 세대 플랫폼인 GB200 NVL72보다 동일한 전력용량에서 최대 10배 많은 토큰을 처리할 수 있다"는 설명이다.
AMD는 에픽 CPU·인스팅트 GPU를 결합하고 퀄컴은 지난 6월 데이터센터용 '드래곤플라이'를 공개했다. Arm도 에이전트형 AI용 데이터센터 CPU를 선보였다.
수혜 범위는 CPU에 그치지 않을 전망이다. 이 무역관은 "AI 인프라 수요의 확대는 한국 기업에 HBM 이외의 새로운 기회를 제공할 수 있다"며 "CPU 활용과 데이터 이동이 증가하면 서버용 DDR5, 기업용 SSD, CXL 기반 메모리 확장장치뿐 아니라 패키징 기판과 고속 데이터 전송 부품의 수요도 함께 늘어날 수 있다"고 내다봤다.
이어 "향후 AI 데이터센터 시장에서는 특정 프로세서의 성능이나 보유량보다 CPU, GPU, 메모리, 저장장치와 네트워크를 작업 특성에 맞게 구성하는 역량이 더욱 중요해질 전망"이라고 분석했다.
김대영 한경닷컴 기자 kdy@hankyung.com