구글이 인공지능(AI) 반도체 칩 시장에서 존재감을 키우고 있다. 엔비디아 의존도가 높았던 오픈AI가 구글 칩을 도입하면서, 엔비디아의 GPU 중심 체제에 균열이 생길 수 있다는 관측이 나온다.30일 로이터 보도에 따르면, 오픈AI는 최근 구글이 설계한 AI 반도체 TPU를 챗 GPT 운영에 활용하기 시작했다. 오픈AI가 엔비디아 외의 반도체를 도입한 것은 이번이 처음이다. 오픈AI는 앞으로는 엔비디아 GPU와 구글 TPU를 병행 사용하게 된다.
오픈AI의 이 같은 결정 배경에는 AI 서비스 운영에 따른 비용 증가와 연산 수요 폭증이 있다. 특히 AI 모델이 학습한 지식을 실제 데이터에 적용하는 ‘추론(inference)’ 과정은 막대한 컴퓨팅 파워와 전력 소비를 요구한다.
TPU는 바로 이 추론 작업에 최적화된 반도체다. 다양한 병렬 연산에 대응하는 엔비디아의 GPU와는 성격이 다르다. 전반적인 범용 성능은 엔비디아가 앞서지만, 구글이 염두에 둔 특정 작업에서는 TPU가 더 높은 효율을 낼 수 있다는 평가도 나온다.
이번 협력은 구글 반도체 사업에 중요한 전환점이 될 전망이다. 그동안 TPU는 애플이나 앤트로픽 등 일부 기업에만 제한적으로 제공돼 왔다. 하지만 이제 고객 명단에 오픈AI가 합류하면서, AI 반도체 시장의 주도권 구도에 변화가 시작됐다는 신호로도 해석될 수 있기 때문이다.
다만, 구글의 TPU가 엔비디아의 시장 지배력을 단번에 위협하기는 어렵다는 시각도 존재한다. 업계에 따르면 오픈AI가 도입한 TPU는 최상위 사양은 아닌 것으로 알려졌다. 이에 따라 이번 협력이 일부 기능에 국한된 제한적 활용에 그칠 수도 있다는 분석도 나온다.
고송희 인턴기자 kosh1125@hankyung.com