“지금처럼 세계 데이터센터의 99%가 엔비디아 칩에 의존한다면 기존 성능을 두 배 높이는 데 세 배의 전력이 더 필요합니다.” 최근 방한한 로드리고 리앙 삼바노바 최고경영자(CEO)는 한국경제신문과의 인터뷰에서 “전력이 무한정 늘어날 수 없어 향후 인공지능(AI) 역사는 전력 부족을 해결하는 도전자들이 써나갈 것”이라며 이렇게 말했다.
미국 정보기술(IT) 업체 선마이크로시스템스, 오라클을 거친 리앙 CEO는 2017년 AI 대가인 스탠퍼드대 쿤레 올루코툰, 크리스 레 교수와 함께 삼바노바를 창업했다. 저전력 추론형 AI 반도체인 ‘재구성형 데이터흐름 칩’(RDU)을 개발한 삼바노바는 AI 하드웨어 시장을 장악한 엔비디아 대항마 중 하나로 꼽힌다. 한국 AI 반도체 설계기업인 퓨리오사AI와 리벨리온보다 오랜 기간 시장 검증을 받았다. 2021년 마지막 투자 유치 당시 50억달러(약 7조원)에 달하는 기업가치를 인정받았다. 리앙 CEO는 “한국은 사회 전체가 신기술을 받아들이는 데 능숙하고 뛰어난 엔지니어가 많아 로컬 데이터에 최적화된 ‘소버린AI’와 제조업에 특화된 ‘피지컬AI’를 강화하는 투트랙으로 가야 한다”고 조언했다.
▷AI 시장에서 엔비디아 벽이 큽니다.
“세계 데이터센터의 99%가 엔비디아 칩을 사용합니다. 우리뿐 아니라 AMD, 구글, 아마존같이 자체 칩을 제조하는 회사를 다 합쳐도 점유율이 1%밖에 안 됩니다. 하지만 AI 시장의 무게중심은 점점 ‘학습’(연구개발)에서 ‘추론’(상용화)으로 이동하고 있습니다. 추론엔 학습보다 10배 많은 칩이 필요합니다. 엔비디아 칩만 써서는 기업이 감당해야 할 전력과 비용이 너무 커집니다. 엔비디아 칩만 사용하는 시대가 흔들리는 변곡점이 올 것이라고 봅니다.”
▷RDU가 해법이 될 수 있나요.
“결국 AI산업은 ‘에너지 인(입력)→토큰 아웃(출력)’ 비즈니스입니다. 다시 말해 킬로와트(㎾)를 토큰으로 얼마나 잘 바꾸는지가 핵심입니다. 추론 단계에서 삼바노바 RDU는 엔비디아 그래픽처리장치(GPU)보다 속도는 6배 빠르고 에너지 효율은 10~20배 높습니다. 같은 성능을 뽑는 데 필요한 공간도 9분의 1에 불과합니다. 전력과 공간이 병목이 되는 환경일수록 우리 같은 도전자에게 기회가 생길 것입니다.”
▷성능보다 전력이 중요해지는 시대가 올까요.
“AI를 대규모로 확산하려면 결국 전기가 필요합니다. 이미 많은 데이터센터가 원하는 만큼 전력을 공급받지 못하고 있습니다. 모두가 ‘기가와트급 데이터센터’를 이야기하지만 그 전력을 어디서 어떻게 가져올지 아무도 명확히 답하지 못합니다. 가트너에 따르면 글로벌 AI 추론 분야 투자액은 올해 91억달러에서 2029년이면 717억달러로 늘어날 것으로 추정됩니다. 하지만 전력 문제를 해결하지 못하면 성장은 정체될 것입니다.”
▷삼바노바만의 해법이 있나요.
“같은 성능을 더 적은 공간에 담을 수 있기 때문에 우린 해상 컨테이너 하나에 10㎾ 랙으로 저전력 데이터센터를 구축할 수 있습니다. 지금까지는 전력을 데이터센터로 끌어오려고만 생각했다면 앞으로는 데이터센터를 전력원 근처로 옮기는 방식으로 바뀔 겁니다. 기업과 국가 모두 이 같은 솔루션을 고민할 것입니다.”
▷엔비디아 독점을 깰 수 있습니까.
“지금 엔비디아는 모든 기업에 사실상 기본값입니다. 전 세계 거의 모든 엔지니어가 쿠다(CUDA) 생태계에서 설계하고 있습니다. 하지만 세상에 독점을 좋아하는 고객은 없습니다. 이미 삼바노바를 비롯해 많은 기업이 엔비디아보다 훨씬 빠르고 효율적인 솔루션을 내놓고 있습니다. 대기업 담당자 입장에서 기존 관성에서 벗어난 선택을 하는 것은 엄청난 리스크입니다. 결국 전력과 공간 문제가 이들을 움직이게 할 것입니다.”
▷AI 시장에서 스타트업이 생존 가능할까요.
“삼바노바 본사는 미국 샌프란시스코 팰로앨토 101번 고속도로 바로 옆입니다. 한쪽엔 구글 캠퍼스가, 반대쪽엔 메타가 있습니다. 그 사이에 아마존웹서비스(AWS)와 MS가 자리 잡았습니다. 조금만 더 가면 애플, 엔비디아, AMD가 쭉 나오죠. 엔지니어들은 길만 건너면 이직할 수 있습니다. 인재를 둘러싼 경쟁은 상상하지 못할 정도로 치열합니다. 하지만 몇 달 전 사내 설문에서 ‘왜 삼바노바로 오느냐’고 물었더니 엔지니어들이 공통적으로 한 대답은 ‘아주 어려운 문제를 풀고 싶어서’였습니다. 그런 사람들이 스타트업의 무기입니다.”
▷한국의 AI 생태계를 어떻게 보나요.
“최근 한국 정부가 AI산업 육성에 100조원을 투입하는 프로젝트에 나섰다는 뉴스를 들었습니다. 중동 일부 국가에서 보듯이 국가 리더가 ‘AI에 투자하겠다’고 정하면 국가 전체가 움직입니다. 지금 한국이 그렇습니다. 국가 차원에서 ‘리더가 되겠다’는 야심이 보입니다. 한국엔 이미 글로벌 규모의 대기업이 있습니다. 게다가 한국엔 신기술에 능숙하고 우수한 엔지니어 집단이 오랫동안 지식을 축적해 왔습니다. 인재는 돈이 있다고 단기간에 만들 수 있는 게 아닙니다. 국가적 정책 드라이브와 인재가 결합되면 엄청난 힘이 될 것입니다.”
▷한국이 소버린AI를 갖는 게 효과적일까요.
“한국 정도 되는 나라라면 자체 ‘소버린 모델’, 즉 국가 주도 모델을 갖는 게 큰 이익이라고 봅니다. 빅테크가 만든 모델은 다국어로 훈련돼 있고 각국 데이터가 일부 섞여 있습니다. 많은 국가가 처음부터 자국의 민감한 데이터를 활용해 국가 자산으로 소버린 모델을 만들려는 이유입니다. 그렇다고 꼭 오픈AI 같은 범용 모델과 정면 승부할 필요는 없습니다. 국내 데이터를 잘 활용해 ‘로컬 커뮤니티에 최적화된 범용 모델’을 보유하는 게 중요합니다. 동시에 한국이 강점을 지닌 자동차, 전자 등 수직 산업에 특화한 제조AI, 에이전트형 모델에도 투자해야 합니다.”
■ 로드리고 리앙 CEO는
△1971년 대만 출생
△1994년 스탠퍼드대 전자공학 학·석사 졸업
△1994년 휴렛팩커드(HP) 입사
△2002년 선마이크로시스템스 전무
△2010년 오라클 부사장
△2017년~현재 삼바노바 창업자 및 대표
황정환 기자 jung@hankyung.com