“전력을 갖춘 데이터센터를 새로 개발하는데는 2년이 걸립니다. 삼바노바시스템즈 랙(인공지능 칩이 들어가는 선반)이 들어가면 며칠 안에 작동합니다.”
ADVERTISEMENT
2일(현지시간) 미국 샌타클래라 본사에서 기자와 만난 로드리고 리앙 삼바노바최고경영자(CEO)는 자사 인공지능(AI) 반도체의 경쟁력으로 저전력을 꼽았다. 그는 “기존 고성능 그래픽처리장치(GPU) 랙은 100~150㎾를 쓰지만 삼바노바의 공랭식 랙은 19㎾를 사용한다”며 “건물이나 인허가, 새 발전설비를 기다릴 필요가 없다”고 말했다.
삼바노바는 리앙 CEO가 스탠퍼드대의 쿤레 올루코툰·크리스토퍼 레 교수와 2017년 공동창업한 AI 반도체 기업이다. 사명은 브라질 춤 ‘삼바’와 포르투갈어로 새롭다는 뜻의 ‘노바’를 합쳤다. 브라질에서 자란 리앙 CEO의 배경이 담겼다.
ADVERTISEMENT
핵심 제품인 ‘재구성형 데이터흐름 칩(RDU)’에도 리듬에 몸을 맡기는 삼바의 특성이 반영됐다. GPU는 매번 연산 할 때마다 데이터를 고대역폭메모리(HBM)에서 가져와야 한다. 반면 RDU는 칩 위에 연산장치와 메모리를 순차적으로 배치해 데이터가 흐르는(Data flow) 과정에서 작업이 이뤄진다. 리앙 CEO는 “재료가 필요할 때마다 마트에 다녀오는 대신 조리법을 먼저 보고 재료를 준비해 차례로 냄비에 넣는 방식”에 빗댔다.
모델이 바뀌면 칩 내부의 자원 배치와 연결도 바뀐다. 소프트웨어로 모델에 맞게 연산장치와 메모리를 조절하는 ‘재구성’ 기능이다. 그는 “모양이 다른 레고 블록을 다시 배치하는 것과 같다”고 설명했다.
삼바노바는 이런 설계로 전력 소모를 낮춰 새로운 시장을 공략하고 있다. 바로 노후한 ‘브라운필드’ 데이터센터를 AI용으로 전환하는 사업이다. 여기에는 오래된 전력·냉각 설비가 고성능 GPU 랙을 감당하지 못하더라도 삼바노바 저전력 장비는 수용할 수 있다는 계산이 깔렸다. 리앙 CEO는 “신규 데이터센터 건설에 반발이 있지만 기존 시설을 되살리는 분야에서는 성장이 일어나고 있다”며 “전 세계에는 삼바노바 랙을 투입해 최신 모델을 돌릴 수 있는 데이터센터가 1만 개 가량 있다”고 강조했다.
ADVERTISEMENT
엔비디아와의 협력도 같은 맥락이다. 고성능 작업은 GPU에게 맡기고 높은 전력 효율이 필요한 일은 RDU로 수행한다는 구상이다. 삼바노바는 지난 5월 대만 컴퓨텍스에서 사용자 입력을 처리하는 ‘프리필’은 엔비디아 랙이, 답변을 생성하는 ‘디코드’는 삼바노바 랙이 맡는 분산 추론 구조를 선보였다. 그는 “추론 안에서도 프리필과 디코드가 분리되고 있다”며 “고객이 각 분야에 특화된 기술을 섞어 쓰는 방향으로 갈 것”이라고 내다봤다.
올해는 삼바노바에게 극적인 한해였다. 2021년 50억달러 기업가치를 인정받았으나 올해 초 24억달럴 기업가치를 내려 투자자금을 조달하며 쓴 맛을 봤다. 전 직원의 37%도 내보내야 했다. 그러나 AI 시장이 학습에서 추론 중심으로 옮겨가면서 삼바노바가 재조명되기 시작했다. 리앙 CEO는 “챗GPT가 나오기도 전인 2017년 창업했으니 조정이 필요할 수밖에 없었다”라며 “회사의 핵심 원칙 중 하나는 ‘항상 조정하고 항상 적응한다’는 것”이라고 강조했다.
ADVERTISEMENT
사용자 대신 업무를 처리하는 AI 에이전트도 새로운 기회로 꼽았다. 여러 업무에 특화된 모델을 번갈아 실행하려면 모델 전환에 드는 시간과 비용을 줄여야 한다는 설명이다. 그는 “에이전트가 다양해지고 전문화될수록 호출 즉시 모델을 바꿔 실행할 필요가 커진다”고 강조했다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
ADVERTISEMENT