이 기사는 프리미엄 스타트업 미디어 플랫폼 한경 긱스에 게재된 기사입니다.
인공지능(AI) 반도체는 글로벌 정보기술(IT)업계에서 가장 뜨거운 분야로 꼽힌다. 생성형 AI를 필두로 다양한 AI 서비스 수요가 급증한 영향이다. 미국의 엔비디아가 이 시장을 주도하고 있다. 고성능 그래픽처리장치(GPU) A100과 H100을 앞세운 엔비디아의 글로벌 시장 점유율은 90%에 달한다. 국내에서는 스타트업이 AI 반도체 산업의 혁신을 이끌고 있다. 퓨리오사AI는 국내 대표 AI 반도체 스타트업 중 하나다. 백준호 퓨리오사AI 대표가 2017년에 설립했다. 백 대표는 미국 반도체 기업 AMD, 삼성전자 메모리사업부 등에서 근무한 반도체 전문가다. 퓨리오사AI는 지난 8월 미국 실리콘밸리에서 열린 반도체 콘퍼런스 ‘핫칩스2024’에서 2세대 반도체인 ‘레니게이드(RNGD)’을 소개했다. 레니게이드는 1세대 제품인 ‘워보이(Warboy)’에 이어 두 번째로 자체 개발한 AI 반도체다. 48기가바이트(GB) 4세대 고대역폭메모리(HBM3)가 두 대 장착됐다. 최근 백 대표를 한경 긱스가 만났다.
Q. 지난 8월 미국 실리콘밸리에서 열린 반도체 콘퍼런스 ‘핫칩스2024'에 참석하셨습니다.
A. 핫칩스는 보통 글로벌 기업이 신제품을 출시할 때 자사 칩의 우수성을 설명하는 곳입니다. 저희 칩이 발표 명단에 선정됐습니다. 발표장에서 상당히 좋은 반응을 받았습니다. 우리 칩의 기술적인 부분들, 설계의 혁신적인 부분에 대해서 상당히 긍정적인 반응을 보여주셨다고 생각합니다.
Q. 무엇을 발표했나요?
A.2세대 칩인 레니게이드의 기술적인 내용입니다. 기술적인 콘퍼런스라서 그런 부분을 발표했습니다. 저희 칩이 설계에서 어떤 이노베이션을 적용했는지 설명했죠.
Q. 그 내용이 궁금합니다.
A. 레니게이드는 데이터센터용으로 가장 앞서 있습니다. 고도화된 AI 애플리케이션을 고성능으로 돌릴 수 있는 매우 고성능의 추론 AI 반도체죠. 챗GPT나 바드를 돌리려면 굉장히 강력한 반도체 성능이 필요합니다. 레니게이드 칩은 굉장히 앞서 있습니다. 데이터 센터형 고성능 칩이 나왔다는 데 큰 의미가 있죠. 엔비디아의 H100 등 글로벌 회사의 제품과 경쟁에서 충분히 경쟁할 수 있는 제품입니다.
Q. 구체적으로 성능이 얼마나 뛰어납니까?
A. 절대 성능으로 따지면 엔비디아의 H100의 절반 정도의 성능이 레니게이드에서 나옵니다. 그런데 전기 사용량은 4분의 1 수준이죠. 전기 사용량을 따지면 사용 효율이 2배 정도의 칩이라고 말씀드릴 수 있습니다. 서버 단위로 보면 해당 칩을 많이 장착할 수 있기 때문에 H100 8개 장착된 서버와 저희 칩 16개를 장착을 하면 서버에선 거의 동등한 성능이 나오는 시스템 구축이 가능합니다.
Q. 가격으로 보면 어떤가요?
A. 가격은 앞으로 정확하게 정해질 겁니다. 비용도 전력 사용과 마찬가지로 두 배 정도 아낄 수 있습니다.
Q. 레니게이드는 바로 사용할 수 있는 상용 제품인가요?
A. 그렇죠. 칩이 나와서 LG에 먼저 우리가 칩을 전달할 겁니다. 이제 상용 평가가 가능한 수준까지 왔습니다. 상용화 단계의 칩이라고 말씀드리겠습니다.
Q. 다른 고객사도 궁금합니다.
A. 지금은 LG와 아람코 정도는 말씀드릴 수 있습니다. 지금 공개하기 힘든 다른 고객사도 있고 여러 글로벌 기업과 논의 중입니다.
Q. 레니게이드는 추론용 반도체인가요?
A. 네. 서비스에 사용하는 추론용입니다.
Q. 최근 중동에서 아람코가 다른 AI 반도체 기업과 각각 MOU를 체결했습니다.
A. 아람코 입장에서는 다양한 벤더와 협의해서 굉장히 큰 규모의 AI 컴퓨팅 인프라를 구축하려고 합니다. 4개 업체와 MOU를 체결했죠. 미국을 상징하는 스타트업 2곳과 국내에서 2곳이 갔습니다.
Q. 4개 기업이 만든 AI 반도체가 중동에서 같은 곳에 같은 이유로 쓰일까요?
A. 아람코가 결정을 내리겠지만 칩들마다 장단점이 다 있습니다. 어떤 칩은 이런 성능이 더 강하고, 어떤 칩은 다른 영역의 성능이 강하고. 좀 다르거든요. 아람코가 결정을 하겠지만 한 개만 선택하기보다 몇 군데를 선정할 것이라고 생각합니다.
Q. 아람코는 현재 성능이 가장 뛰어난 엔비디아 반도체를 쓰면 될 것 같습니다
A. 미국 정부에서 이런저런 이유(중국으로 우회 수출 금지)으로 엔비디아 제품 수출을 막을 수 있습니다. 이런 위험에 대비해서 다른 반도체 회사를 찾는 느낌입니다. 엔비디아의 대안으로 전 세계 모든 기업이 찾고 있습니다. 아람코가 아무래도 자본력도 있고 기술적인 평가를 할 수 있죠. 많은 회사를 불러서 평가하고요. 다 같은 추론이 목적이지만. 자동차를 생각해 보면 벤츠, BMW의 자동차가 다르지 않습니까. 사람을 많이 태우거나 속도가 빠른 스포츠카가 필요할 수도 있고요. AI 칩도 그렇습니다. 성능이 빠른 것도 있고 버스처럼 느리지만 많이 싣고 갈 수 있죠. 또 애플리케이션 용도도 다릅니다.
Q. 퓨리오사AI의 첫 번째 제품인 '워보이'는 단종인가요?
A. 워보이는 계속 판매를 하고 있습니다. 2세대 칩(레니게이드)에 총력을 다하고 있긴 합니다. 1세대 칩도 개발해서 생산하고 있습니다. 자동차로 따지면 어떤 자동차 제작사가 1세대 차를 아직도 팔고 있잖아요. 새로운 기종이 나오면 거기에 집중하듯이 비즈니스 관점에서는 그렇게 보면 될 것 같습니다.
Q. 레니게이드 관련 다음 계획도 소개해 주세요.
A. 우선 LG와 아람코와 평가가 있습니다. 다른 고객사와도 논의 중입니다. 올해 말까지 단계적으로 많은 고객사와 협업할 계획입니다. 정부의 K 클라우드 사업을 통해서는 네이버 클라우드라든지 KT 데이터센터에도 우리 칩이 들어가 있습니다. 2세대 칩도 이미 가 있고요. 아람코가 전 세계에서 딱 4개 업체를 불렀잖아요. 아람코가 이유 없이 해당 기업을 선정하지 않았을 거예요. 이번 핫칩스 행사를 보면 첫 키노트는 오픈AI가 했습니다. 엔비디아, AMD, 인텔, 브로드컴도 발표했습니다. 거기에 우리도 있었습니다. 국내 반도체 기업이 글로벌 회사와 비교하면 후발 주자로 오해하는 경우가 있었습니다. 그런데 이번에 우리도 불렀잖아요. 그만큼 퓨리오사AI 칩의 수준이 글로벌 회사와 경쟁할 만큼 올라와 있다는 겁니다. 지금부터 더 치열하게 해야죠. 우리가 1세대 칩은 글로벌하게 적극적으로 소개를 안 했습니다. 칩의 스펙이 글로벌하게 가기에 좀 약했기 때문입니다. 하지만 2세대 칩부터는 다릅니다. 두 개의 HBM3가 들어있습니다. 전 세계 HBM3로 1초당 1조 이상 계산할 수 있는 칩이 몇 개 없습니다. 이런 칩은 실제로 거의 없습니다. 그만큼 우리가 시장에 제품을 빨리 출시하고 아람코와 그런 기회도 생기는 겁니다. 올해 말까지는 고객사의 좋은 평가를 거쳐서 내년부터는 비즈니스가 본격화될 겁니다.
Q. 결국 엔비디아와 경쟁해야 합니다.
A. 엔비디아 천하가 계속 안 될 것 같아요. 엔비디아 독점이 계속될 수 없다는 겁니다. 아람코 같은 경우에도 대안을 찾고 있잖아요. 미국의 제재도 있지만 물량이 부족해서 그럴 수도 있죠. 엔비디아 칩은 굉장히 비쌉니다. 북미에서 단일 기업이 10조, 20조달러씩 사고 있어요. 그래서 다른 기업도 자체 칩을 개발하려고 하죠. 애플도 하지 않습니까? 엔비디아의 독점력이 강한 만큼 엠비디아의 대안을 만들려는 반동의 힘도 굉장히 강한 거죠. 엔비디아의 대안을 만들려는 에코시스템의 힘은 엔비디아를 제외한 전체 에코 시스템이 같이 하고 있어요. 우리가 거기에서 좋은 솔루션을 계속 만들어 나가기 시작하면 충분히 우리만의 비즈니스를 해낼 수 있다고 생각하거든요. 엔비디아는 사실 칩을 제조하지는 않습니다. TSMC를 사용을 하죠. TSMC는 모든 회사가 다 사용할 수 있는 곳입니다. 엔비디아는 설계의 경쟁력과 소프트웨어의 경쟁력 그리고 그걸 통해서 구축한 강력한 에코시스템으로 앞으로도 잘 할 겁니다. 제 말은 수요자 관점에서는 엔비디아의 대안을 찾는 힘이 워낙 강하기 때문에 거기에서 우리대로 엔비디아의 독점을 깨고 사업 기회가 많을 겁니다.
Q. 엔비디아의 독점을 깨기 위해 가장 중요한 것은 무엇인가요?
A. 전기차를 생각해 보면 이제 전기차를 많이 쓰지 않습니까? 하지만 가솔린 차가 훨씬 더 많죠. 전기차를 사용하려면 처음엔 여러 인프라 문제가 있죠. 충전이 잘 안 된다거나 충전소가 없다든가. 밧데리 수명이 짧다든가 그런 기술적인 어려움이 있습니다. AI 반도체의 경우에도 소프트웨어 스택과 우리의 반도체 소프트웨어 스택이 아직 융합이 잘 안 되는 거죠. 그런데 AI 반도체는 근본적으로 GPU보다 훨씬 더 전력이 효율적입니다. 엔비디아의 쿠다는 현재 사용자가 쓰기 편합니다. 그런데 AI 반도체는 사용하기 불편한 거죠. 성능이나 효율성은 뛰어나지만 아직 사용자가 볼 때는 충분하지 않은 경우도 있습니다. 전기차를 보면은 10년 뒤에 전기차와 가솔린 차의 비율이 어떻게 될 거로 생각하나요? 전기차가 더 많아질 거로 생각하잖아요. AI 반도체가 시장에 1%, 2% 들어가고 에코시스템을 구축하기 시작하면 어느 순간 퍼지는 겁니다. 근본적으로 효율적인 솔루션이기 때문이죠. 앞으로 1년 걸릴지 2년 만에 될지, 5년 만에 될지, 타이밍을 예측하기 힘들지만 5~10년을 본다면 상당 부분 전환이 이루어질 것이라 생각합니다. 아마 2030년까지는 대안적인 솔루션을 많이 사용할 겁니다. 엔비디아 올해 매출이 150조~200조를 하고 있습니다. 우리가 1%만 가져와도 몇 조가 됩니다.
Q. 엔비디아의 강점으로 쿠다 얘기를 많이 합니다.
A. 영원할 것인지는 의문입니다. 전기차를 처음엔 잘 안 썼잖아요. 불편해서요. 충전소도 없고요. 그런 복합적인 심리로 전기차를 안 쓰지만 어느 순간 테슬라 제품을 한 번 사용하고 '쓸 만하네' 이런 이용자가 나왔습니다. 마찬가지로 엠비디아가 영원히 계속될 것 같지 않다는 겁니다.
Q. 쿠다 같은 소프트웨어 만들기 어렵나요?
A. 사실 퓨리오사AI에서 고성능 칩이 나왔다는 건 국내 반도체 산업에서 역사적인 일이라고 생각합니다. 그다음에는 소프트 스택을 쌓아줘야 되잖아요. 그게 또 하나의 중요한 챌린지죠. 소프트웨어 쪽을 결국 우리가 얼마나 잘 해내느냐가 AI 반도체의 또 중요한 업적입니다. '국내 업체가 잘못하지 않을까' 이런 선입견을 많이 갖고 계시거든요. 우리도 넷플릭스에 이제 좋은 드라마들 만들잖아요. 소프트웨어와 칩의 설계는 머리로 하는 싸움입니다. 우리가 고도화된 설계를 해낼 수 있는 인적 자원을 갖고 있습니다. GPU와 우리의 근본적인 목적은 똑같지만 설계의 패러다임이 다르죠. 우리가 훨씬 설계에서 이노베이션을 담고 있죠. 혁신적입니다. GPU는 우리가 봤을 때는 가솔린과 같은 구닥다리 엔진입니다.
Q. 최근 정부가 AI 산업 육성을 위해 대규모 데이터센터를 구축하겠다고 발표했습니다.
A. 굉장히 중요한 대책이라고 생각합니다. 국내 자동차 산업 성장을 보면 정부가 처음에 도로를 깔았습니다. 택시도 나오고 국내 자동차 위주로 인프라를 깔면서 자동차 산업이 컸잖아요. 가전 산업도 그렇습니다. 국내에서 관련 제품이 고도화되고나서 해외로 나갔죠. 이번 대책은 우리 칩을 인프라에 집어넣겠다는 겁니다. 우리 하드웨어 산업이 글로벌하게 스케일업하는 과정에서 모두 그런 과정을 거쳤습니다. AI 컴퓨팅 산업은 반도체 하나의 카테고리가 아니라 전체 산업에서 가장 큰 카테고리로 성장할 확률이 높아요. 자동차 산업보다 더 커질 수도 있습니다.
Q. 그동안 퓨리오사AI는 정부 사업에도 참여했습니다.
A. 레퍼런스에 도움이 됐습니다. 내부 실력을 쌓는 데도 도움이 되고요. 칩을 실제 현장에서 써보는 경험을 중요하죠. 소중한 경험입니다. 2세대 칩도 K클라우드 사업을 통해 올해 말까지 굉장히 의미 있는 결과가 나올 겁니다. 디지털 교과서 사업에서도 우리 AI 인프라가 깔려야 합니다. 여기도 우리 AI 칩이 들어가는 거죠.
Q. 엔비디아의 신제품 출시 주기가 짧습니다.
A. 저희가 더 빠를 거라고 생각합니다. 이제 속도는 문제가 안 된다고 생각하고요.
Q. 일부 국내 반도체 기업은 일부에선 자사 제품이 엔비디아보다 뛰어나다고 합니다. 종합 평가도 그런가요?
A. 퓨리오사AI의 1세대 반도체도 일부는 그렇습니다. 칩의 절대 성능은 차이가 많이 났죠. 그래도 일부 영역에서 가능성을 보여준 것은 중요합니다. 2세대 칩인 레니게이드는 종합적으로 1세대 칩보다 우수합니다. 초창기인 6~7년 전에는 대부분 컴퓨터 비전에 집중했죠. 챗GPT가 나온지 아직 3년이 되지 않았습니다. 반도체를 기획하고 개발해서 나오는 데 3년 이상 걸립니다. 1세대 칩은 트랜스포머가 없을 때 개발이 시작됐습니다. 당시에는 CNN 모델을 보고 개발했죠. 컴퓨터 비전을 타깃하고 있는 게 당연했습니다. 2세대 칩은 당연히 트랜스포머 나오고 개발됐고요. LLM을 제대로 실제 돌릴 수 있는 칩을 만들 수 있는 업체는 세계에 3개 업체밖에 없습니다. 엔비디아, AMD, 퓨리오사AI죠. 그만큼 우리가 기획을 빨리 했습니다.
Q. 정부 지원이 더 필요한가요?
A. 솔직히 말씀 드리면 정부는 이 영역에서는 굉장히 적극적으로 잘 해주고 있다고 생각합니다.
Q. 국내 반도체 스타트업 모두 합병해서 경쟁력을 높여야 한다는 의견이 있습니다.
A. 에코 시스템을 키우려면 여러 플레이가 있어야 합니다. 하나로 합쳐 버리면 A 방향이 맞을지, B 방향이 맞을지 알 수 없잖아요. 다양성도 있어야 하고 시장 논리도 있어야 하죠. 경쟁하는 것이 훨씬 좋은 방향입니다.
Q. 엔비디아의 시장 점유율이 압도적입니다. 그럼에도 다른 빅테크도 AI 반도체를 계속 만듭니다.
A. 테슬라의 경우를 참고할 수 있습니다. 테슬라 전기차 1세대가 300대 정도 팔렸습니다. 그래도 2세대가 나왔습니다. 점점 판매량이 증가했고 지금은 몇백만 대가 판매됐습니다. 처음부터 몇백만 개 팔린 경우가 거의 없어요. 아이폰 1세대도 소수의 마니아만 썼습니다. 갤럭시도 그렇죠. 아마 갤럭시 S4부터 많이 팔렸을 겁니다. 상용 제품이 처음 나왔다는 것 자체가 큰 것입니다. 그다음부터 수준을 높이는 건 의지의 문제라고 생각을 해요. LG와 아람코가 우리 제품을 써보려고 하는 것도 쓸 만하니깐 그렇습니다. 그들이 시간 낭비를 왜 합니까. 1세대가 몇 대 팔리지 않아도 10년 뒤면 조 단위의 비즈니스로 갈 수 있어요. 그리고 3년, 5년 뒤에 어떤 세상에 와 있을지 몰라요.
Q. 2017년에 창업했습니다. 초창기가 궁금합니다.
A. 챗GPT가 나오기 5년 전이었죠. 2014년 알파고를 보고 이 분야에서 가능성을 보고 창업했어요. 시드머니는 13억원, 시리즈A 80억원 투자받을 때까지 2년 9개월이 걸렸습니다. 다른 글로벌 기업은 1000억원까지 투자 받고 그랬지만요. 당시에는 우리는 직접 만든 칩도 없었어요. 실물도 없고 당연히 투자 받기 어렵죠. 그때부터 우리는 엔비디아를 깨고 들어가야 겠다고 이야기했어요. 대부분 안 믿었어요. '서버형 시스템 반도체는 국내 대기업도 못하는데 너희가 하겠어?' 이런 거죠. 저는 우리 설계 인적 자원이 글로벌한 수준이라고 생각했어요. 그런 믿음이 있었기 때문에 결국 보여줄 것이라고 생각했습니다. 그런데 회사가 칩을 개발해야 되는데 2년 9개월 동안 펀딩이 안 됐어요. 그래서 그동안 설계만 했어요. 되돌아보면 축복이었다는 생각도 들어요. 설계는 사람 머리로 하는 거죠. 영화로 따지면 촘촘한 시나리오가 필요합니다. 우리는 어차피 칩을 못 만들고 그때 계속 시나리오를 쓰고 있었던 거예요. 반도체 설계 자체가 견고해졌습니다. 그리고1세대 칩이 일부 영역에 좋은 점을 보여줬습니다. 실제 상용 서비스까지 볼륨은 작았지만 끝까지 갔잖아요. 그런데 글로벌 회사들은 상당수 1세대 칩에서 잘 되지 않았습니다.
김주완 기자 kjwan@hankyung.com
