젠슨 황 엔비디아 최고경영자(CEO)는 올해 대만 GTC에서 흥미로운 주장을 내놨다. 인공지능(AI)이 처리, 생산하는 데이터의 최소 단위인 ‘토큰’이 이제 수익을 창출하는 단위라고 밝힌 것이다. AI 기업이 더 많은 토큰을 생산해 이윤을 창출하고, 궁극적으로 국내총생산(GDP)을 늘리게 한다는 논리다. 하지만 실제 토큰 수요자인 우버의 최고운영책임자(COO) 앤드루 맥도널드는 다른 의문을 제기했다. 토큰 사용량을 대폭 늘렸지만, 정작 고객이 체감할 만한 새로운 서비스는 기대만큼 나오지 않고 있다는 것이다.
과연 토큰 생산은 GDP를 늘리는가? 이 질문은 AI산업의 미래와 반도체 기업의 높은 주가가 정당화될 수 있는지와도 직결된다. 젠슨 황의 논리는 일견 명확해 보인다. AI산업은 토큰을 중심으로 움직인다. 챗GPT에 질문하면 AI는 이를 토큰 단위로 처리하고, 답변 역시 토큰 단위로 생성한다. 토큰이 많아질수록 더 많은 연산이 필요하고 더 많은 반도체가 사용된다. 최근 AI 코딩 도구와 AI 에이전트 활용이 늘어나면서 토큰 사용량도 크게 증가하고 있다. 엔비디아 입장에서는 토큰 생산이 늘어날수록 매출도, 이윤도 늘어난다. 그래서 그는 토큰을 새로운 경제활동의 단위로 본다.
하지만 경제학은 한 가지 의문을 제기한다. 철강과 전력 생산이 늘어난다고 해서 곧바로 GDP가 증가하는 것은 아니다. 철강은 자동차와 건물 생산으로 이어져야 하고, 전력은 실제 공장과 사무실에서 활용돼야 한다. GDP는 중간 투입물이 아니라 최종적으로 생산된 재화와 서비스의 가치를 측정해 결정되기 때문이다.
최근 이 의문에 대해 흥미로운 실마리를 제시한 연구가 발표됐다. 미국 매사추세츠공대(MIT)와 펜실베이니아대 연구진은 10만 명 이상의 소프트웨어 개발자를 분석했다. AI 도구는 개발자가 작성하는 코드량을 크게 늘렸다. 그러나 최종 결과물인 소프트웨어 출시는 기대만큼 증가하지 않았다. 코드 생산이 180% 증가하는 동안 실제 출시는 약 30% 늘어나는 데 그쳤다. 우버 COO의 지적과 일치한다.
연구진은 이를 ‘약한 고리(weak-link)’ 문제로 설명한다. AI가 코드 작성 단계의 생산성을 크게 높여도 검토, 통합, 출시와 같은 다른 단계에서 인간이 병목을 형성하면 전체 생산성 향상은 제한된다.
만약 이런 현상이 광범위하게 나타난다면 토큰 생산은 GDP 증가로 이어지지 못할 수 있다. 토큰 사용은 폭증하는데 최종 산출은 기대만큼 늘지 않는다면 우버와 같이 토큰 수요 기업의 관련 지출도 식을 수밖에 없다. 이것이 AI산업을 둘러싼 가장 큰 불확실성이다. 시장의 높은 기대치는 실현되지 못하고 주가 역시 조정받을 수 있다.
역사상 산업혁명은 생산과정의 거대한 병목을 제거하는 과정이었다. 증기기관은 운송의 병목을, 전기는 공장 생산공정의 병목을, 인터넷은 정보유통의 병목을 제거했다. 그러나 기술이 등장했다고 해서 곧바로 생산성 혁명이나 비약적인 GDP 증가가 이뤄진 것은 아니다. 큰 병목은 해결됐지만 새로운 기술에 맞춰 조직과 제도가 재편되고 남아 있는 제약이 해소되기까지 시간이 필요했기 때문이다.
AI도 마찬가지다. 코딩과 초안 작성이라는 병목은 빠르게 제거되고 있다. 하지만 검토와 승인, 책임과 의사결정이라는 더 중요한 병목은 여전히 인간의 몫이다. 아무리 많은 토큰을 사용하더라도 최종 의사결정 단계가 정체돼 있다면 GDP 증가가 제한적일 수밖에 없다. 고속도로를 10차로로 넓혀도 톨게이트가 하나뿐이라면 목적지에 도착하는 시간은 크게 달라지지 않는다.
AI산업을 둘러싼 논쟁은 대부분 이 점을 놓치고 있다. 시장은 그래픽처리장치(GPU)가 몇 개 더 팔릴지, 토큰 생산량이 몇 배 더 늘어날지에 집중한다. 하지만 토큰은 GDP 그 자체가 아니다. 철강이나 전기처럼 생산과정에 투입되는 중간재에 가깝다. 중요한 것은 토큰의 양이 아니라 최종적으로 창출되는 부가가치다. 토큰이 GDP 증가를 이끄는 시대가 올 가능성은 충분하다. 하지만 젠슨 황의 논리가 현실이 될지는 생산과정에 남은 병목이 얼마나 빠르게 제거되느냐에 달려 있다. 그 속도가 AI 생산성 혁명의 성패를 결정할 것이다.