AI의 거대한 식욕, 양자컴퓨터는 다음 단계가 될 수 있을까?

오랫동안 반도체 산업을 설명하는 언어는 무어의 법칙이었다. 트랜지스터 집적도가 2년마다 두 배로 늘어난다는 경험 법칙은 IT 산업 전체의 성장 리듬을 만들어냈다. 그러나 AI 시대에 들어서며 이 공식은 사실상 멈춰 섰다. 단일 칩(CPU)의 성능을 더 끌어올리는 방식은 발열과 전력 문제 앞에서 한계에 도달했기 때문이다.

이후 산업이 선택한 해법은 다른 방향이었다. 하나를 더 빠르게 만드는 대신, 여러 개의 연산 장치를 동시에 사용하는 방식이다. GPU가 AI 시대의 핵심 인프라로 자리 잡은 이유다. 다만 이 전략은 계산량이 늘어날수록 전력 소모와 비용 역시 함께 커진다는 구조적 한계를 안고 있다.

여기에 더해 반도체 공정은 원자 단위의 벽에 근접하고 있다. 5nm, 3nm 공정을 거쳐 이제는 2nm 공정의 상용화가 예정된 단계다. 이 영역부터 전자는 더 이상 설계된 경로만 따르지 않는다. 전자가 장벽을 뚫고 이동하는 양자 터널링 현상이 나타나고, 미세한 잡음만으로도 회로의 동작이 흔들린다. 기존 반도체 공학의 관점에서는 모두 ‘오류’로 분류되던 현상들이다.

하지만 바로 이 지점에서 발상의 전환이 일어난다. 오류를 제거하려 하기보다, 그 물리적 특성 자체를 계산의 전제 조건으로 받아들이자는 접근이다. 계산을 반복해 답을 찾기보다, 물리 현상이 자연스럽게 특정 상태로 나타나도록 유도하는 방식?이것이 양자컴퓨터다.

양자컴퓨터가 AI와 함께 언급되는 이유도 여기에 있다. 현재의 AI는 복잡한 문제를 해결하기 위해 방대한 연산을 반복하고, 그 대가로 막대한 전력을 소비한다. 성능을 높이려면 계산량과 에너지 투입을 함께 늘릴 수밖에 없는 구조다. 양자컴퓨터는 이 경쟁에 정면으로 뛰어들기보다는, 어떤 문제는 애초에 그렇게 많은 계산과 에너지를 쓰지 않고도 풀 수 있는지를 묻는다. 이는 성능의 문제가 아니라, 계산과 에너지를 사용하는 방식 자체에 대한 질문에 가깝다.

이제 양자컴퓨터는 연구실에만 머물러 있지 않다. 기업들은 양자컴퓨터를 직접 보유하기보다, 클라우드를 통해 필요한 만큼 접근한다. 이른바 QaaS(Quantum as a Service)다. 이는 GPU가 처음 데이터센터에 도입되던 시기와 닮아 있다. 아직은 제한적이지만, 양자컴퓨터는 이미 ‘언젠가 올 기술’이 아니라, 사용해 볼 수 있는 기술로 이동하고 있다.

물론 양자컴퓨터는 당분간 기존 AI를 대체하지 않을 것이다. 대신 기존 컴퓨터나 AI가 극도로 비효율적인 영역, 예컨대 조합 경우의 수가 폭발하는 최적화 문제나 정밀한 물리·화학 시뮬레이션 같은 분야부터 조용히 쓰이기 시작할 가능성이 크다.

불과 몇 년 전까지만 해도, 기계가 사람처럼 자연스럽게 말하는 것은 현실적이지 않아 보였다. 그러나 ChatGPT의 등장 이후, 생성형 AI는 단기간에 일상적인 기술이 되었다. 양자컴퓨터 역시 지금은 초기 단계에 머물러 있지만, 10년 뒤에는 전혀 다른 위치에서 평가받고 있을지도 모른다.

AI의 거대한 식욕을 같은 방식으로 계속 감당하기는 어렵다.

양자컴퓨터가 그 해답이 될 수 있을지는 아직 알 수 없다.

다만, 기존 방식이 더 이상 효율적이지 않은 지점에서 새로운 계산이 시작될 가능성은 분명히 열려 있다.


글 신주호 한양대학교 겸임교수·AI 전문