인공지능(AI) 시대를 맞아 ‘황금 캐는 곡괭이’로 불리는 AI 가속기가 나오려면 최첨단 패키징(여러 칩을 하나의 반도체처럼 작동하게 하는 공정)을 두 차례 거쳐야 한다. D램을 최대 16개 쌓는 고대역폭메모리(HBM) 제작이 첫 번째다. 일반 D램 생산보다 훨씬 어려운 이 공정을 통과하면 더 큰 난관이 등장한다. HBM과 그래픽처리장치(GPU)를 실리콘 인터포저라는 특수 소재 기판 위에서 연결해 하나의 칩처럼 작동하게 하는 ‘2.5차원(2.5D) 패키징’이다.
아무리 좋은 GPU와 HBM을 만들어도 최첨단 패키징에서 삐끗하면 AI 가속기는 제 성능을 내지 못한다. 고난도 공정이어서 업계 1위 TSMC의 수율도 50~60％에 그친다. TSMC가 엔비디아, AMD 등의 쏟아지는 주문에 대응하지 못하면서 2.5D 패키징은 AI 시장 확대를 가로막는 최대 걸림돌이 되고 있다.
◇한계 다다른 초미세 공정의 대안
패키징은 크게 전통 패키징과 최첨단 패키징으로 나뉜다. 전통 패키징은 단품 칩을 메인보드에 올린 뒤 전기적으로 연결하는 공정을 뜻한다. 반도체 생태계에서 ‘덜 중요한’ 기술로 평가받는 ‘후(後)공정’ 중 하나다.
AI 시대를 맞아 고성능 칩 수요가 폭증하자 상황이 바뀌었다. 2020년대 초반까지 반도체 기업들은 회로 폭(선폭)을 2나노미터(㎚·1㎚=10억분의 1m) 이하로 좁히고 작은 칩에 많은 기능을 넣는 ‘초미세 공정’에 올인했다. 하지만 초미세 공정 경쟁은 부메랑이 됐다. 한 대당 최대 5000억원에 이르는 극자외선(EUV) 노광 장비 등을 사야 하다 보니 수익성이 떨어진 것. 기술적인 문제도 만만치 않았다. 선폭이 좁아 간섭 현상이 심해지고, 누설 전류가 늘면서 ‘발열’을 잡기 힘들어져서다.
그 대안으로 찾은 해법이 패키징이다. 초미세 공정을 통해 하나의 칩에 복잡한 기능을 여러 개 넣는 대신 적당한 칩 여러 개를 하나로 연결하면 똑같은 성능을 낼 수 있다고 본 것이다. 업계에선 기술 난도가 전통 패키징을 압도한다는 점에서 이 기술에 ‘최첨단’(advanced)이란 수식어를 붙였다.
◇극심한 CoWoS 용량 부족
선두 주자는 TSMC다. ‘CoWoS(칩온웨이퍼온서브스트레이트)-S’라는 2.5D 최첨단 패키징이 주 무기다. 기판 위에 중간 다리 역할을 하는 특수 소재층인 실리콘 인터포저를 놓고 여러 칩을 수평으로 배치한다. 실리콘 인터포저는 하단 기판과 상단의 칩을 연결하는 수직 통로인 TSV와 칩과 칩 간 신호를 연결해주는 RDL(재배선층)로 구성된다. 2.5D 패키징으로 불리는 건 기판 위에 인터포저와 칩을 수직(3D)으로 쌓은 뒤 칩을 수평(2D)으로 배치하기 때문이다.AI 시대를 맞아 고성능 칩 수요가 커지자 엔비디아, AMD 등이 CoWoS의 위력을 알아봤다. 그렇게 HBM과 GPU를 연결하는 B200, H100 같은 AI 가속기가 태어났다.
삼성증권에 따르면 웨이퍼로 환산한 TSMC의 CoWoS 생산능력은 2024년 월 3만5000장에서 지난해 약 7만 장으로 늘었고, 올해 약 11만 장으로 증가한다. 하지만 여전히 부족하다는 평가가 나온다. TSMC가 엔비디아에 배정한 CoWoS 비중이 55％ 안팎인 걸 감안하면 올해 생산할 수 있는 ‘블랙웰’ AI 가속기는 891만 개라는 계산이 나온다. 최대 18기가와트(GW) 용량의 데이터센터에 대응할 수 있는 물량이다. 이는 올해 글로벌 데이터센터 투자 용량의 50%에 그친다. 삼성증권은 “TSMC가 올해 엔비디아 수요도 못 맞출 가능성이 있다”고 분석했다.
◇틈새 노리는 삼성전자
삼성전자는 기회를 엿보고 있다. 국내 기업 리벨리온이 삼성전자의 2.5D 패키징 서비스인 ‘아이큐브(I-Cube)’를 활용해 최신 AI 가속기 ‘리벨 쿼드’를 개발하면서 일정 부분 실력을 검증받았지만 아직 글로벌 시장에선 이렇다 할 고객을 잡지 못했다.하지만 ‘TSMC 병목 현상’이 좀처럼 풀리지 않는 만큼 삼성전자에 조만간 기회가 올 것이란 관측이 나온다. 삼성전자는 엔비디아에 밀려 CoWoS 물량을 충분히 배정받지 못한 주요 빅테크들을 대상으로 AI 가속기 관련 메모리와 파운드리, 최첨단 패키징을 한 번에 제공하는 ‘턴키 서비스’를 제안하는 것으로 알려졌다.
SK하이닉스도 2.5D 패키징에 관심을 기울이고 있다. 미래기술연구원, 패키징앤드테스트(P&T) 조직을 중심으로 본격적인 연구개발(R&D)에 들어갔다. SK하이닉스는 “고객 맞춤형 HBM을 더 잘 만들기 위한 것”이라고 선을 긋지만, 업계에선 향후 2.5D 패키징 사업에 본격 진출할 가능성이 크다는 관측을 내놓는다.
황정수/김채연 기자 hjs@hankyung.com