AI 추론 효율화 기업 노타가 AI 반도체 기업 하이퍼엑셀과 대규모 언어모델(LLM) 최적화 기술 공급 계약을 추가로 체결했다고 밝혔다. 지난해 9월 첫 계약에 이은 후속 수주다.
이번 계약은 하이퍼엑셀의 LLM 추론 전용 반도체 ‘베르다(Bertha) LPU’에서 활용할 AI 모델과 연산을 최적화하는 내용이다. 양사는 베르다가 지원하는 LLM의 범위를 넓혀 데이터센터와 기업용 AI 서비스 수요에 대응할 계획이다.
노타는 하이퍼엑셀의 개발 환경과 자체 AI 최적화 플랫폼 ‘넷츠프레소’를 활용해 반도체 특성에 맞춘 모델 최적화를 수행한다. 주요 연산의 실행 효율을 높이고, 모델별로 양자화 기술을 적용해 메모리 사용량을 줄이는 작업도 진행할 예정이다.
회사는 GPU·CPU·NPU에 이어 LPU로 기술 적용 범위를 확대하고 있다. AI 모델의 크기를 줄이는 경량화뿐 아니라 반도체별 실행 환경과 연산을 최적화하는 소프트웨어 공급 사업을 강화한다는 방침이다.
하이퍼엑셀은 이번 협력을 통해 베르다의 모델 지원 범위를 확대하고 고객의 서비스 도입을 지원할 계획이다. 노타는 기존 고객과의 추가 계약을 바탕으로 AI 반도체 기업을 대상으로 한 기술 공급을 이어갈 예정이다.
김주영 하이퍼엑셀 대표는 다양한 모델을 실제 서비스 환경에서 활용할 수 있도록 지원하는 것이 중요해지고 있다며, 노타와의 협력을 통해 고객의 AI 추론 수요에 대응하겠다고 밝혔다.
채명수 노타 대표는 기존 고객과의 기술 협력이 후속 수주로 이어졌다며, 반도체별 모델과 연산 최적화를 아우르는 소프트웨어 공급 사업을 확대하겠다고 말했다.
김민주 기자 minjoo@hankyung.com