KT가 국산 AI 반도체와 국산 언어모델(LLM)을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스를 출시했다고 19일 밝혔다.
'KT 신경망처리장치(NPU) LLM 스테이션'은 리벨리온의 NPU '아톰맥스'에 KT의 LLM '믿음 K 2.5 Pro', 운영 응용프로그램인터페이스(API) 플랫폼까지 탑재한 일체형 제품이다.
ADVERTISEMENT
아톰맥스는 추론에 특화된 국산 NPU다. 믿음 K 2.5 Pro는 고난도 추론과 에이전트 활용에 강점이 있는 KT 독자 모델이다.
핵심은 보안이다. 제품은 고객사 내부에 설치되며 모든 데이터와 AI 연산이 사내에서만 처리된다.
ADVERTISEMENT
해외 생성형 AI를 도입하지 못했던 공공, 국방, 제약, 제조, 금융 등 규제 산업의 AI 전환(AX)에 촉매제가 될 전망이다.
도입 부담도 낮췄다. 별도 구축 과정 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등 AI 기능을 바로 사용할 수 있다.
추론 특화 NPU를 채택해 동급 그래픽처리장치(GPU) 서버 대비 전력 효율이 높고, 업계 표준 API를 제공해 코드 수정 없이 호환해 사용할 수 있다.
향후 KT는 'K-Claw(가칭)' 등 자체 개발한 AI 에이전트를 순차 탑재하고, 에이전트 전문 개발사와 협력해 고객 맞춤형 구축 사업으로 확장할 계획이다.
ADVERTISEMENT
나아가 'KT NPU LLM 스테이션'의 활용 영역을 피지컬 AI를 위한 엣지 데이터센터로 확대할 예정이다.
이진형 KT AX사업본부장 상무는 "데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것"이라고 말했다.
ADVERTISEMENT
ADVERTISEMENT