KT가 인공지능(AI) 필수 인프라인 그래픽처리장치(GPU)를 필요한 만큼만 빌려 쓸 수 있게 제공하는 클라우드 기반 서비스 ‘하이퍼스케일 AI 컴퓨팅’을 출시했다고 10일 밝혔다.
이 서비스는 AI 서비스를 구축하려는 기업이나 개발자에게 GPU 인프라를 동적 할당 방식으로 제공한다. 클라우드 환경에서 가상화 서버를 통해 GPU를 가동한다는 얘기다.
이를 통하면 GPU 기반 AI 서버 실물을 대여하는 경우보다 훨씬 유연하게 인프라를 빌려 쓸 수 있다. GPU 자원을 원하는 시기에 원하는 만큼만 할당받아 사용한 뒤 반납하면 된다. 이용 요금은 실시간으로 사용량에 따라 부과하는 종량제 방식으로 계산한다.
서비스 개발 단계마다 필요한 GPU 자원 규모가 달라질 경우 이에 맞춰 GPU 수량을 조절하기도 쉽다. 클라우드상에선 물리적 서버에 하나에서 구동할 수 있는 GPU 수량 최대치보다 더 많은 수를 연동해(클러스터링) 연산에 활용할 수 있다. KT는 "모델 대형화에 대응할 수 있는 수백~수천 개의 대규모 GPU 클러스터링을 지원한다"고 했다.
개발 단계마다 할당된 자원을 변경하기 위해 서비스 중단을 할 필요가 없이 안정적으로 개발을 이어갈 수 있다는 것도 장점이다.
클라우드상 GPU를 쓰기 위해 기업이 별도 개발 과정을 거치지 않아도 된다. 하이퍼스케일 AI 컴퓨팅 내 컴파일러가 자동으로 GPU 자원을 분산 처리한다.
GPU 인프라를 빌려쓰면 기업이 AI 응용 서비스를 개발할 때 비용을 대폭 절감할 수 있다. 기업마다 자체 전산실에 GPU 이용 서버와 운영시설 등을 모아놓은 'GPU 팜'을 들일 필요가 없어서다.
최근 GPU 가격은 AI 서비스 개발 기업을 비롯해 메타버스·비트코인 채굴 수요가 겹치면서 연일 오름세다. AI 연구 등에 주로 쓰이는 상위 GPU RTX 3090은 올초 250만원이었던 가격이 최근 380만원 가량으로 뛰었다. AI 서비스 개발을 위해선 GPU 여러 대가 필요한터라 그간 AI 서비스를 새로 도입하려는 기업들의 부담이 컸다.
KT는 “GPU는 AI 서비스를 개발할 때 꼭 필요하지만, 서비스 개발 기간 전체가 아니라 데이터 분석과 모델 학습 단계에만 쓰인다”며 “GPU를 원하는 기간 만큼만 빌려쓰면 기업의 GPU 팜 구축 비용 부담이 없어진다”고 설명했다. KT는 이번 서비스 출시를 기념해 내년 2월까지 GPU 인프라를 무상제공하는 행사를 진행한다. 이용을 원하는 이가 가상머신(VM) 이용 비용만 지불하면 된다.
KT는 지난 6월 인터넷데이터센터(IDC) 실물 서버 기반 하이퍼스케일 AI 서비스를 출시한 이래 서비스를 다각화하고 있다. 내년엔 AI 인프라 솔루션 전문기업 모레와 함께 대규모 GPU 팜을 구축한다. 2023년엔 전용 AI 반도체 칩을 제작해 GPU 기술 국산화에 나서는 게 목표다.
윤동식 KT 클라우드/IDC사업추진실장(부사장)은 "클라우드 기반으로 AI 인프라를 빌려 쓸 수 있게하는 실사용량 종량제 서비스는 국내 최초"라며 "앞으로도 AI 전문기업과의 협력을 강화해 국내 AI 서비스 개발 시장과 생태계를 도울 것"이라고 말했다.
선한결 기자 always@hankyung.com
