엔비디아 의존도 낮춘 HAC
KT는 28일 서울 삼성동 호텔에서 바이오·에듀테크·제조 분야 등에서 AI 서비스를 개발하고자 하는 기업을 대상으로 ‘하이퍼스케일 AI 컴퓨팅 서비스(HAC)’ 설명회를 열고 이 같은 계획을 밝혔다.HAC는 KT가 지난 10일 상용화한 클라우드 기반 AI 인프라 서비스다. 스타트업 모레와 협업해 만들었다. 기업이 AI 서비스 개발 필수 자원인 GPU를 가상 환경에서 쓸 수 있도록 빌려준다. 각 기업이 GPU를 원하는 시기에 원하는 만큼만 할당받아 사용한 뒤 반납하고, 요금은 사용한 만큼만 납부하는 종량제 구조다. AI 인프라 서비스를 종량제로 운영하는 국내 최초 사례다.
김주성 KT 클라우드·인터넷데이터센터(IDC)사업추진담당 상무는 “GPU를 쓰지 않을 때도 일정 기간만큼 요금을 내야 했던 기존 방식 대비 기업의 비용 부담이 약 50~70% 줄어들 것”이라며 “GPU는 AI 서비스 도입에 꼭 필요하지만, 개발 기간 전체가 아니라 데이터 분석과 모델 학습 단계에서만 쓰이기 때문”이라고 설명했다.
KT는 ‘저비용 고효율’ AI 서비스를 위해 서로 다른 기업이 만든 GPU도 함께 구동할 수 있게 하는 자체 멀티 솔루션을 개발했다. 엔비디아와 AMD의 GPU를 함께 연동해 쓸 수 있다는 얘기다. 지금까지는 양사 모델 간 프로그래밍 언어 구조(프레임워크)가 다른 탓에 할 수 없었던 일이다. 메타버스 서비스, 비트코인 채굴 등 수요가 겹치면서 엔비디아의 상위 GPU 모델 가격이 올 들어 50%가량 뛰었는데도 기업들이 사용 GPU 다변화에 나설 수 없었던 배경이다.
AI반도체로 ‘AI인프라 완전체’ 추진
KT는 이를 시작으로 네 개 단계에 걸쳐 AI 인프라 사업을 확장할 계획이다. 내년엔 엔비디아와 AMD 등 이종 GPU 수천 장 규모에 달하는 대규모 ‘GPU팜’을 구축한다. 2023년엔 이 GPU팜에 파두와 함께 KT HAC 전용으로 자체 개발한 AI반도체를 접목한다. 해외 GPU 의존도를 더욱 낮추기 위해서다. 여기까지 현실화하면 하드웨어와 소프트웨어를 아우른 ‘토털 AI인프라 사업’을 벌일 수 있다. KT는 향후 자체 AI 표준모델을 만들어 자율주행, 금융, 메타버스 등 업종별로 특화한 기업용 구독형 AI 솔루션 사업도 벌일 계획이다.‘AI 기술 독립’을 위해 정부와도 협력을 강화하고 있다. 시장 주도권을 외국 기업이 독점한 와중에 AI 인프라 자체 기술 확보는 정부에도 오랜 고민거리다. 업계에 따르면 과학기술정보통신부 등이 AI 자체 기술 확보와 관련해 과제에 투입하는 금액은 연간 3000억원가량에 달한다. 일부 기업이 AI반도체나 플랫폼을 개발 중이지만 아직은 역부족이란 평가다. 하드웨어와 소프트웨어 사업을 각각 따로 추진하다 보니 통합 생태계 구축이 어려워서다. 김주성 상무는 “HAC 방식을 바탕으로 국가 연구개발(R&D)존을 제안해 과기정통부와 실증 사업을 논의하고 있다”며 “AI 전문기업과의 협력을 강화해 국내 AI 서비스 개발 시장과 생태계를 도울 것”이라고 말했다.
선한결 기자 always@hankyung.com
