MSHoldings(엠에스홀딩스)는 PHISON aiDAPTIV+ 시스템을 출시했다고 25일 밝혔다.
해당 솔루션은 대규모 AI 모델 트레이닝과 추론 작업의 비용 효율성과 확장성을 대폭 향상시키는 것이 특징이다. aiDAPTIV+는 기존 GPU 및 HBM(High Bandwidth Memory) 구성을 보완, 그대로 사용하면서도 추가적인 고비용 GPU와 HBM 구매 없이도 대규모 메모리 확장을 가능하게 한다. 이 시스템은 SSD 기반의 aiDAPTIVCache를 활용하여, GPU 내부의 고속 HBM을 효율적으로 사용하면서도 필요한 총 메모리 용량을 확장하는 효과적인 접근 방식을 제공한다.
PHISON의 aiDAPTIV+ 시스템은 특히 AI 모델 트레이닝과 추론에서 요구되는 대규모 데이터 처리에 있어 비용을 효과적으로 절감할 수 있는 방안을 제시한다. 예를 들어, 대규모 언어 모델 트레이닝을 위해 전통적으로 필요했던 수천만 달러 규모의 GPU 구매 대신, aiDAPTIV+ 시스템을 활용하면 초기 투자 비용을 대폭 줄일 수 있다. 몇 만 달러 미만의 투자로 동일한 수준의 데이터 처리와 모델 트레이닝 성능을 제공할 수 있다. 이는 기존의 HBM 용량을 확장하기 위해 고가의 GPU를 추가 구매하는 방식에 비해, 비용 절감 효과가 크고 AI 모델이나 애플리케이션을 변경하지 않고도, 효율적인 데이터 관리와 더 빠른 모델 트레이닝 및 추론 속도의 이점을 누릴 수 있다는 것을 의미한다.
특히, aiDAPTIV+ 솔루션을 사용한 한 LLM 업체의 신규 플랫폼은 600W의 낮은 전력으로 운영되고 있는데 이는 전통적인 대형 서버 시스템에 비해 상대적으로 낮은 전력 소비량을 의미하며, 운영 비용의 절감으로 이어질 수 있다. 33B+ LLM 풀 파라미터 트레이닝을 1.5일 내에 완료할 수 있으며, 이는 대형 GPU 클러스터가 필요한 기존 시스템과 비교하여 상당한 시간 절약을 의미할 수 있다.
이 LLM업체의 신규 플랫폼은 에너지 효율적인 운영을 강조하며, 전통적인 대형 서버 시스템에 비해 훨씬 낮은 전력을 사용하는 것으로 나타났다. 이는 장기적으로 전력 비용을 줄이고, 에너지 소비를 최소화하는 효과를 제공한다. 비용 대비 성능 측면에서, aiDAPTIV+ 솔루션을 사용하는 것은 유사한 성능을 제공하는 다른 제품에 비해 가격이 훨씬 낮다고 한다. 특히, 이 신규 플랫폼은 경쟁 제품 대비 비용을 4분의 1로 줄이면서도 우수한 AI 컴퓨팅 성능을 제공한다고 한다.
이러한 수치는 aiDAPTIV+ 솔루션이 전통적인 시스템에 비해 전력 소비를 줄이고, 효율성을 높이며, 총 소유 비용을 절감할 수 있는 실질적인 변화를 가져왔음을 나타낸다. 이러한 이점은 AI업체나 대규모 AI 모델을 다루는 기업들에게 매력적인 제안이 될 수 있으며, 기존 시스템을 aiDAPTIV+로 전환하는 경우를 고려하게 만드는 강력한 동기를 제공한다.
MSHoldings는 PHISON의 aiDAPTIV+ 시스템의 한국 공식 판매 파트너로서 이 효과적인 메모리 솔루션을 제공하고 있다.
한경닷컴 뉴스룸 open@hankyung.com