광주광역시가 국내 인공지능(AI) 기업의 집결지로 떠올랐다. 현존 최고의 연산 성능을 지닌 엔비디아의 그래픽처리장치(GPU) ‘H100’을 활용하기 위해 AI 기업에 이어 대기업까지 몰리면서다. 광주의 국가AI데이터센터는 H100을 880대 적용한 서버 110대 등 총연산량 88.5페타플롭스(PF·초당 1000조 번 연산)와 저장용량 107페타바이트(PB, 1PB는 100만 기가바이트) 규모로 구축됐다. H100을 이용한 AI 개발 서비스는 지난해 11월 아시아권에서 처음으로 시작했다.
13일 광주시에 따르면 시는 지난달 31일 LG AI연구원, MBC와 미디어·콘텐츠분야 AI·확장현실(XR) 발전을 위한 AI 모델 개발에 협력하기로 업무협약을 맺었다. 대기업이 광주시와 AI 개발 협약을 맺은 건 처음이다. 이 협약은 광주시가 ‘광주형 AI 비즈니스 기반 조성’을 위해 AI 기업 및 기관과 맺은 200번째 협약이다.
광주시는 2018년 문재인 정부의 예비타당성조사 면제사업 공모 당시 광역시·도 중 유일하게 ‘AI 집적단지’를 신청했다. 이후 2020년부터 4000억원을 들여 지난해 국가AI데이터센터를 준공하고 같은해 11월부터 정식 서비스에 들어갔다.국가AI데이터센터는 고성능 AI 가속기를 기업이 짧은 시간 내 방대한 데이터의 딥러닝 학습과 데이터 분석·활용을 할 수 있도록 돕는다. 지금까지 기업 및 기관 700여 곳을 대상으로 누적 1300여 건에 달하는 개발·학습 서비스를 지원했다.
전체 가속기의 3분의 2는 현존 최고 GPU로 꼽히는 H100으로 구성돼 있다. H100 서버가 제공하는 연산량만 63PF에 달한다. H100의 가장 큰 장점은 방대한 데이터를 병렬로 빠르게 처리할 수 있어 ‘생성형 AI’ 연구가 가능하다는 것이다. AI 기업들은 자연어 처리를 수행하는 딥러닝 AI 기술인 대규모언어모델(LLM)과 이를 보완하는 검색증강생성(RAG) 기술 학습에 H100을 활용하고 있다. 국가AI데이터센터의 운영을 맡은 AI산업융합사업단 관계자는 “H100은 개당 가격만 4만달러(약 5500만원)에 이르는 데다 구하기도 쉽지 않아 국내에서 광주를 제외하고 일정량을 보유한 기업이나 기관은 손에 꼽을 정도”라며 “국가AI데이터센터의 컴퓨팅 자원을 지원받기 위한 경쟁률이 최근 2 대 1까지 올라갔다”고 설명했다.
AI 관련 기업과 기관이 광주로 오는 또 다른 이유는 AI를 개발하기 위해 필요한 방대한 데이터 때문이다. 국가AI데이터센터에 데이터 저장장치를 직접 연결하면 개발 시간을 단축할 수 있다.
국가AI데이터센터로부터 지원받은 AI 기업들의 성장세도 눈에 띈다. 에스오에스랩(대표 정지성)은 라이다 센서와 관련 솔루션으로 537억원의 투자 유치에 성공했다. 2016년 창업 이후 국내 1위 라이다 업체로 올라선 이 회사는 지난 6월 코스닥시장 상장에도 성공했다. AI와 문화콘텐츠를 접목한 인디제이(대표 정우주)는 AI 음악추천 라디오 스트리밍 ‘인디제이’로 2023년부터 2년 연속 CES(세계 최대 IT·가전 전시회) 혁신상을 받았다.
광주=임동률 기자 exian@hankyung.com
