KT, 초거대 AI '믿음' 출시…환각현상 70％ 감소
매개변수 2천억 개 수준…기업전용 거대언어모델로 사업화
(서울=연합뉴스) 오규진 기자 = KT[030200]가 31일 매개변수(패러미터) 최대 2천억 개 수준의 초거대 인공지능(AI) '믿음'(Mi:dm)을 선보였다.
KT는 이날 서울 서초구 KT 연구개발센터에서 기자설명회를 열어 국내 최초로 1조 토큰(데이터에서 의미를 가지는 최소한의 덩어리) 이상 데이터를 학습한 거대언어모델(LLM) '믿음'을 정식 공개했다.
'믿음' 출시 모델은 매개변수 70억 개 수준의 '경량'부터 거대언어모델 'GPT-3'(1천750억개)보다 매개변수가 250억 개 이상 많은 '초대형'까지 4종으로 분류됐다.
이 중 외부에 완전히 개방한 경량 모델의 경우 AI 스타트업 '업스테이지'와 한국지능정보사회진흥원(NIA)이 개발한 거대언어모델 평가 플랫폼 '오픈 코-LLM 리더보드'에서 최상위권에 들기도 했다.
KT는 기업 규모와 사용 목적에 맞게 완전 맞춤형으로 사용할 수 있도록 '믿음'의 기반 모델(파운데이션 모델)을 개방했으며, 'KT 믿음 스튜디오'라는 전용 포털에서 직접 모델을 선택하고 학습할 수 있도록 환경을 구축했다.
난제로 꼽히는 '환각 현상'(할루시네이션) 해결에도 공을 들였다.
KT는 '믿음'에 도식화되고 복잡한 문서를 정확히 이해하도록 돕는 'p다큐먼트 AI', 목표 도메인과 문서에 최적화된 정보를 찾는 'p서치 AI', 원문에 근거한 응답만 생성하도록 강화학습을 적용한 'p팩트가드 AI'를 각각 적용했다.
이를 통해 환각 현상을 일반 생성형 AI 서비스 대비 최대 70％ 줄였다고 회사는 소개했다.
KT는 AI 반도체 팹리스(반도체 설계기업) '리벨리온' 등과 '믿음'의 기업 전용 AI 클라우드팜도 패키지 형태로 제공한다.
KT클라우드의 그래픽처리장치(GPU) 인프라 종량제 서비스 '하이퍼스케일 AI 컴퓨팅'(HAC)을 이용하면 학습 비용을 기존보다 약 27％, 리벨리온의 신경망처리장치(NPU)를 쓰면 서비스·추론 비용을 약 50％ 절감할 수 있다고 회사가 전했다.
수요 기업들이 사용 신청할 수 있는 공식 웹사이트도 이날 문을 열었다.
KT는 '믿음' 출시를 계기로 기업전용 거대언어모델을 사업화하고, 새로운 AI 혁신 사업을 발굴하는 등 기업간거래(B2B) 시장에 집중한다.
특히 글로벌, 제조, 금융, 공공, 교육을 초거대 AI 사업을 확장할 5대 영역으로 규정하고, 업스테이지, 콴다, 에누마, 비아이매트릭스 등과의 협업을 이어간다.
회사는 '믿음' 출시 이전부터 금융권, 지자체, 기업설루션 등 기업 및 기관 100여 곳과 활용 논의를 했다. 기업은행은 '믿음'을 적용한 전문 상품지식 제공 서비스를 선보이기도 했다.
AI컨택센터(AICC)와 인터넷TV(IPTV) '지니TV', 'AI 통화비서' 등 기존 AI 사업을 '믿음'을 바탕으로 고도화하고, 무선서비스와 차량 인포테인먼트 시스템(IVI), 로봇 등에서도 초거대 AI를 활용한 사업을 추진하고 있다.
KT는 내부 업무 프로세스와 고객 서비스에서도 개선을 도모한다.
회사는 '믿음'을 시범 적용한 콜센터에서는 봇 인식률이 5％ 개선됐으며, 후처리 속도와 지식 구축 속도도 각각 20％, 30％ 향상됐다고 설명했다.
이를 토대로 금융과 통신영역, 지니TV 마케팅, 시니어와 육아상담 등의 영역에서도 믿음을 적용한 업무 프로세스 개선을 진행할 방침이다.
송재호 KT AI·DX융합사업부문장(부사장)은 "초거대 인공지능 시장은 빅테크(거대 정보기술기업)부터 스타트업까지 참여하며 급격한 디지털 혁신이 진행되고 있다"며 "차별화된 초거대 인공지능 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다"고 말했다.
acdc@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>