"GPT-4 보다 빠르다"…카톡 '아숙업'에 업스테이지 '솔라' 도입

입력 2024-01-11 08:58
수정 2024-01-11 08:59

업스테이지는 자체 개발한 사전학습 거대언어모델(LLM) '솔라(Solar)'를 카카오톡 '아숙업(AskUp)'에 적용했다고 11일 밝혔다.

현재 165만 명의 이용자를 보유한 아숙업은 업스테이지가 개발한 카카오톡 챗봇 메신저로 사용자들이 다양한 주제에 대해 질문하고 답변을 받을 수 있다. 아숙업은 챗봇, 이미지 생성, 광학문자인식(OCR) 등 다양한 인공지능(AI) 기능을 제공한다. 이용자는 카카오톡에서 아숙업 채널을 추가해 서비스를 이용할 수 있다.

솔라는 업스테이지가 지난해 12월 14일 공개한 107억 개의 매개변수를 가진 글로벌 대표 소형 LLM(SLM)으로 세계 최대 머신러닝 플랫폼 허깅페이스 공개와 동시에 오픈 LLM 글로벌 1위를 차지했다. 이달 초에는 솔라를 기반으로 개발한 모델들이 상위 30위권을 모두 석권하기도 했다.

업스테이지는 아숙업에서 현재 대화의 10%에 솔라를 도입했으며 향후 더 높은 비율로 확대해 활용도를 높일 예정이다.

솔라가 적용된 아숙업의 내부 테스트 결과 GPT-4를 상회하는 속도와 비슷한 수준의 성능으로 사용자의 질문에 대해 자연스러운 답변을 제공하며 문서나 이미지의 내용을 읽고 요약하거나 키워드 기반의 검색 수행이 가능하다.

김성훈 업스테이지 대표는 "솔라의 내부 테스트 결과 GPT-3.5를 상회하고 GPT-4의 사용성과 큰 차이가 없어 일상에서 더 유용하게 활용할 수 있도록 아숙업에 적용했다"며 "지난달 솔라 공개 이후, 오픈소스 AI 업계의 관심을 받으며 글로벌 주요 사전학습 모델로 자리매김하게 됐는데 개발자뿐 아니라 모두의 일상을 효율적으로 만드는데도 솔라가 기여하기를 희망한다"고 말했다.

유지희 한경닷컴 기자 keephee@hankyung.com