LG전자가 인공지능(AI) 스타트업 업스테이지와 함께 온디바이스 AI 노트북 개발에 들어간다.
업스테이지는 6일 LG전자와 ‘온디바이스 AI 기술 개발 협력’을 위한 업무협약(MOU)을 체결했다고 발표했다. 양사는 온디바이스 AI를 개발해 LG 노트북 그램(사진)에 적용할 예정이다. 온디바이스 AI는 인터넷 연결 없이도 기기 자체에서 AI 챗봇 등의 서비스를 이용할 수 있는 기술이다. LG전자는 노트북 이외에도 냉장고와 세탁기, 청소기 등 다양한 가전제품에 온디바이스 AI를 확대 적용할 계획이다.
온디바이스 AI 노트북은 장소에 구애받지 않고 음성 명령과 문서·웹페이지 번역, 요약, 챗봇 등의 서비스를 사용자에게 제공할 수 있다. 전력 소모가 적고 개인정보가 외부로 유출되지 않아 안전한 것이 장점이다. LG전자 관계자는 “챗GPT 등 클라우드 기반의 AI는 대규모 클러스터로 정보를 보내 처리한 뒤 다시 받아야 하기 때문에 시간이 오래 걸린다는 단점이 있다”며 “기기 내에서 정보를 처리하는 온디바이스 AI는 데이터 처리 속도가 훨씬 빠르다”고 말했다. 이어 “온디바이스 AI는 기기 자체에서 처리하기 때문에 소규모 언어모델(SLM)과 궁합이 잘 맞는다”며 “SLM 기술력이 있는 업스테이지와 협력하게 됐다”고 설명했다.
업스테이지는 LG전자에 SLM 솔라를 개발한 AI 기술 노하우를 제공할 예정이다. 107억 개의 매개변수를 가진 솔라는 지난해 허깅페이스의 오픈LLM 리더보드에서 74.2점을 기록하며 1위에 올랐다. 당시 2주간 20위권 내 모든 LLM 모델이 솔라를 기반으로 응용한 모델이었다. 솔라는 오픈AI의 GPT-3 대비 10분의 1 규모에 불과하지만, 속도와 추론 능력 등 성능은 훨씬 뛰어나다. 최홍준 업스테이지 부사장은 “LG전자와 함께 온디바이스 AI 기술을 개발해 빠르고 편리하며 안전한 AI 서비스를 제공할 것”이라고 말했다.
장강호 기자 callme@hankyung.com