사물인터넷(IoT)시대가 도래하면서 사회의 모든 기록이 데이터로 전환되는 세상이 됐다. 데이터량이 폭발적으로 증가한 것이다. 그리고 이러한 데이터를 기반으로 고도화된 AI는 제조, 유통, 건설 등 모든 분야를 아우를 수 있는 범용 기술이 돼가고 있다. 하지만 데이터가 많아질 수록 AI는 연산 문제로 무거워질 수밖에 없다. AI 경량화 기술이 필요한 이유다.
2015년 설립된 노타는 AI 경량화 기술 스타트업이다. 처음 창업할 때 노타는 스마트폰 소프트키보드에 탑재되는 오타감소 알고리즘을 AI로 만드는 솔루션을 개발하는 회사였다. 그러다 솔루션 개발 과정에서 AI를 디바이스에서 실행하는 것이 얼마나 어려운 일인지 경험했다. AI 연산을 가볍게 하는 기술이 꼭 필요하다는 걸 느낀 것이다.
채명수 노타 대표(사진)는 “AI가 고질적으로 가진 AI 모델의 크기와 연산량이 크다는 문제를 해결하고자 피봇(사업 아이템 전환)해 현재의 노타가 됐다”고 설명했다.
노타는 AI 경량화 기술이 적용된 딥러닝 자동 경량화 플랫폼 ‘넷츠프레소’를 출시했다. 넷츠프레소를 이용하면 단기간에 각 기기에 맞는 최적의 AI 모델을 만들 수 있다. 다양한 경량화 기법으로 기존 입력된 모델의 알고리즘을 간단하게 만드는 방식이다.
전문 엔지니어 없이도 빠르고 저렴하게 AI모델을 경량화할 수 있다는 장점이 있다. 노타는 100MB AI 추론모델을 1MB로 줄인 경험을 갖고 있다. 정확성을 유지하면서 AI 추론모델을 최대 1%로 줄여준다. AI모델 경량화 기술은 어느 영역에나 탑재가 가능하게 구성했다.
이러한 차별화 기술로 노타는 빠르게 성장하고 있다. 지난해 8월 80억원 규모의 시리즈A 투자 라운드를 마친 데 이어 이번달 175억원 규모의 시리즈B 투자를 마무리했다. 지난해 매출은 2019년 대비 4배 이상 성장했다. SK텔레콤, 삼성SDS, 인텔, 엔비디아 등 국내외 IT 대기업들과의 협업도 진행하고 있다.
채 대표는 “AI로 인해 10년 전의 삶과 오늘의 삶은 굉장히 큰 차이가 있다”며 “AI 활용의 가장 큰 장벽인 모델의 크기와 연산량 문제를 해결해 AI가 인간의 삶과 사회에 긍정적 변화를 가져오게 하고 싶다”고 말했다.
구민기 IT과학부 기자
