SK텔레콤이 인공지능(AI) 경쟁의 승부처로 모델 성능이 아닌 '개선 속도'를 꼽았다. 좋은 모델을 한 번 만드는 것보다, 실제 사용에서 나온 데이터를 다시 학습으로 되돌리는 순환 구조를 얼마나 빠르게 돌리느냐가 경쟁력을 가른다는 것이다.
유경상 SK텔레콤 AI CIC장은 24일 회사 뉴스룸에 게재한 칼럼에서 정부의 '모두의 AI' 사업 참여 배경과 전략을 이같이 설명했다. 유 CIC장은 "미래의 AI 경쟁은 가장 좋은 모델을 한 번 만들어내는 경쟁이 아니라, 가장 빠른 '지능의 개선 루프'를 구축하는 경쟁이 될 것"이라고 밝혔다."모델 보유와 서비스 운영은 전혀 다른 문제"SK텔레콤은 최근 6880억개 매개변수(파라미터) 규모의 독자 AI 모델 'A.X K2'를 공개하고 정부의 독자 AI 파운데이션 모델 프로젝트 3차 단계에 진출했다. 유 CIC장은 최상위 수준의 지능을 직접 만들 수 있어야 기술의 방향을 스스로 결정할 수 있고, 그 과정에서 쌓인 역량이 경량·특화 모델과 산업 AI로 확산된다는 점을 모델 개발에 집중하는 이유로 들었다.
다만 모델을 갖는 것만으로는 부족하다고 봤다. 그는 "좋은 모델을 보유하는 것과, 수천만 명이 매일 신뢰하며 쓰는 AI 서비스를 개발하고 운영하는 것은 전혀 다른 문제"라고 했다. 모델의 지능과 추론의 경제성, 서비스 완성도, 재학습 속도, 신뢰가 하나의 시스템으로 묶여야 하며 어느 한 축이 약하면 연구실 성과나 데모에 머물기 쉽다는 지적이다.
추론 비용 문제도 짚었다. 수백만명이 동시에 쓰는 환경에서 모든 요청을 최대 성능 모델로 처리하는 방식은 지속 가능하지 않다는 것이다. 기술 발전으로 토큰당 단가는 내려가지만 AI에 맡겨지는 작업은 그보다 빠르게 무거워지고 있다는 진단도 내놨다. 긴 문맥 처리와 반복적인 도구 호출, 여러 에이전트의 협업이 일상화될수록 추론의 경제학이 어려워진다는 얘기다.
SK텔레콤은 대응 방식으로 요청마다 전체 매개변수 중 일부만 활성화하는 MoE(전문가 혼합) 구조, 질문 난이도에 따라 사고 깊이를 조절하는 추론 방식, 간단한 질의는 경량 모델이 처리하고 복잡한 과업만 대형 모델로 넘기는 운영을 제시했다. 알고리즘 최적화에 더해 메모리 계층 관리와 연산 자원 배치 등 시스템·반도체 수준까지 내려가야 최적화가 완성된다고도 했다.
A.X K2는 이미 SK그룹 내부 사업과 서비스는 물론 국방·제조·법무·세무 등 외부 산업 영역에 적용돼 있다는 게 회사 측 설명이다."대화 횟수 아닌 완료된 일로 측정돼야"서비스 단계에서 유 CIC장이 강조한 것은 실행이다. 질문에 답하는 AI를 넘어 사용자를 대신해 일을 처리하고 결과를 내는 AI로 넘어가야 한다는 것. 그는 "모두의 AI의 성과도 대화의 횟수가 아니라 완료된 일의 숫자로 측정되어야 한다"고 했다.
이 때문에 평가 기준도 달라져야 한다고 봤다. 계획과 검색, 도구 호출, 실행이 여러 단계로 이어지는 과정에서는 작은 오류도 누적되는 만큼, 답변 하나의 정확도가 아니라 사용자의 의도가 실제 결과로 이어지는 종단 간(End-to-end) 성공률을 봐야 한다는 논리다.
SK텔레콤은 금융과 모빌리티, 미디어, 교육, 의료, 공공, 세무, 돌봄 등 분야별 대표 기업·기술 전문사와 컨소시엄을 꾸렸다. 20여개 기업·기관·단체가 참여했고, 하나은행과 NH농협은행, 버킷플레이스, 비누랩스, 위버스브레인, 알토스벤처스, 리로소프트, 대교뉴이프, 기억산책, 블루웍스, 티머니모빌리티 등 11개 기업과 추가로 업무협약(MOU)을 맺었다.
컨소시엄에서 회사가 맡은 역할은 서비스를 직접 만드는 쪽이 아니라 국민의 요청을 가장 적합한 모델·기술·전문 서비스로 연결하는 '오케스트레이터'라고 규정했다. 금융의 규제나 의료의 데이터, 세무의 제도처럼 각 영역에는 오래 다뤄 온 기업만 아는 맥락이 있어 한 기업이 전부 만드는 방식으로는 국민 일상의 요구를 충족할 수 없다는 이유에서다. 서비스는 금융·모빌리티·미디어·교육·건강 등 일상 영역에서 출발해 청년과 소상공인, 시니어를 대상으로 한 세무·행정·돌봄 영역으로 넓혀갈 계획이다.
이 같은 구조의 근거로는 월간활성이용자(MAU) 1000만명을 넘어선 AI 서비스 '에이닷' 운영 경험을 들었다. 서비스에서 발견한 개선점을 모델과 시스템에 다시 반영하는 순환이 이미 작동하고 있다는 설명이다.
안전성 문제에 대해서는 접근 방식 자체를 다시 정의했다. 유 CIC장은 "신뢰는 '위험이 전혀 없는 상태'가 아니라 '위험을 다루는 능력'으로 정의될 필요가 있다"고 했다. SK텔레콤은 AI 모델 품질에 대한 객관적 평가와 상시 레드티밍, 실시간 안전 모니터링과 가드레일, 개인·민감정보 보안 시스템을 통해 위험을 점검하겠다고 밝혔다.
홍민성 한경닷컴 기자 mshong@hankyung.com