정부 "독파모 벤치맥싱 없었다"…2차 평가 공정성 방어(종합)
평가기관 공식 확인…"벤치마크 신뢰성 이상 없다"
3개 영역 1위 제각각…근소한 격차 속 종합 결과로 당락
(서울=연합뉴스) 권하영 기자 = 정부가 '독자 인공지능(AI) 파운데이션 모델'(독파모) 프로젝트 2차 단계평가와 관련해 벤치마크 과적합(벤치맥싱) 우려에 대해 평가기관으로부터 "문제없다"는 공식 답변을 받았다고 밝혔다.
류제명 과학기술정보통신부 제2차관은 18일 정부서울청사에서 열린 브리핑에서 "해당 평가기관에 벤치맥싱 우려를 의뢰한 결과, 평가를 위한 체계적인 암기나 과적합 문제가 입증될 만한 답변을 찾지 못했으며, 큰 문제가 없다는 답변을 받았다"고 말했다.
이번 독파모 2차 평가에서 벤치마크 평가(배점 40점)는 AAII 평가(25점)와 한국지능정보사회진흥원(NIA) 벤치마크 평가(15점)로 구성됐다.
그중 AAII는 글로벌 AI 모델 평가 플랫폼 아티피셜 애널리시스가 산출하는 종합 성능 지수로, 에이전트·코딩·일반·과학적 추론 등 분야의 고난도 벤치마크 9종을 묶어 단일 점수로 환산한다
과기정통부는 글로벌 빅테크들도 고득점을 받기 어려운 공신력 높은 지표라는 점에서 이번 2차 벤치마크 평가에서 AAII를 중점적으로 도입했다.
그러나 업계 일각에서는 독파모 참여사 중 한 곳이 AAII 점수를 집중적으로 겨냥해 취약한 점수 항목을 끌어올리는 이른바 벤치맥싱을 했다는 우려가 제기된 바 있다.
그동안 AI 업계에서는 벤치마크 평가에 최적화된 데이터를 활용하는 이 같은 벤치맥싱 방식이 모델의 실질적 경쟁력을 왜곡할 수 있다는 비판이 꾸준히 나왔다.
이에 과기정통부는 AAII를 운영하는 아티피셜 애널리시스에 공식적으로 분석을 의뢰했고, "체계적인 암기나 과적합 문제가 입증될 만한 단서를 찾지 못했다"는 답변을 받았다고 전했다.
이에 따라 이번 2차 평가를 전후로 불거진 일부 참여사의 벤치맥싱 논란은 평가 결과에 반영되지 않았다.
류 차관은 "AAII의 공식 답변을 토대로 했고, 전문가 평가를 통해 여러 가지를 검증한 결과 불공정한 기술 지원 등은 없었다는 결론을 내렸다"고 설명했다.
벤치마크 배점과 평가 방식에 대해서도 "참여 기업들의 의견과 전문가 논의를 거쳐 확정한 것"이라며 "참여 기업들의 이의제기를 충분히 받아 이의가 해소될 때까지 공감대를 형성하는 작업을 거쳤다"고 덧붙였다.
◇ 평가 영역별 1위 팀 모두 달라…"종합 결과로 당락 갈려"
이번 2차 평가가 벤치마크에 그치지 않고 전문가·사용자 평가를 아우르는 다층 구조로 설계된 점도 강조됐다.
과기정통부는 각 벤치마크·전문가·사용자 등 3개 평가 영역별 1위 팀은 모두 달랐으며, 일관되게 1등을 한 기업은 없었다고 밝혔다.
각 항목별 점수 격차도 근소했다. 배점 40점인 벤치마크 평가에서 1위와 4위 간 격차는 4.0점, 배점 35점인 전문가 평가에서는 2.4점, 배점 25점인 사용자 평가에서는 5.0점이었다.
류 차관은 "특별히 어떤 항목이 결정적이었다고 보기 어려울 정도로 각 항목별 결과를 종합적으로 만들어낸 결과"라고 부연했다.
독파모 프로젝트는 국가대표 AI를 선발하기 위해 과기정통부와 정보통신산업진흥원(NIPA)이 추진하는 대규모언어모델(LLM) 개발 사업이다.
지난해 말 1차 평가를 거쳐 LG AI연구원·SK텔레콤·업스테이지·모티프테크놀로지스 등 4개 정예팀이 2차 평가에 진출했으며, 이번 2차 평가 결과 모티프테크놀로지스가 탈락하고 나머지 3개 팀이 다음 단계로 올라섰다. 정부는 3차 평가를 거쳐 내년 초 최종 2개팀을 선정할 계획이다.
kwonhy@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>