앤트로픽·오픈AI발 논쟁…국내 산업계 "자체 AI 역량 먼저 확보"
프론티어 AI 위험엔 공감…"독립적 평가·통제 능력도 갖춰야"
(서울=연합뉴스) 권하영 기자 = 인공지능(AI) 개발 속도를 늦춰야 한다는 '속도조절론'이 국제적 논쟁으로 번지는 가운데 국내 산업계와 전문가들은 한국이 독자적으로 속도 조절에 나설 경우 글로벌 빅테크와의 기술 격차와 종속이 심화할 수 있다고 우려했다.
이들은 프론티어 AI의 위험에 대비한 안전장치가 필요하다는 데 공감하면서도 우선 자체 AI 기술과 독립적인 평가·통제 역량을 확보한 뒤 국제 공조를 통해 안전성을 강화해야 한다고 제언했다.
ADVERTISEMENT
◇ "한국만 브레이크 밟으면 기술 격차 고착"…자체 AI 역량 우선
국가인공지능전략위원회는 1일 서울스퀘어에서 'AI 개발 속도조절론' 관련 세미나를 개최했다.
이번 세미나는 지난달 12일 앤트로픽·오픈AI 등 빅테크 수장들이 AI 기술 발전이 인간의 통제력을 넘어서고 있다는 우려를 공개적으로 밝힌 것을 계기로 마련됐다. 미국과 중국, 유엔(UN) 등 국제 사회의 입장이 제각각인 상황에서 한국의 대응 방향을 모색하기 위해서다.
최근 미국은 트럼프 대통령이 속도조절론을 수용할 수 없다고 선언하고 현 AI 경쟁 체제를 유지하겠다는 의사를 밝혔으며, 중국 외교부 대변인 역시 속도조절론을 "공포 조장·악성 경쟁을 부추기는 것"이라고 일축했다. 반면 UN은 AI 통제 선언문을 20개국이 채택하는 데 합의했으나 미국과 중국은 불참했다.
국내 산업계와 전문가들은 이러한 국제 환경을 감안할 때 한국이 홀로 브레이크를 밟는 것은 득보다 실이 크다는 데 의견을 모았다.
김성훈 업스테이지 대표는 "AI는 초지능(Super Intelligence·SI)을 넘어 스스로 진화하는 AI(Self-Improving Super Intelligence·SI²) 시대로 넘어가고 있다"며 국내 속도 조절은 글로벌 빅테크와의 기술 격차를 고착화하고 종속을 심화시킬 우려가 있다고 경고했다.
그는 자기 진화 수준의 기술을 먼저 확보한 뒤 글로벌 추세에 맞춰 안전장치 마련 등 속도 조절을 검토해야 한다고 강조했다.
◇ "프론티어 AI 위험, 현 제도로 한계"…평가·통제 역량 확보해야
전문가들은 동시에 현행 제도만으로는 급격히 확장되는 프론티어 AI의 위험을 통제하기 어렵다는 우려도 제기했다.
최대선 숭실대 교수(AI안전성연구센터장)는 고영향 AI·연산량 중심의 첨단 AI 등 기존 제도 범주로는 범용성과 예측 불가능성이 가파르게 확장되는 프론티어 AI의 위험을 감당하기 어렵다며 기술적·제도적 대응 검토의 필요성을 지적했다.
이한울 에임인텔리전스 부사장은 국내 AI 보안 역량과 기업의 대응 현실을 짚으며 국내 독립적 모델 평가·통제 능력 확보와 국제 공조를 병행해야 한다고 제언했다.
2부 패널 토론에서는 주요국 정책과 국내 환경을 고려한 속도 책임론 이행 방향, 글로벌 빅테크와의 기술 격차를 좁히기 위한 지원책, 첨단 AI 위험의 평가·통제 및 안전 검증 체계 구축 방향, 기업 부담을 최소화하면서 안전성을 담보하는 방안 등이 논의됐다.
김명주 AI안전연구소 소장은 현재 AI 안전성을 독립적으로 검증할 역량을 갖춘 국가가 영국·싱가포르·한국을 포함해 전 세계에 극소수에 불과하다고 밝혔다. 그는 한국이 검증의 주체로 더욱 적극적으로 나서야 한다고 강조했다.
김 소장은 다만 인력 측면에서 한국의 현실이 녹록지 않다고 짚었다. 현재 AI안전연구소 정규직 인력이 20여 명 수준인 데 반해 싱가포르는 올해 AI 평가 인력을 60명으로 확충했다며, 평가 역량 강화와 평가 조직의 독립성 확보가 시급한 과제라고 강조했다.
김동환 포티투마루 대표는 속도조절론이 현실적으로 실현 가능하지 않다고 진단하며, 이를 둘러싼 국제 논의가 결국 규제 헤게모니 경쟁으로 흐를 수 있다고 경고했다. 특정 국가나 빅테크가 AI 안전 평가 기준을 선점해 글로벌 스탠더드화할 경우 '규제 패권주의'로 이어질 수 있다는 우려에서다.
김 대표는 이에 맞서기 위해 보안·안전·교육 등 AI가 영향을 미치는 다양한 분야를 아우르는 다자간 국제 협력체를 구축해야 한다고 제언했다. 한국이 이 과정에서 관련 논의를 주도하고 국제 안전 기준 제정에도 적극 목소리를 내야 한다고 강조했다.
하정우 위원회 상근 부위원장은 "AI 개발 속도조절론을 둘러싼 다양한 우려와 국내외 담론이 혼재돼 있지만, 대체 불가능한 글로벌 AI 핵심 공급망 확보와 'AI 3강 도약'을 위해 안전한 프론티어 AI 역량 확보는 선택이 아닌 필수"라고 말했다.
이날 세미나에는 과학기술정보통신부·개인정보보호위원회 등 관계부처와 AI안전연구소·한국인터넷진흥원(KISA)·정보통신정책연구원·소프트웨어정책연구소·국제인공지능윤리협회 등 유관기관·협회를 포함해 70여 명이 현장에 참석했다.
한편 김성훈 업스테이지 대표는 이날 세미나가 끝난 후 기자들과 만나 정부의 독파모 사업과 프론티어 AI 개발 병행 입장에 대해 "구체적인 방식을 모르기 때문에 말씀드리기 어렵다"면서도 "단순히 모델 크기가 중요한 게 아니라 핵심 기술을 우리가 직접 개발할 수 있느냐가 문제의 본질"이라고 언급했다.
김 대표는 정부가 프론티어 AI 개발을 위해 특수목적법인(SPC) 설립을 검토하고 있다는 관측과 관련, 참여 의향을 묻는 질문에 "우리 목표는 딥시크를 뛰어넘는 것이고, 그를 위해서라면 정부든 투자자든 도와주시면 감사한 일"이라고 말했다. 자체 평가한 딥시크와의 기술 격차는 현재 약 4개월 수준이라고 진단했다.
kwonhy@yna.co.kr
(끝)
ADVERTISEMENT
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT