AI 개발 속도조절론 반박…"안전은 해결 가능한 기술 문제"
LLM 한계 넘어 월드모델 주목…한국 제조 역량·AI 협력 강조
(서울=연합뉴스) 권하영 기자 = 세계적인 인공지능(AI) 석학인 얀 르쿤 에이엠아이랩스(AMI Labs) 창업자 겸 회장이 AI 기술의 빠른 발전과 함께 제기되는 'AI 종말론'과 'AI 개발 속도조절론'에 대해 과도한 우려라고 선을 그었다. AI 안전은 해결 가능한 엔지니어링 문제라는 입장이다.
사이버보안 영역에서도 AI는 공격자보다 방어자에게 유리하게 작용할 것으로 전망했다. 방어 측에는 더 많은 숙련 인력과 자금이 투입되는 반면 공격자는 소수 인원이 은밀하게 활동해야 하는 제약이 있다는 분석이다.
르쿤 회장은 또한 언어모델 기반 생성형 AI의 한계를 지적하며, 현실 세계의 작동 원리를 이해하는 '월드모델'이 AI의 다음 혁명을 이끌 것이라고 전망했다.
한국이 세계적인 제조 역량과 산업 현장의 전문성을 보유한 만큼 이를 글로벌 AI 생태계와 연결하고, 각국과 협력해 새로운 산업적 가치를 창출해야 한다는 제언도 나왔다.
르쿤 회장은 12일 서울 중구 웨스틴 조선 서울에서 열린 '산업 AI 글로벌 협력' 기자간담회에서 이같이 말했다.
이날 간담회는 미국 산업 AI 기업 에이토매틱과 국제 산업 AI 콘퍼런스(IIAC) 2026 조직위원회가 공동 주최하고 AI 얼라이언스와 ASI 파운드리가 공동 주관했다.
ADVERTISEMENT
◇ "LLM은 쉽지만 현실은 어렵다"…월드모델이 다음 AI 혁명
르쿤 회장은 현재의 대규모언어모델(LLM) 기반 AI가 언어와 같은 형태로 정리된 지식을 처리하는 데는 뛰어나지만, 물리적 현실을 이해하고 그 안에서 행동하는 능력은 아직 부족하다고 진단했다.
그는 "신경망은 이미 존재하는 인간의 지식을 텍스트 형태로 전달하는 데는 매우 뛰어나다"면서도 "아직 물리 세계를 통제할 수 있을 만큼 이해하지는 못한다"고 말했다.
코드 작성이나 수학처럼 모의실험이 가능한 분야에서는 AI가 수학 정리를 증명하거나 변호사 자격시험을 통과하는 수준에 도달했지만, 현실 세계에서는 여전히 한계가 뚜렷하다는 것이다.
르쿤 회장은 10살 아이가 할 수 있는 일도 로봇은 제대로 해내지 못한다는 점을 지적하며, 완전자율주행 레벨5 자율주행차가 아직 개발되지 않았다는 사실도 사례로 들었다.
그는 "인간 운전 데이터를 수십억 시간 모았음에도 여전히 완전자율주행차가 없다"며 "모방학습만으로는 충분하지 않다는 뜻"이라고 말했다.
이러한 한계를 넘어설 대안으로는 생성형 AI와 다른 구조의 'JEPA(Joint Embedding Predictive Architecture·공동 임베딩 예측 아키텍처)'를 제시하며 현재 에이엠아이랩스에서 해당 기술을 개발하고 있다고 소개했다.
JEPA는 현재 상태와 특정 행동이 주어졌을 때 그 결과로 나타날 세계의 상태를 예측하는 방식으로, 영상처럼 예측하기 어려운 정보가 많은 현실 세계를 다루는 데 적합하다는 설명이다.
르쿤 회장은 AI가 현실 세계의 상태와 작동 원리를 학습하고 특정 행동의 결과를 예측할 수 있도록 하는 월드모델이 차세대 AI의 핵심이 될 것으로 보고, 이를 통해 AI 시스템이 별도의 사전 학습 없이도 새로운 과제를 수행할 수 있게 될 것이라고 전망했다.
◇ 한국 연구 역량 긍정 평가…"해외 인재 끌어들일 환경 필요"
르쿤 회장은 자신이 교수로 재직 중인 뉴욕대와 한국 정부가 공동 설립한 '글로벌 AI 프론티어랩'을 언급하며 한미 연구 협력 사례를 소개했다.
한국의 우수한 과학기술 고등교육 시스템과 인재를 강점으로 꼽으면서도, 해외 연구자를 유치할 수 있는 연구 생태계의 매력도와 개방성을 높여야 한다고 제언했다.
그는 해외 인재를 끌어들일 수 있는 연구 환경을 갖춘 국가가 미국과 스위스, 싱가포르 등 소수에 그친다고 진단하며, 한국 역시 국제적인 연구 경쟁력을 강화할 필요가 있다고 강조했다.
AI 기술 발전이 노동시장에 미칠 영향에 대해서도 언급했다. 가까운 미래에는 상당수 노동자가 AI 시스템으로 구성된 팀을 관리하는 역할을 맡게 될 수 있다는 전망이다.
평생직장 문화가 강한 한국과 일본에서도 기술 변화에 따른 직업 전환이 불가피할 수 있다고 내다봤다.
르쿤 회장은 오늘날 활용되는 AI 기술 역시 수십 년 전의 기초연구에 뿌리를 두고 있다며, 장기적인 관점에서 연구와 교육에 투자해야 한다고 강조했다.
ADVERTISEMENT
◇ AI 속도조절론에 선그어…"사이버보안은 방어자가 유리"
르쿤 회장은 질의응답에서 최근 한국 금융권을 겨냥한 AI 해킹 사태를 계기로 제기된 AI 안전·통제 우려에 대해 기존 입장을 재확인했다. AI가 인간의 통제를 벗어나 해악을 미칠 수 있다는 종말론이나 안전·통제 역량을 확보하기 위해 개발 속도를 늦춰야 한다는 주장에 동의하지 않는다는 것이다.
그는 최근 발생한 AI 에이전트 관련 보안 사고는 AI 기업들의 사이버보안 경험 부족과 허술한 샌드박스(AI 실행을 격리하는 보안 환경) 설계에서 비롯된 것으로, "쉽게 고칠 수 있는 문제"라고 말했다. AI를 통제할 수 없어서 발생한 사고가 아니라 보안 설계의 문제라는 설명이다.
사이버보안에서 AI가 공격자와 방어자 중 누구에게 유리한지에 대해서는 방어자 쪽이라고 답했다. 방어 측에는 더 많은 숙련 인력과 자금이 투입되고, 이들은 비밀리에 활동할 필요 없이 지식을 공유할 수 있다는 점을 근거로 들었다.
반면 공격자는 소수 인원이 은밀하게 활동해야 해 지식 공유에 제약이 있고, 대규모 컴퓨팅 자원이 필요한 공격일수록 탐지될 가능성도 커진다고 설명했다.
AI 전반의 통제 가능성과 관련해서는 현재의 LLM 기반 시스템이 수학·코딩 등 일부 영역을 제외하면 특별히 똑똑하지 않으며, 대부분 기존에 알려진 인간의 지식을 정리·재구성하는 수준이라고 짚었다.
다만 LLM 기반 시스템은 가능한 질문에 일일이 대응하도록 미세조정하는 방식으로 통제되기 때문에 탈옥(jailbreak)에 취약하다는 한계도 지적했다.
이러한 한계를 극복할 대안으로는 '목표지향형 AI(objective-driven AI)'라는 새로운 설계를 제시했다. 월드모델을 통해 특정 행동의 결과를 예측할 수 있는 시스템에 목표를 부여하고, 추론 과정에서 반드시 지켜야 할 가드레일(안전장치)을 설정하면 그 범위 안에서 목표를 달성하도록 설계할 수 있다는 것이다.
예컨대 칼을 든 가정용 로봇이 주변에 사람이 있을 때는 팔을 빠르게 휘두르지 않도록 하는 단순한 규칙부터, 인간 사회의 법률처럼 특정 행동에 비용을 부여해 비용이 최소화되는 선택을 유도하는 체계까지 단계적으로 가드레일을 설계할 수 있다고 덧붙였다.
르쿤 회장은 "AI 안전을 확보하는 일은 쉬운 과제는 아니지만, 비행기를 안전하게 운항할 수 있도록 터보제트 엔진을 설계하는 것보다는 오히려 단순한 문제일 수 있다"며 "특정 개인이나 집단이 어느 날 갑자기 인간 수준의 지능을 발견해 AI가 세계를 장악하는 시나리오는 공상과학적 상상에 가깝다"고 선을 그었다.
AI 기술의 혁신은 특정 순간에 집중되기보다 여러 곳에서 돌파구가 거의 동시에 나타나면서 점진적으로 진행될 것이라는 진단이다.
◇ AI 위험도 통제 가능…"보안·거버넌스 투자가 확산 뒷받침"
르쿤 회장과 함께 토론에 나선 다른 연사들도 AI 위험을 통제할 수 있다는 낙관적 전망에 공감을 나타냈다.
크리스토퍼 응우옌 에이토매틱 공동창업자 겸 최고경영자(CEO)는 거버넌스와 보안에 대한 투자가 오히려 AI 배포 속도를 높여준다는 견해를 밝혔다.
그는 "사이버범죄 등 새로운 기술에 수반되는 위험은 기술이 등장할 때마다 반복돼 온 패턴"이라면서도, 인류가 매번 위험을 통제하는 방법을 학습해 왔다는 점을 강조했다. "인간의 가치판단 없이 AI가 독자적으로 가치와 도덕을 결정하도록 하는 개발 방식이 오히려 가장 위험하다"고 지적했다.
앤서니 아눈지아타 AI 얼라이언스 공동의장은 "화학·생물·핵무기와 관련한 존재론적 위험에 대해서도 제조법이 이미 알려져 있더라도 실제 구현에는 물리적 안전장치가 많아 LLM이 관련 정보를 제공한다고 해서 쉽게 실행할 수 있는 것은 아니"라며 "AI가 머지않아 역대 가장 안전한 사이버 인프라를 구축하는 데 기여할 것"이라고 전망했다.
지미 리 ASI 파운드리 회장도 은행과 소형모듈원전(SMR) 기업 이사회에 참여한 경험을 언급하며, 은행이 하루 약 8만 건의 공격을 받으면서도 방어자가 우위를 지키고 있다고 전했다. 연결된 세계에서는 우라늄이나 금속 구매와 같은 이상 징후도 쉽게 포착되는 만큼, 방어자는 자원뿐 아니라 '가시성' 측면에서도 우위를 갖는다는 설명이다.
◇ 응우옌 "산업 AI가 진짜 AI"…아눈지아타 "주권 지키며 공동개발"
크리스토퍼 응우옌 CEO는 제조업 등 물리적 산업 현장에 적용되는 AI의 중요성을 강조하며 산업 AI를 "진짜(real) AI"라고 규정했다.
금융·디지털 부문보다 제조업 등 물리적 산업 부문의 경제 규모가 훨씬 크지만, AI 기술이 산업 현장에 본격적으로 적용되기 시작한 것은 최근의 일이라는 설명이다.
응우옌 CEO는 한국과 일본, 베트남처럼 제조업 기반이 탄탄한 아시아 경제권이 산업 AI 확산 과정에서 유리한 위치에 있다고 평가했다.
제조 현장 전문가의 노하우를 AI 에이전트로 구현하는 '디지털 엔지니어' 개념도 소개했다. 숙련자의 경험과 AI 기술을 결합해 산업 현장의 의사결정을 지원하는 방식이다.
앤서니 아눈지아타 공동의장은 자신이 이끄는 글로벌 비영리 연합체 AI 얼라이언스의 대표 프로젝트인 '프로젝트 태피스트리'를 소개했다.
프로젝트 태피스트리는 참여 기관이 데이터와 기술에 대한 통제권을 유지하면서도 공동으로 기반 모델을 구축할 수 있도록 하는 협력체다.
아눈지아타 공동의장은 한국이 데이터와 제조 공정 전반에 걸쳐 상당한 역량을 축적했다고 평가했다.
그러면서 이러한 역량을 충분히 활용하려면 공통의 기반이 필요하다며, 프로젝트 태피스트리와 같은 협력이 한국 산업계와 인력이 기존의 강점을 더 효과적으로 활용하는 계기가 될 수 있다고 말했다.
지미 리 회장은 한국에 대해 풍부한 원유를 보유한 사우디아라비아에 비유하며 "데이터 유전(data well)"이라고 표현하며, "한국이 세계적으로 신뢰받는 제조 역량을 통해 공장에서 생산되는 고품질 데이터를 축적하고 있으며, 이 데이터가 실리콘밸리의 AI 지능과 결합하면 강력한 시너지를 낼 수 있다"고 지적했다.
그는 "지정학적 변화로 공급망이 재편되는 상황에서 한국이 물리적 AI로의 전환을 망설일 경우 기회를 놓칠 수 있다"고 경고하며, 의지(commitment)와 역량(competency), 자본(capital) 등 3가지 요소가 함께 갖춰져야 한다고 역설했다.
한국이 수출주도형 경제인 만큼 완벽한 정보를 기다리기보다 과감하게 행동할 필요가 있다고도 제언했다. 그는 "한국의 '빨리빨리' 문화가 그 자체로 강점이 될 수 있다"며 "완벽한 정보를 기다리는 동안 치르는 기회비용이 과감한 행동에 따른 비용보다 클 수 있다"는 견해를 밝혔다.
◇ 하정우 "한국 제조 역량과 글로벌 AI 결합해야"
하정우 국가인공지능전략위원회 부위원장은 축사에서 한국이 반도체와 자동차, 조선, 배터리 등 세계적인 제조 기반을 갖췄을 뿐 아니라 수십 년간 축적한 현장 데이터와 공정 노하우도 보유하고 있다고 강조했다.
그는 "AI 시대에는 한 기업이나 국가가 모든 역량을 독자적으로 확보하기 어렵고, 각자의 강점을 결합해 새로운 가치를 만들어내는 협력이 중요하다"며 "데이터와 기술에 대한 통제권을 유지하면서도 글로벌 연구자·기업과 공동 성과를 창출할 수 있는 새로운 협력 채널이 필요하다"고 말했다.
이번 간담회는 AI 경쟁의 무대가 제조·반도체·에너지 등 산업 현장으로 확대되는 가운데, 고도화된 제조 생태계와 산업 전문성을 갖춘 한국이 글로벌 AI 기술과 협력할 방안을 모색하기 위해 마련됐다.
오는 13일 일본 도쿄에서 열리는 제5회 IIAC에 앞서 하루 먼저 서울에서 개최됐다.
kwonhy@yna.co.kr
(끝)
ADVERTISEMENT
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
ADVERTISEMENT
ADVERTISEMENT