<앵커>
앤트로픽이 소프트웨어의 수천 가지 결함을 순식간에 찾아내는 AI '클로드 미토스'를 선보였습니다.
성능이 너무 강력해서 위험할 정도라는 말이 나올 정도인데, 일반 대중에게는 공개하지 않았습니다.
미토스 쇼크가 전 세계 금융 시스템을 흔들 수 있다는 우려도 커지고 있습니다.
자세한 내용 취재기자와 살펴보겠습니다. 산업부 김대연 기자 나와 있습니다.
김 기자, 우선 미토스가 얼마나 성능이 뛰어난 건가요?
<기자>
박사급 전문가 수준의 문제를 모은 '인류의 마지막 시험(HLE)'에서 정답률이 56.8%였는데요.
현존하는 AI 모델 중 점수가 가장 높았습니다.
이전 최고 기록이었던 구글의 '제미나이3 딥싱크(48.4%)'를 제친 건데요.
앤트로픽이 이전 모델인 '클로드 오퍼스 4.6(40%)'보다 성능을 16.8%p 끌어올렸습니다.
'클로드 미토스'는 앤트로픽이 지난 7일 공개한 보안에 특화된 자율형 AI 모델입니다.
오픈AI의 '챗GPT'나 구글의 '제미나이'처럼 사용자의 지시에 따라 수동적으로 움직이는 기존 AI와는 다른데요.
단순한 비서 역할을 넘어 스스로 판단하고 행동하는 기능을 갖췄습니다.
복잡한 소프트웨어 구조를 전문가 수준으로 분석하고요. 취약점 분석부터 공격 코드 작성까지 전 과정을 스스로 수행할 수 있습니다.
<앵커>
문제는 성능이 워낙 강력한 탓에 해킹 도구로 악용될 수 있다는 점인데요.
미토스는 어디까지 가능한 건가요?
<기자>
철통 보안 체제로 유명한 '오픈BSD'에서 27년 동안 숨어 있던 결함을 찾아냈고요.
오류 검색 도구가 500만 번 넘게 검사하고도 못 찾은 16년 된 취약점도 잡아냈습니다.
실제로 보안 취약점을 찾아내는 지표에서 미토스는 83.1%를 기록했습니다.
쉽게 말해 보안 취약점을 찾는 시험에서 10번 중 8번 이상 맞혔다는 뜻인데요.
이전 모델인 오퍼스 4.6(66.6%)보다 16.5%p 높은 수준입니다.
하지만 보안을 지키기 위해 만든 AI가 오히려 위협이 될 수 있는 딜레마에 직면했습니다.
고도의 전문 지식 없이도 미토스가 치명적인 해킹 도구로 악용될 수 있기 때문인데요.
테스트 과정에서 미토스가 가상의 격리 공간을 스스로 탈출해 인간의 통제를 벗어나는 모습까지 포착됐습니다.
<앵커>
이 부분을 해결하기 위해 앤트로픽도 글로벌 빅테크 기업들과 손을 잡았다고요?
<기자>
앤트로픽이 미토스를 일반에게 공개하지 않은 이유이기도 합니다.
대신 미토스 미리보기(프리뷰) 버전을 12개 빅테크 파트너사와 40개 기관에만 제공했는데요.
구글과 애플, 아마존웹서비스(AWS), 마이크로소프트, 엔비디아 등이 접근 권한을 받았습니다.
모델 사용권 규모만 최대 1억 달러, 우리 돈 1,480억 원이고요.
앤트로픽은 이와 별개로 보안 단체에 400만 달러, 약 60억 원을 기부할 계획입니다.
이 사업을 '프로젝트 글래스윙'이라고 부르는데요.
눈에 띄지 않는 보안 취약점을 함께 찾아내고 해결하자는 취지입니다.
<앵커>
각국 금융당국에서도 대응 체계를 마련하고 있는데, 구체적으로 어떤 점을 문제로 보고 있습니까?
<기자>
AI를 이용해 적은 비용으로 짧은 시간에 해킹이 가능해진 점을 우려합니다.
특히 글로벌 금융 시스템은 각국 은행과 결제망이 실시간으로 연결된 구조입니다.
산업 특성상 한 곳만 뚫려도 결제와 송금 등 인프라 전반이 마비될 수 있는데요.
미국과 영국 등 주요국 금융당국은 긴급회의를 소집했고요. 우리 금융감독원도 대응 방안 점검에 나섰습니다.
이번 '미토스 쇼크'를 계기로 AI 경쟁의 중심이 성능에서 보안으로 넘어가고 있다는 분석이 나오는데요.
결국 똑똑한 AI를 만드는 것만큼 이를 얼마나 완전히 통제할 수 있느냐가 핵심 과제로 부상했습니다.
<앵커>
잘 들었습니다. 산업부 김대연 기자였습니다.