앤트로픽의 최신 인공지능 모델 미토스의 위험성에 대해 '월가의 황제' 제이미 다이먼 JP모건체이스 최고경영자(CEO)가 엄중히 경고하고 나섰다.
다이먼 CEO는 "앤트로픽의 '미토스'를 일반인에게 제공하는 것은 사실상 탄도미사일을 쥐여주는 것과 다름없다"고 15일(현지시간) 데이브 맥코믹 상원의원이 주최한 펜실베이니아 국방 및 혁신 정상회의에서 말했다.
다이먼은 "미토스가 야기하는 위험은 미국 정부가 현재 주목하고 있는 실질적인 문제"라고 덧붙였다.
최근 수개월간 AI 모델 성능이 급격히 발전하자 민간 기업과 정부가 그 잠재적 위협을 우려하고 있다.
앤트로픽이 자사 '미토스' 모델이 소프트웨어 취약점을 찾아내는 능력이 워낙 뛰어나 일반 대중에게 공개할 수 없다고 밝힌 뒤 이 문제가 더욱 긴박한 사안이 됐다고 블룸버그 통신이 보도했다.
AI가 인간 해커를 뛰어넘는 속도로 제로데이(미공개 취약점)를 탐지하고 공격까지 자동화할 수 있다는 것이다. 결국 악용했을 때의 파급력이 매우 커 일반 대중에게는 공개되지 않았다.
현재 '프로젝트 글래스윙'이라는 공동 방어 이니셔티브 하에 JP모건체이스와 AWS, 애플, 마이크로소프트, 구글 등 전 세계 15개국 약 150개 신뢰할 수 있는 파트너에만 제한적으로 제공돼 방어적 보안 연구에 사용되고 있다.
다이먼은 몇 년 전부터 국가 안보 문제를 적극 언급해왔다.
지난 4월 보낸 연례 주주 서한에서는 "미국이 군사적·경제적 위력을 유지하기 위해서는 더 강해져야 한다"고 밝히기도 했다.
(사진=연합뉴스)