이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.
인공지능(AI)의 무기화를 둘러싸고 미 국방부와 AI 회사 앤스로픽의 갈등이 격화됐다. 국방부는 국가 안보를 위해 군이 AI 모델 ‘클로드’를 제한 없이 사용할 수 있어야 한다는 입장이지만, 앤스로픽은 견제 없는 AI 사용은 윤리적 문제를 일으킬 수 있다는 입장을 고수하고 있어서다. AI 기술 활용 범위가 확대될수록 윤리와 관련된 기술기업과 정부 간 갈등은 더 잦아질 전망이다.
○국방부, 앤스로픽에 최후통첩
24일(현지시간) AP통신, 악시오스 등 외신에 따르면 피트 헤그세스 미국 국방장관은 이날 오전 국방부에서 다리오 아모데이 앤스로픽 최고경영자(CEO)와 만나 오는 27일 오후 5시까지 앤스로픽이 국방부의 AI 모델 사용 요구 사항을 따르지 않을 경우 계약을 취소하겠다고 통보했다. 앤스로픽이 더 유연한 태도를 보이지 않으면 앤스로픽을 공급망 위험 업체로 지정하거나, 국방물자생산법(DPA)을 적용해 국방부와 더 긴밀하게 협력하도록 강제할 수 있다고도 경고했다.공급망 위험 업체로 지정되면 미 국방부와 거래하는 모든 계약·공급업체는 미군과의 협업 업무에서 클로드를 사용할 수 없다. 주로 중국 등 적대국과 관련된 외국 기업에 적용하는 조치라는 점에서 자국 기업을 공급망 위험 업체로 지정하는 것은 전례 없는 일이다. DPA 역시 국가 비상 상황에서 에너지, 의료 등 핵심 부문을 통제하는 데 사용했기에 기술기업에 이 법이 적용되는 것 역시 이례적이다.
현재 국방부의 기밀 네트워크용으로 사용되는 건 클로드가 유일하다. 국방부는 지난해 7월 앤스로픽과 2억달러 규모의 소프트웨어 사용계약을 체결했다.
○윤리 포기 못하겠다는 앤스로픽
양측의 갈등은 미군이 지난달 니콜라스 마두로 베네수엘라 대통령 체포 작전에서 클로드를 활용하면서 불이 붙었다. 군사적 목적으로 AI를 어느 범위까지 활용할 수 있느냐를 두고 양측의 견해차가 좁혀지지 않았다. 앤스로픽은 ‘헌법적 AI’를 바탕으로 AI가 스스로 윤리지침을 따르도록 설계하는 등 ‘착한 AI’를 표방한다. 그동안 국방부와 협력 의사를 밝히면서도 미국인에 대한 국내 감시나 완전 자율형 무기 체계 등에 자사 모델이 사용되는 것은 용인할 수 없다고 선을 그은 이유가 이 때문이다. 이날 국방장관과의 회담에서도 이 두 가지 ‘레드라인’에 대해서는 물러서지 않았다고 AP통신은 전했다.반대로 국방부는 안전장치 제한이 없는 도구가 필요하다며 앤스로픽의 윤리 제한 규정에 반대한다. 또한 군은 합법적인 명령만 내린다는 점도 강조했다. 특히 헤그세스 장관은 지난해 전군 지휘관 회의 연설에서 군 내의 ‘워크(woke·깨어있음)’ 문화를 근절하겠다고 밝혔고 지난달에도 “전쟁을 치르는 것을 허용하지 않는 AI 모델은 배제할 것”이라고 말하는 등 국가 안보와 관련된 사안에서 AI 역할을 확대하고자 한다.
○대체 기업 찾는 국방부
이번 대립은 정치적 문제와도 연결돼있다. 월스트리트저널(WSJ)은 “조 바이든 전 정부의 고위 인사들을 채용하고 진보 진영 후원자들과 관계를 맺고 있는 앤스로픽에 대해 도널드 트럼프 행정부가 회의적인 시각을 갖고 있다”고 보도했다. 트럼프 행정부 인사들의 ‘워크’ AI에 대한 비판이 사실은 앤스로픽을 겨냥한 것이라고도 짚었다.국방부가 앤스로픽과 결별한다면 클로드를 대신할 모델을 찾아야 한다. 외신에 따르면 국방부는 최근 xAI의 모델 ‘그록’을 기밀 시스템에 활용하는 내용의 계약을 체결했다. xAI는 모든 합법적 용도의 군사적 이용에 동의한 것으로 전해졌다. 다만 클로드가 군과 관련된 여러 분야에서 경쟁사보다 앞서있기 때문에 클로드를 완전히 대체할 수 있을지는 불분명하다는 지적도 나온다.
한경제 기자