도널드 트럼프 미국 대통령이 27일(현지시간) 인공지능(AI) 기술의 군사적 사용에 회의적 입장을 밝혀온 AI 스타트업 앤스로픽에 초유의 미 연방정부 내 전면 사용 금지 명령을 내렸다.
트럼프 대통령은 이날 소셜미디어 트루스소셜을 통해 “급진 좌파 성향의 정치적 올바름에 집착한 기업들이 전쟁을 좌우하도록 결코 용납하지 않겠다”면서 모든 연방 기관에 앤스로픽의 기술 사용을 즉시 중단할 것을 지시했다.
트럼프 대통령은 성명에서 “앤스로픽의 좌파 광신도들이 전쟁부를 압박하고, 헌법이 아닌 자신들의 계약 조건을 따르도록 하는 치명적 실수를 저질렀다”고 비판했다. 이어 “이들의 이기심이 미국인의 생명을 위험에 빠뜨리고 우리 군인과 국가 안보를 위태롭게 한다”며 “다시는 거래하지 않겠다”고 밝혔다.
앞서 지난 24일 다리오 아모데이 앤스로픽 최고경영자와 피트 헤그세스 미 전쟁부 장관은 AI 기술의 군사적 적용 제한과 관련한 회동을 가졌으며, 미 전쟁부는 이날 오후 5시 1분까지 약 사흘 간의 답변 기한을 제시해왔다.
피트 헤그세스 전쟁부 장관도 트럼프 대통령 성명 직후 앤스로픽을 공급망 위험 기업으로 공식 지정한다고 밝혔다. 이번 조치는 통상 화웨이 등 적성국 기업에 적용되는 것으로, 미국 기업에 적용된 전례가 없다.
헤그세스 장관은 소셜미디어 엑스(X, 옛 트위터)에 "거대 기술 기업의 이념적 변덕에 결코 인질로 잡히지 않을 것”이라며 “미군과 거래하는 어떤 계약자, 공급자, 파트너도 앤스로픽과 상업적 활동을 할 수 없다"고 강조했다.
◆ 강경한 아모데이…"AI 감시, 민주주의와 양립 불가"
미 전쟁부와 앤스로픽이 벌이고 있는 분쟁의 핵심은 AI 기술의 군사적 적용 범위다. 전쟁부는 앤스로픽의 AI 모델 클로드를 '모든 합법적 용도'에 제한 없이 사용하겠다는 조건을 요구했다. 그러나 앤스로픽은 미국 시민에 대한 대규모 국내 감시와 인간 감독 없는 완전 자율 무기에 클로드가 쓰이지 않아야 한다고 주장해왔다.
앤스로픽 최고경영자(CEO) 다리오 아모데이는 피트 헤그세스 전쟁부 장관과 회동 이후 답변 기한 하루 전인 26일 자사 홈페이지에 올린 성명에서 미 전쟁부가 요구하는 운용 방침에 모순이 있다며 강경한 반대 입장을 공개했다.
아모데이 CEO는 "AI 기반 대규모 감시는 우리의 근본적 자유에 심각하고 새로운 위험을 제기한다"고 전제한 뒤 "현행법상 정부는 영장 없이도 미국인의 이동 기록, 웹 브라우징, 교우 관계를 공개 출처에서 구매할 수 있으며, 정보기관 자체도 이것이 사생활 우려를 낳는다고 인정했다”고 비판했다.
그러면서 그는 “강력한 AI는 이렇게 흩어져 있고 개별적으로는 무해한 데이터를 어떤 사람의 삶에 대한 포괄적 그림으로 자동 조합할 수 있으며, 그것도 대규모로 할 능력이 있다"고 우려했다.
AI에 기반한 완전 자율 무기 도입에 대해서도 그는 기술적 한계와 인간의 전문성을 대체하기 어렵다고 주장했다. 아모데이는 "오늘날 최첨단 AI 시스템은 완전 자율 무기를 구동하기에는 충분히 신뢰할 수 없다"며 "미국의 전투원과 민간인을 위험에 빠뜨리는 제품을 알면서 제공할 수는 없다"고 말했다.
아모데이 CEO는 미 전쟁부에 자율 무기 시스템의 신뢰도 향상을 위한 공동 연구개발을 제안했으나 거절당했다고도 밝혔다. 그러면서 전쟁부가 제시한 최종 계약서에 실질적 양보 없이 빠져나갈 허점들 뿐이었다면서 양측 간 논의에 진전이 없다고 주장했다.
또한 전쟁부가 공급망 위험 지정과 국방물자생산법 발동을 동시에 위협한 것에 대해서도 "우리를 안보 위험으로 규정하면서도, 다른 한 편에서 클로드가 국가 안보에 필수적이라고 규정한 것”이라며 본질적으로 모순되는 주장이라고 비판했다.
앤스로픽은 기술 주도권을 두고 논란이 벌어지기 전까지 미 정부 기밀 네트워크에 배치한 최초의 AI 모델을 운용했으며, 지난 1월 베네수엘라 니콜라스 마두로 체포 작전에도 팔란티어 플랫폼과 연동한 클로드의 기술을 제공해왔다. 또한 중국 국가소유 기업의 클로드 사용을 차단하며 수억 달러의 매출을 자발적으로 포기하기도 했다.
◆ 앙숙 올트먼까지 합류…AI 업계, 집단 반발
이번 사태는 앤스로픽과 전쟁부의 양자 대결을 넘어 AI 업계 전체로 확산하는 양상이다. 경쟁사인 오픈AI와 알파벳의 딥마인드 등도 내부 움직임에 변화가 일고 있다.
월스트리트저널에 따르면 샘 올트먼 오픈AI CEO는 전날 내부 메모에서 "이것은 더 이상 앤스로픽과 전쟁부 사이의 문제가 아니라 업계 전체의 문제"라며 "AI가 대규모 감시나 자율 살상 무기에 사용돼서는 안 된다는 것은 오랫동안 우리의 주요 레드라인이었다"고 밝혔다.
올트먼은 미 전쟁부와 기밀 네트워크 내 배치를 협상 중이다. 올트먼은 같은 메모에서 직원들에게 “국내 감시와 자율 공격 무기 등 클라우드 배치에 적합하지 않은 용도를 제외한 모든 사용을 계약에 포함시키겠다"고 말했다.
올트먼은 이날 오전 미 경제방송 CNBC와의 인터뷰에서도 "전쟁부가 이런 기업들에 국방물자생산법을 위협해야 한다고 생각하지 않는다”면서 "앤스로픽과의 많은 차이에도 불구하고 그들을 대체로 신뢰하며, 안전에 진심으로 관심을 가지고 있다고 생각한다"고 말했다.
아모데이는 앤스로픽 창업 이전 오픈AI에서 연구 부문 부사장을 지낸 인물이다. 이후 두 회사는 치열한 경쟁 관계를 이어왔으며, 지난 19일 인도 뉴델리 AI 서밋에서는 아모데이와 올트먼이 다른 참석자들과 달리 손을 맞잡지 않은 채 기념사진을 찍어 화제가 되기도 했다.
구글에서도 반발이 잇따랐다. 뉴욕타임스에 따르면 딥마인드를 포함한 구글 AI 부문 직원 100여명은 제프 딘 수석 과학자에게 서한을 보내 "제미나이가 미국인 감시나 인간 감독 없는 자율 살상 무기에 사용되는 어떤 계약도 막아달라"고 요청했다. 딘은 개인 자격으로 소셜미디어 엑스(X) 에 "대규모 감시는 수정헌법 제4조를 위반하며 표현의 자유에 위축 효과를 가져온다"는 입장을 밝혔다.
이와 별도로 구글과 오픈AI 직원 약 430명 이상은 '분열되지 않겠다'라는 제목의 공동 공개서한을 발표했다. 서한은 "전쟁부가 구글과 오픈AI에 앤스로픽이 거부한 것을 수용하도록 협상하고 있다"며 "다른 회사가 굴복할 것이라는 공포로 각 기업을 분열시키려 하고 있다"고 비판했다.
반면 xAI를 이끌고 있는 일론 머스크는 트럼프 행정부를 옹호하는 등 다른 입장을 보이고 있다. 현 행정부의 정부효율성위원회 위원장을 맡았던 머스크는 "앤스로픽은 서구 문명에 부정적"이라는 글을 X에 남겼으며, 해당 발언 전 xAI는 합법적 사용에 동의하여 기밀 시스템 접근 계약을 체결한 유일한 AI 기업이 됐다.
◆ 초당파적 논쟁…공화당 원로 "왜 공개석상서 다루나"
AI 기술 사용을 두고 미 전쟁부와 대통령이 직접나서면서 이번 사태는 정치적 논란으로 번지고 있다. AP통신 등에 따르면 공화당 톰 틸리스 상원의원은 "대체 왜 이 논의를 공개석상에서 하느냐”며 “전략적 거래처와 계약을 이런 식으로 다루어선 안 된다”고 비판했다.
그는 "기업이 수익 기회를 마다하면서까지 부정적 결과를 우려한다면, 비공개 석상에서 그들이 풀고자 하는 문제를 들어야 할 것”이라며 “앤스로픽이 우리 스스로를 보호하도록 돕고 있다"고 평가했다.
민주당 엘리자베스 워런 상원의원과 앤디 김 상원의원도 공동성명을 내고 "의회는 국방물자생산법을 경제 위기 시 국가를 돕기 위해 통과시켰지, 트럼프 행정부가 미국 기업을 협박하는 데 쓰라고 한 것이 아니다"라고 비난했다.
악시오스 등에 따르면 이날 상원 군사위원장 로저 위커(공화)와 간사 잭 리드(민주), 국방세출소위원장 미치 맥코넬(공화)과 간사 크리스 쿤스(민주) 등 초당파적으로 앤스로픽과 전쟁부 양측에 비공개 서한을 보내 분쟁 해결을 촉구했다.
◆ 자국 기업에 블랙리스트…화웨이급 제재 후폭풍
트럼프 대통령의 이번 지시로 앤스로픽은 미 전쟁부와 맺은 2억 달러 규모의 계약을 잃게 됐다. 이 금액 자체는 앤스로픽 연 매출(약 140억 달러)의 극히 일부에 불과하지만 공급망 위험기업 지정의 파급력은 다른 문제다.
전쟁부와 거래하는 모든 기업은 업무 흐름에서 앤스로픽 기술을 사용하지 않음을 증명해야 하며, 이미 전쟁부는 이번 주 보잉과 록히드마틴 등이 앤스로픽 의존도 분석 결과를 제출하도록 요청한 상태다.
앤스로픽에 따르면 현재 미국 10대 기업 중 8곳이 클로드를 사용하고 있으며, 이 가운데 팔란티어는 2024년 말부터 클로드 AI 기술을 자사 플랫폼에 통합해 미 정보기관과 전쟁부에 공급해왔다. 팔란티어는 트럼프 대통령의 결정으로 경쟁사 모델로 전환해야 하는 상황이지만, 이러한 기밀 시스템 인증 절차를 감안하면 단기간 내 대체가 쉽지 않다는 관측이 나온다.
전문가들은 이번 분쟁이 AI 기술의 군사적 활용을 둘러싼 정부와 민간의 역학 관계에 중대한 선례를 남길 것으로 보고 있다. 케임브리지대 숀 오헤이거티 연구원은 포춘과의 인터뷰에서 "전쟁부가 이 싸움에서 이기면, 이런 기업들의 독립성이나 윤리적 기준을 지킬 능력에 좋지 않은 선례가 세워질 것"이라고 경고했다.
앤스로픽이 공급망에서 배제된 채 오픈AI, xAI 등 경쟁 AI 기업들이 미 전쟁부의 조건을 수용하면, 향후 민간 기업이 정부에 어떤 안전장치도 요구하지 못하는 구도가 굳어진다는 의미다.
한편 이러한 행정부와 대형 기술기업 간 갈등 속에서도 AI 투자는 가속하고 있다. 같은 날 오픈AI는 아마존·엔비디아·소프트뱅크로부터 1천100억 달러의 민간 사상 최대 투자를 유치하며 기업가치 7천300억 달러를 인정받았다.
올해 기업공개를 추진 중인 앤스로픽의 기업가치는 약 3천800억 달러로 오픈AI의 절반 수준이다. 이번 사태로 앤스로픽의 상장 일정과 AI의 군사적 활용에 관한 의회의 입법적 기준 마련 등이 향후 쟁점이 될 전망이다.