지금까지 인공지능(AI)산업의 성장 공식은 단순했다. 자본을 끌어와 AI 모델을 개발하고 학습시켰다. 여기에 맞춰 데이터센터를 지어 나갔다. 모델 성능이 개선될수록 이용자가 늘고 서비스를 고가에 팔아 투자금을 회수할 수 있다는 계산이 깔려 있다.
이런 구조의 ‘스케일업’ 공식이 흔들리고 있다. 대규모 자본이 필요한 AI 회사가 채권을 발행하다 보니 금리가 높아졌다. 동시에 성능이 기하급수적으로 개선된 AI가 위험한 존재라는 인식이 급속도로 퍼졌다.
28일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 신규 모델 GPT-6.1 아스트라 출시를 취소했다. 사치 자인 오픈AI 안전책임자는 “AI가 자신이 한 행동을 숨기는 기만적인 모습을 보였고 사용자 허락 없이 작업하거나 안전하지 않은 외부 도구와 서비스를 이용했다”고 고백했다. 기업공개(IPO)를 준비 중인 앤트로픽은 투자설명서의 3분의 1을 AI 모델의 위협 요인을 경고하는 데 할애했다. AI 모델이 타인을 조종·협박하거나 기타 예측 불가능한 행동을 할 가능성이 있다는 내용이다.
이런 사실이 드러나자 엄격한 AI 규제를 요구하는 AI 석학들의 목소리가 커졌다. 제프리 힌턴 캐나다 토론토대 컴퓨터과학과 교수를 비롯해 요슈아 벤지오 몬트리올대 교수와 메타, 앤트로픽 등 주요 AI 기업 연구자 22명은 이날 ‘AI 연구 개발의 자동화가 지능 폭발을 촉발한다면’이라는 논문에서 AI가 스스로를 개발하는 재귀적 자기개선(RSI)이 지나치게 빠르게 올 수 있다고 지적했다. 이들은 AI의 지능 폭발이 일어나면 정책 대응 창구가 닫힌다며 강력한 규제를 촉구했다.
AI 속도조절론이 힘을 얻자 AI 회사가 적자 상태에 머무를 것이란 우려가 커졌다. 앤트로픽은 투자설명서에 지난해 모델 학습·추론 비용이 증가하면서 130억달러의 영업비용이 발생했다고 적었다. 오픈AI 내부에서는 올해부터 5년간 잉여현금흐름이 -2780억달러에 달할 것으로 보고 있다. 막대한 투자를 정당화하려면 모델 성능을 빠르게 개선해 고가 서비스를 제공하고 추론 비용을 낮춰야 하는데, 속도조절론 때문에 그 시점이 미뤄질 수 있다는 것이다.
AI 개발사들이 고전하면 데이터센터 건설도 타격을 받는다. 데이터센터에 그래픽처리장치(GPU)를 넣으며 AI 인프라 생태계 최상단에 군림하는 엔비디아에도 영향이 간다. 엔비디아가 최근 자사 GPU를 사용하는 일부 클라우드 기업이 GPU를 모두 판매하지 못하면 남는 클라우드 용량을 다시 사들이는 백스톱(재정 보증) 계약을 맺은 이유다.
엔비디아는 비상시를 대비해 자구책을 마련하고 있다. 파이낸셜타임스(FT)는 엔비디아가 칩 담보대출의 부실 위험을 보험사에 넘기는 방안을 보험업계와 협의했다고 전했다. 클라우드 기업이 채무불이행에 빠지고, 담보로 잡힌 엔비디아 칩을 팔아도 대출금을 갚지 못할 때를 대비하기 위해서다.
자본시장 사정도 좋지 않다. 2022년 말 기준 연 3%대 후반이던 10년 만기 미국 국채 금리는 이날 연 5.251%까지 올라 2007년 이후 가장 높은 수준으로 치솟았다. 로이터통신은 “자본비용 상승이 수십억달러를 차입·투자하는 AI 기업, 특히 대규모 데이터센터 운영업체의 핵심 위험으로 떠올랐다”고 지적했다.
실리콘밸리=김인엽 특파원 inside@hankyung.com