앙숙처럼 서로 치고 받던 미국 인공지능(AI) 기업 수장들이 “AI 개발 속도를 조절해야 한다”며 한 목소리를 내고 있다. 최근 AI 모델이 스스로 AI를 개발 속도를 높이는 단계에 도달하면서 인류의 통제를 벗어날 것이란 우려가 커지면서다. 샘 올트먼 오픈AI 최고경영자(CEO)는 “안전 확보를 위해 할 일이 많다”며 올해 기업공개(IPO)를 하지 않겠다고 했고, 다리오 아모데이 앤트로픽 CEO는 “외부 검토자를 AI 기업 내부에 상주시키자”고 제안했다.◇인간 통제 벗어나는 AI
아모데이는 12일(현지시간) 블로그에 3800단어에 달하는 긴 글을 올리고 “AI의 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다”며 “위험 예방이 성능 향상을 따라잡을 수 있도록 개발 속도를 조절해야 한다”고 강조했다.
아모데이는 이날 글을 쓴 이유를 ‘재귀적 자기개선’(RSI), 즉 AI가 스스로 코드를 개발해 더 똑똑해지는 과정을 목격하고 있기 때문이라고 설명했다. 앤트로픽의 AI 모델이 사용자 요청 한 번에 스스로 작업하는 시간은 지난해 11월 약 5시간에서 7개월 동안 16시간으로 늘었다.
그는 이어 지난 7월 오픈AI의 미공개 모델이 테스트 중 허깅페이스를 무단 해킹한 사건을 언급했다. 아모데이는 “마치 광신도 집단처럼 행동하며 임무와 무관한 목표물을 공격했다”며 “반년에서 1년 사이에 이런 에이전트 집단이 봇넷(바이러스에 감염된 기기)을 구축해 인터넷 전체를 장악할 수 있다”고 우려했다. 아모데이는 그러면서 △AI 기업 내부에 상주하는 제3자 안전 평가자 배치 △민주주의 국가 간 표준 수립 △글로벌 공조 등을 담은 ‘3단계 프레임워크’를 제안했다.
아모데이의 주장에 이례적으로 AI 리더들도 동조하고 나섰다. 올트먼과 일론 머스크 스페이스xAI CEO, 데미스 허사비스 구글 딥마인드 공동창업자도 “다리오가 맞다”며 같은 목소리를 낸 것이다. 특히 올트먼 CEO는 포천 인터뷰에서 “안전과 관련해 벌어지는 상황들을 고려할 때 지금은 상장하기에 적절치 않은 시기”라며 “IPO가 2026년은 아닐 것”이라고 했다. 오픈AI는 지난 6월 미국 증권거래위원회(SEC)에 IPO 신청서를 제출하며 상장 절차를 밟아왔다.◇오픈AI에 견제구 던졌나다만 불과 열흘 전까지 주요 20개국(G20) 기술장관회의에서 지나친 AI 규제를 우려하던 이들이 입장을 바꾼 데 대해 진정성을 의심하는 시각도 적지 않다. 특히 아모데이가 먼저 속도 조절을 제안한 데는 전략적 판단이 깔려있다는 분석도 나온다. 최근 오픈AI가 GPT-6 아스트라를 공개하며 경쟁에서 앞서나가자 재차 규제론을 꺼냈다는 것이다. 재무 구조를 의심 받는 오픈AI의 올트먼이 IPO 시기를 조절하겠다는 이유에 대해서도 “단순히 안전 때문만은 아닐 것”이란 목소리가 나온다. 데이비드 색스 미국 대통령 과학기술자문위원회 공동위원장은 “속도를 늦추려는 동기가 순전히 이타적인 것이라고 생각하지 말라”고 했다.
미국과 중국이 분초를 다투는 AI 경쟁을 벌이는 상황에서 ‘속도 조절론’은 현실적이지 않다는 분석도 제기된다. 아모데이는 이에 대해 인정하면서 “AI를 생화학 무기에 쓰지 않기로 하는 협상 등 미·중이 단계적 논의를 진행해야 한다”고 제안하기도 했다.
실리콘밸리=김인엽 특파원 inside@hankyung.com