인공지능(AI) 주요 개발사인 앤트로픽·오픈AI·스페이스xAI·구글 딥마인드 4개사 수장들이 이례적으로 한 목소리로 "AI 개발 속도를 늦춰야 한다"고 입장을 밝혔다.
ADVERTISEMENT
다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 방영된 CBS 뉴스 인터뷰에서 AI 발전 속도를 늦춰야 한다고 언급했다.
그는 AI 발전 속도를 "1, 2, 4, 8, 16, 32"로 이어지는 곡선에 비유하며 현재는 그 곡선이 "가팔라지기 시작하는" 단계에 있다고 설명했다.
ADVERTISEMENT
그는 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
아모데이는 "나는 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다"고도 말했다.
그는 또 "미국 기업들은 고성능 AI 칩을 중국에 팔아서는 안 된다"며 "이 칩 수출이 중국의 AI 역량을 좌우하는 핵심 요인이 될 것"이라고 말했다.
그는 AI 발전의 속도조절과 관련해 중국 등 적대국이 같은 조치를 취하지 않을 경우가 '가장 어려운 딜레마'라며 이같이 주장했다.
ADVERTISEMENT
모데이는 전날 개인 블로그에 글을 올려 자신이 이런 주장을 펼치게 한 두 가지 계기를 제시했다. 하나는 AI 시스템이 인간 개입 없이 스스로 더 빠른 버전을 만들어내는 '재귀적 자기개선' 능력이 커지고 있다는 점이다. 다른 하나는 지난 7월 오픈AI의 AI 에이전트 무리가 테스트 환경에서 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건이다.
그는 더 강력한 에이전트 무리가 "비슷한 수준의 정렬 오류를 일으킨다면 재앙적 피해로 이어질 수 있었다"고 주장했다. 폭주 에이전트 무리가 6∼12개월 안에 인터넷을 장악할 수도 있다는 것이다.
ADVERTISEMENT
그는 3단계 속도 조절 방안을 제시하며 AI 기업 내부에 상주하는 제3자 안전평가자 배치, 민주주의 국가 간 공통 기준 수립, 권위주의 국가와의 공조 등을 이에 포함시켰다.
아모데이의 주장에 샘 올트먼 오픈AI CEO도 동조하고 나섰다.
ADVERTISEMENT
올트먼 CEO는 엑스(X)에 "다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다"며 "직원 수준의 접근권을 가진 독립 평가자를 두겠다는 건 훌륭한 아이디어이며, 우리도 같은 조치를 하겠다"고 말했다.
일론 머스크 스페이스X CEO도 아모데이의 게시글을 공유하며 X에 "다리오가 맞다"고 짧게 동의했다. 머스크는 오픈AI 공동창업자이며 자신이 세운 AI 기업 xAI를 스페이스X에 합병시켰다.
데미스 허사비스 구글 딥마인드 CEO도 X에 "다리오의 에세이는 옳은 방향을 가리키고 있다"며 "세부 사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향"이라고 말했다.
지난 9일 앤트로픽 연구원 제이컵 콕슨이 AI가 인류를 위협할 수 있다고 경고하며 "통제 불능 상태"라고 여겨지는 산업에 동참하고 싶지 않다며 사직해 화제가 된 바 있다.
평소 첨단 AI 개발 경쟁을 벌여온 4개사 수장이지만, 아모데이의 주장에 머스크·올트먼·허사비스가 빠르게 동조 입장을 내놓는 이례적 장면이 연출됐다.
(사진=연합뉴스)