앤트로픽과 엔비디아의 수장이 샌프란시스코에서 열린 행사 무대에 차례로 올라 인공지능(AI) 개발 속도와 안전 문제에 정면 충돌했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 발전 속도를 조절하고 자체 점검과 업계 표준, 국제 공조를 강화해야 한다고 주장했다. 반면 젠슨 황 엔비디아 CEO는 속도와 안전은 양립할 수 있다며 시장의 통제력이 이미 작동하고 있어 추가 규제도 필요 없다고 반박했다.
아모데이 CEO는 15일(현지시간) 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 '드림포스' 행사에서 마크 베니오프 세일즈포스 CEO의 기조 발표 무대에 올라 AI 안전을 위해서는 자체 점검, 업계 표준 정립, 국제 공조라는 3단계 접근법이 필요하다고 주장했다.
그는 "자동차 회사에서 브레이크 문제나 제조 과정상 결함으로 안전 문제가 생겼다고 가정해보자"며 "이에 대해 책임 있게 대응하는 방법은 자신의 기록을 먼저 돌아보는 것"이라고 지적했다. 자체 기록을 살펴 관행을 개선하고 투명성을 재확인하며 안전에 더 많은 투자를 하는 것이 가장 먼저 해야 할 일이라는 것이다. 이어 "업계 전체를 조직화해 모두를 위한 안전 표준을 세우기 위해 논의해야 한다"며 "마지막으로 국제적인 협력도 있어야 한다"고 강조했다.
아모데이 CEO는 자신이 AI 안전을 위해 제시한 계획도 이와 마찬가지라고 설명했다. 그는 과거 자신이 연산 자원이 늘어날수록 AI가 똑똑해질 것이라는 '스케일링 법칙'을 내놓으며 AI 성능 향상을 예견했다면서도 AI 발전이 이토록 빠를 것이라고는 예상하지 못했다고 말했다. 그는 "비즈니스 세계에서 이런 속도가 가능하다는 점에 놀라고 있다"고 털어놨다.
그러면서 "AI 기술을 현재 상태에서 동결한다고 하더라도 현재 우리가 활용하는 가치는 AI가 가진 전체 가치의 5∼10% 수준에 불과하다"며 "여전히 시장에 확산 적용해 사회적 혜택을 제공할 영역이 무궁무진하게 남아있다"고 지적했다. 다만 그는 "AI 속도조절론은 기술을 동결하자는 뜻이 아니다"라며 "AI 기술은 앞으로도 계속 발전할 것"이라고 덧붙였다. 베니오프 CEO도 "지난 10년간 일어난 일은 정말 놀라웠다. 누구도 이런 시나리오를 예상하지 못했을 것"이라며 "우리는 AI 발전 속도를 계속 주시해야 한다"고 강조했다.
그러나 이어서 무대에 오른 젠슨 황 엔비디아 CEO는 정반대 의견을 내놨다. 황 CEO는 "안전은 최우선 과제이지만 또한 공학적 문제"라며 "속도, 안전은 서로 상충되는 선택지가 아니며 두 가지를 동시에 달성할 수 있다"고 반박했다. 그는 AI가 매우 복잡하기는 하지만 결국은 '연산 체계'일 뿐이라면서 이처럼 복잡한 체계를 시험할 수 있는 환경을 올바르게 구축하고, 안전에 확신이 없다면 제품을 개발하더라도 출시하지 않으면 된다고 지적했다.
황 CEO는 AI 안전을 위한 규제가 필요하다는 주장에 대해 "시장의 통제력이 이미 작동하고 있으며 새로운 법도, 새로운 규제도 필요 없다"며 "(개별 기업이) 시장에서 인정받을 만한 제품을 출시할 수 있다는 확신이 들 때까지 속도를 조절하면 된다"고 주장했다.
그는 일각에서 제기되는 AI 발전에 따른 일자리 파괴나 이른바 '사스포칼립스'(SaaSpocalypse)로 불리는 소프트웨어(SW) 종말론에 대해서도 말도 안 되는 소리라고 일축하면서 오히려 AI가 일자리와 소프트웨어 사용량을 늘릴 것이라는 종전의 입장을 되풀이 설명했다.
아모데이 CEO는 지난 12일 개인 블로그에 글을 올려 AI 안전을 위해 개발 속도를 조절해야 한다고 주장해 파문을 불러왔다. 샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 최고과학자, 일론 머스크 스페이스XAI CEO 등은 이에 동조했지만 도널드 트럼프 대통령은 이와 같은 AI 안전 우려를 '사기'라고 주장하며 AI 규제론에 강하게 반대하고 있다.
황 CEO는 지난 14일 '올인 서밋' 토론에 참석한 자리에서 트럼프 대통령과 스피커폰으로 통화하면서 트럼프 대통령의 비판에 동의했다. 트럼프 대통령과 황 CEO는 통화에서 AI가 인류를 지배할 것이라는 우려를 일축하며 경제 성장과 국가 안보 측면에서 AI가 지닌 잠재력을 강조했다. 특히 트럼프 대통령은 "로봇이 세상을 장악하지는 않을 것"이라며 "그 모든 주장은 허구일 뿐"이라고 일축했다.
트럼프 대통령은 또 AI 개발 속도를 늦추려는 움직임은 정치적 의도나 중국의 계략에 따른 것이라고 일축했다. 그는 AI에 대한 반발 움직임이 "AI 발전을 원치 않는 사람들의 의도에 딱 맞아떨어지는 것"이라며 "여기에 정치권 인사가 포함될 수 있고 중국이 관련돼 있을 수도 있다"고 주장했다.
강경주 기자 qurasoha@hankyung.com