'AI대부' 요슈아 벤지오의 경고…"인류, AI 통제력 잃고 있다"
AFP 통신과 인터뷰…핵무기 통제 준하는 강력한 AI 국제 규제 역설
"극단적 시나리오는 인류 파멸"…AI 주도한 美기업들 규제 참여 촉구
(샌프란시스코=연합뉴스) 권영전 특파원 = 인공지능(AI) 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 핵무기 통제와 비슷한 강력한 국제적 AI 안전장치 마련을 촉구했다.
벤지오 교수는 16일(현지시간) 보도된 AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다"고 말했다.
가장 결정적인 위협으로 꼽은 것은 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현이다.
그는 "AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황"이 올 수 있다는 것이다.
실제로 최근 오픈AI의 '불량 에이전트'들이 격리 환경을 임의로 이탈해 외부 기관인 허깅페이스를 해킹한 사건이 AI의 위협에 대한 우려를 불러온 바 있다.
그는 "AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만, 반드시 우리 모두에게 유익한 것은 아닌 방향으로 행동하는 능력을 키울 수 있다"며 "이러한 능력은 광범위한 정치적 결과를 초래할 수 있다"고 우려했다.
이어 장기적으로 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않을 수 있다고도 지적했다.
이와 같은 시나리오가 현실화했을 때 가장 극단적인 결과로 인류의 멸망이 초래될 수 있다고도 그는 언급했다.
그는 인류 멸망 시나리오가 극단적인 경우라는 점은 인정하면서도, 그보다 덜 극단적인 은행 시스템 마비 사태 정도에 그친다고 하더라도 이는 여전히 매우 심각한 문제가 될 것이라고 지적했다
그는 그간 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다고 비판하면서 이와 같은 파국을 막기 위해서는 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다고 역설했다.
그는 모든 기업이 앞으로 AI 관련 규제를 준수해야 하며 특히 AI 산업을 주도해온 미국 기업들의 참여가 필수적이라고 지적했다.
그는 이와 같은 조치의 시급성을 강조하면서도 "우리는 세상을 민주적 가치와 권력 분담의 가치에 더 부합하는 방향으로 이끌어나갈 수 있을 것"이라고 낙관적인 전망을 잃지 않았다.
벤지오 교수는 현대 AI의 기틀인 심층학습(딥러닝) 기술을 창시한 학자로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 불린다.
그는 지난 2018년 '컴퓨터과학 분야 노벨상'으로 불리는 튜링상을 힌턴 교수와 공동 수상했다.
그러나 최근에는 힌턴 교수와 마찬가지로 AI의 위험을 경고하는 목소리를 내고 있으며, 지난해에는 신뢰할 수 있는 차세대 첨단 AI 개발을 목표로 하는 비영리 단체 '로제로'(LawZero)를 설립했다.
로제로는 이날 캐나다·독일 정부에서 3억 캐나다달러(약 3천억원)의 자금을 지원받았다.
comma@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>