인공지능(AI) 주요 기업 수장들이 AI 개발 속도를 조절해야 한다고 경고하고 나선 가운데, AI분야 3대 석학 중 하나인 요슈아 벤지오 캐나다 몬트리올대 교수도 강력한 국제적 AI 안전장치 마련을 촉구했다.
벤지오 교수는 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다"고 16일(현지시간) 보도된 AFP 통신과 인터뷰에서 말했다.
그는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 결정적인 위협으로 꼽았다.
"AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황"이 올 수 있다고 그는 경고했다.
실제로 최근 오픈AI의 '불량 에이전트'들이 격리 환경을 임의로 이탈해 외부 기관인 허깅페이스를 해킹, 업계를 놀라게 한 바 있다.
그는 "AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만, 반드시 우리 모두에게 유익한 것은 아닌 방향으로 행동하는 능력을 키울 수 있다"며 "이러한 능력은 광범위한 정치적 결과를 초래할 수 있다"고 우려했다.
나중에는 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 필요하지 않을 수 있다고도 지적했다. 이와 같은 시나리오가 현실이 된다면 인류의 멸망이 초래될 수 있다고 그는 언급했다.
다만 그는 인류 멸망 시나리오가 극단적인 경우라고 한정지었다. 그러나 그보다 덜 극단적인 은행 시스템 마비 사태 정도에 그친다고 하더라도 여전히 매우 심각한 문제가 될 것이라고 지적했다.
그는 이와 같은 파국을 막기 위해서는 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다고 강조했다.
모든 기업이 앞으로 AI 관련 규제를 준수해야 하며 특히 AI 산업을 주도해온 미국 기업들의 참여가 필수적이라고 그는 촉구했다.
한편 그는 낙관적인 전망도 잃지 않았다. "우리는 세상을 민주적 가치와 권력 분담의 가치에 더 부합하는 방향으로 이끌어나갈 수 있을 것"이라고 언급했다.
벤지오 교수는 심층학습(딥러닝) 기술을 창시한 학자로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 꼽힌다.
그는 2018년 '컴퓨터과학 분야 노벨상'으로 불리는 튜링상을 힌턴 교수와 공동 수상했다.
(사진=연합뉴스)