한미일 등 61개국 "군사 AI 활용하더라도 책임은 인간이 져야"

AI의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)에 참가한 96개국 대표단 중 61개국이 지지한 '블루프린트 포 액션'이 10일 채택됐다. 군사 분야 AI 규범 마련을 위한 청사진을 제시하는 선언적 문서다.

문서에 따르면 참가국들은 "국가 및 테러집단을 포함한 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성을 강조"하며 "AI 기술이 군축, 군비통제 및 비확산 노력을 저해하지 않고 지원해야 함을 강조하고, 특히, 핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"고 했다.

또 "잠재적으로 위험한 AI 기반 시스템을 포함한 군사 분야 AI 역량을 무책임한 행위자들이 획득 및 오용하는 것을 방지하기 위한 강력한 통제 및 보안 조치 마련의 중요성을 강조한다"고 덧붙였다.

참가국들은 또 "군사분야 AI 활용에 대한 책임과 책무는 인간이 져야 하며, 어떤 경우에도 기계에 전가될 수 없다" "인간의 적절한 개개입이 유지돼야 한다" 등을 강조하면서 인간의 '책임'에 방점을 찍었다.

그밖에 참가국들은 군사 AI 거버넌스 마련을 위해 "개방적이고 포용적인 방식의 대화 지속"과 '개발도상국들의 참여 중요성'도 강조했다.

한편 한국과 네덜란드, 싱가포르, 케냐, 영국 공동 주최로 9∼10일 서울에서 열린 이번 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 기여하고자 출범한 다자회의체다. 행사에는 96개국에서 장·차관급 인사를 포함해 2000여 명이 참석했다. 이날 채택된 문서는 참가국 중 61개국이 지지했다.

김종우 기자 jongwoo@hankyung.com