"만약 우리가 인공지능(AI) 로봇 윤리 문제를 회피한다면, 어느 날 인공지능 로봇이 지배하는 전쟁터와 마주하게 될 겁니다. 그제야 사람들은 '왜 합의를 못했느냐'고 묻겠죠"
웝크 훅스트라 네덜란드 외교부 장관은 14일(현지시간) 네덜란드 헤이그 외교부 청사에서 가진 기자간담회에서 '군사 영역에서의 책임있는 인공지능에 관한 장관급 회의(REAIM)'을 개최하는 이유를 이렇게 설명했다.
'군사 목적의 AI'는 어느새 무시할 수 없는 현실로 다가왔다. 테크 기업들은 우크라이나·러시아 전쟁을 통해 수많은 AI 군사 기술을 선보였다. 우크라이나는 미국 테크기업인 클리어뷰의 AI 안면인식 기술을 심리전에 활용하고 있다. 러시아는 인간 개입 없이 자율적으로 전투하는 무인로봇 '마르케르(Marker)'의 전선 투입을 앞두고 있다.
네덜란드는 이러한 군사 영역 AI의 윤리적 활용에 대한 논의를 이끌고 있다. 오는 15~16일 국제사법재판소가 위치한 '국제법의 도시' 헤이그에서 REAIM을 한국과 공동개최한다. 한국경제신문은 REAIM을 앞두고 훅스트라 장관을 만나 행사 개최의 목적과 의의에 대한 의견을 들었다.
▷REAIM이 열리는 목적은 무엇인가.
우리가 이 컨퍼런스를 주최하는 것은 이 문제에 대한 논의를 시작할 때가 됐기 때문이다. AI는 우리가 살아가는 방식과 뗄레야 뗄 수 없는 문제가 됐다. 최근에 접한 가장 충격적인 사실 중 하나가 네덜란드 교육 현장에서 교사들이 과제를 학생이 작성했는지, 혹은 AI가 작성했는지 알아내지 못한다는 점이었다.
인공지능이 시를 쓰는 시대다. 인간의 본질에 속하는 영역까지 AI가 담당하게 됐고 군사 영역에서도 이는 현실이다. 따라서 각국이 함께 새로운 기술을 논의하고 합의에 이를 때가 됐다고 생각한다. 과거 새로운 기술과 위협에 대해서도 그랬듯 말이다. 핵무기에 대해서도 매우 어려운 논의가 이뤄졌고, 우리는 화학·생물학 무기의 사용과 금지에 대한 합의에 도달하는 데도 성공했다.
▷스페이스X의 사례처럼 군사 영역에서 민간 기업의 역할은 더 중요해지고 있다. 이들을 논의에 참여시키는 게 중요한 문제일 것 같다.
전적으로 동의한다. 민간 기업들이 기술 혁신에서 수행하는 중요한 역할을 고려할 때, 이는 아마도 훨씬 더 복잡한 일이 될 것이다. 민간 기업은 항상 군사 영역과 연결돼왔지만 우크라이나 전쟁은 더 명확한 사례를 보여준다. 마이크로소프트같은 회사는 일부 국가만 할 수 있는 방식으로 우크라이나를 지원하고 있다. AI는 이러한 현상을 실제로 볼 수 있는 영역이다.
▷군사 AI 기술에 있어 앞서가는 국가가 있는 반면 뒤처지는 국가도 있다. 그러나 AI 전쟁은 곧 현실이 될 일이다. 후발국들이 불안감을 드러내는 경우도 있을텐데.
우리(네덜란드)의 규모를 생각하면 미국, 중국, 인도같은 크기가 아닌 나라들의 사정에 충분히 공감한다. 중요한 점은 강대국이든 소국이든, 발달한 군사기술을 갖추든 아니든 모든 개별 국가가 REAIM이 공동의 미래를 그려내는 작업이라는 사실에 동의한다는 것이다.
우리 모두 군사 영역의 AI가 아직은 초기 단계라는 점에 동의한다. 모두가 함께 이 문제를 논의해야 한다는 논리도 인정한다. 참석자들이 첫 번째 합의를 도출하는 일은 쉽지 않겠지만 정재계와 학계에서 2000명이 넘는 사람이 REAIM에 참석하기 위해 모였고 이는 앞으로 수년간 이 같은 작업을 하는 동력이 될 것이다.
▷앞으로 수년간 이러한 논의를 네덜란드가 이끌 수 있다는 말인가.
그렇다. 물론 우리는 절반의 리더십을 발휘하고 있다. 공동 개최국인 한국이 놀라운 일을 하고 있으며 어려운 일을 도맡았다. 두 나라는 모두 혁신 중심적이며, 안보 문제에 큰 관심을 갖고 있다. 또 양국이 REAIM을 공동 주최한다는 사실은 이것이 서방의 문제가 아닌 전 세계가 관심을 갖는 문제임을 보여준다. 우리는 이 문제를 계속 이끌어갈 것이며 한국 또한 그러리라고 생각한다.
물론 다른 많은 나라들의 동참은 매우 중요하다. 결국 네덜란드와 한국만의 문제가 아닌 UN에 소속된 200여개 국가의 공통된 문제이기 때문이다.
▷최근 러시아가 무기를 장착한 무인전투차량을 전장에 배치하고 있는 등 자율 로봇은 현실이 됐다. 결국 REAIM의 목적은 공동조약이나 합의를 체결하는 일일 텐데, 언제까지 이러한 작업이 이뤄져야 한다고 생각하나.
우선 REAIM은 정보를 공유하고, 앞으로의 여정을 위해 공동의 책임감을 형성하는 단계라고 볼 수 있다. 결국에는 모두가 이 여정을 시작하는 데 동의하리라고 본다. 동시에 현실적으로 볼 필요가 있다. 이는 몇 주, 몇달만에 끝나는 과정이 아니다. 현재 AI 영역의 빠른 개발 상황을 보자면 우리가 금방 최종 결론에 이를 것 같지는 않다. 그러나 결국에는 우리가 최종적인 합의에 이르기를 기대하고 있다.
▷훨씬 더 즉각적이고 효과적인 조치를 해야 할 필요도 있다.
그럴 수 있다. 그러나 이 논의는 훨씬 더 복잡하고 전반적인 문제다. 우리는 한 번도 경험하지 못한 미지의 영역을 탐험하고 있다. AI는 의료와 교육, 군사 영역에서 엄청난 가능성을 가져올 수 있으며 동시에 위험성도 갖고 있다. 민간과 군사 영역의 이중적 기술 사용을 꼭 반대할 수만은 없는 이유다.
▷결국에는 'AI가 사람을 죽일 수도 있다'는 문제에 봉착하게 된다. 더 빠른 길을 택할 수는 없을까. 영원히 논의가 이어질 수도 있다.
물론 논의 결과과 오늘 당장 나오는 게 좋다. 그렇지만 네덜란드와 일부 국가만 동의하는 부분적인 결과를 갖고 다른 논의들을 제쳐두는 속임수는 통하지 않을 것이다. 이는 전 세계가 연관된 문제다. 좋은 소식은 50개가 넘는 나라가 이 논의에 참여하고 있다는 것이다.
전 세계가 고민하는 복잡한 주제들은 늘 기대보다 느리게 진전된다. 엄청나게 많은 이해관계자를 설득해야 하고 이는 군사·안보 영역에서도 마찬가지다. 기후 변화 논의가 얼마나 어려운지 보면 알 수 있지 않나. 만약 우리가 인공지능(AI) 로봇 윤리 문제를 회피한다면, 어느 날 인공지능 로봇이 지배하는 전쟁터와 마주하게 될 것이다. 그제야 사람들은 '왜 합의를 못했느냐'고 묻지 않을까.
김인엽 기자 inside@hankyung.com
