중국 범죄조직이 활용해 납치된 딸의 가짜 영상을 부모에게 보낸 뒤 몸값을 요구했는데 국내 경찰이 멀쩡한 딸을 제주도에서 찾은 사건이 벌어졌다. 발달하는 인공지능(AI) 딥페이크 기술을 범죄자들이 이용한 사례로 경찰은 국내에도 조만간 이런 사건이 벌어질 수 있다고 우려하고 있다.
7일 경찰에 따르면 제주서부경찰서는 지난달 말 한국 여행 중인 20대 중국인 여성 A씨를 수색하는 작업에 나섰다. 당시 중국 공안은 “A씨 부모로부터 딸이 납치된 것으로 의심된다는 신고를 받았다”며 “A씨가 제주도에 여행을 떠났다고 하니 찾아달라"고 공조를 요청했다. 경찰은 당일 오전 10시께 이 소식을 접수받아 형사 10여명을 출동시켜 이날 오후 9시께 여행 중인 A씨를 찾았다.
A씨를 납치했다고 부모를 협박한 조직은 중국 보이스피싱 일당이었다. 이들은 A씨의 사진과 목소리로 AI·딥페이크 기술을 이용해 납치 영상을 제작했고, A씨 부모에게 전달했다. 부모들은 A씨가 감금된 채 살려달라고 부르짖는 19초짜리 영상을 보고, 제주도에 여행을 간다고 집을 나선 딸이 납치됐다고 여길 수 밖에 없었다.
영상 속 A씨는 두 다리를 테이프로, 몸과 팔을 줄로 각각 묶인 상태로, '마마' '파파'라고 울먹이며 살려달라고 외쳤다. 공안과 한국 경찰도 정교하게 만들어진 딥페이크 영상을 실제 영상으로 착각할 정도로 정교하게 만들어져 있었다. 다행이 A씨가 발견되면서 A씨 납치 사건은 일단락됐다.
경찰 관계자는 “영상이 가짜일 가능성이 있어 즉시 전문가에게 사실 여부를 판독해달라고 의뢰했고, 딥페이크 가능성이 높다는 답변을 받았다”며 “국내에서 벌어진 사건은 아니지만 딥페이크 기술이 충분히 강력범죄에 활용될 수 있음을 보여준 사례”라고 설명했다.
경찰은 수년내로 딥페이크 등 AI 기술이 실제 범죄 현장에 나타날 것으로 판단하고 촉각을 곤두세우고 있다. AI 기술의 발달 만큼 더욱 정교하게 목소리를 흉내 내고, 얼굴도 재현할 수 있어서다.
최근 핀란드 등 북유럽과 영미권에선 ‘로맨스스캠’ 범죄가 급증하는 추세다. 서아프리카 범죄 조직이 주로 공용어인 영어를 사용해 벌이고 있다. 이런 범죄는 점차 비영어권으로 확산되고 있다. AI 번역 기술이 고도화 현지인의 어휘 수준의 대화를 나눌 수 있게 됐다.
경찰은 향후 AI 딥페이크·딥보이스 기술이 범죄에 악용될 수 있다고 보고 있다. 소셜미디어(SNS) 등에 공개된 사진과 단 몇 초만의 음성으로도 충분히 가짜 영상을 만들 수 있다.
딥페이크 기술은 매우 고도화돼 전문가조차도 사실관계를 정확히 판단하기 어렵다는 지적이다. 경찰은 이런 범죄를 막으려면 평소에 SNS에 전체공개 로 게시물을 올리는 걸 지양해야한다고 설명한다. 경찰청 국가수사본부 관계자는 “딥페이크 범죄 영상까지 나타나면서 사기 범죄가 더욱 진화하고 있다”며 “시민들이 평소 범죄에 휘말리지 않도록 각별한 대비가 필요하다”이라고 말했다.
조철오 기자 cheol@hankyung.com
