얼굴 아닌 분야도 탐지 가능…앙상블기법 적용 시 탐지율 97%
(서울=연합뉴스) 차민지 기자 = 정부가 6·3 지방선거를 겨냥한 딥페이크 영상·음성 조작 범죄에 대응하기 위해 인공지능(AI) 기반 탐지 기술을 본격적으로 활용한다.
딥페이크란 인공지능(AI) 기술인 딥 러닝(Deep-learning)과 가짜(Fake)의 합성어로 인공지능 기술을 이용해 진위를 구별하기 어려운 가짜 이미지 또는 영상물을 제작하는 기술이다.
행정안전부는 국립과학수사연구원과 함께 개발한 'AI 딥페이크 탐지 모델'을 오는 6월 3일 치러지는 제9회 전국동시지방선거에 적용할 계획이라고 10일 밝혔다.
이번 조치는 특정인의 얼굴이나 음성을 정교하게 합성한 딥페이크 범죄가 급증하면서 선거 과정에서 후보자의 모습이나 발언을 조작한 허위 정보가 유권자의 판단을 왜곡하는 것을 방지하기 위해 추진된다.
공직선거법 제82조의8에 따르면 선거일 전 90일부터 선거일까지 AI로 만든 실제와 구분하기 어려운 음향·이미지·영상 등 이른바 딥페이크를 이용한 선거운동은 제작·편집·유포·게시 등이 금지된다.
이 기간이 아닌 때에는 AI로 생성된 가상 정보라는 사실을 명확히 인식할 수 있도록 선관위 규칙에 따라 이를 표시해야 한다.
중앙선거관리위원회에 따르면 선거 기간 딥페이크 영상 삭제 요청 건수는 2024년 제22대 총선 당시 388건에서 2025년 대통령선거에서는 1만510건으로 크게 늘었다.
정부는 선거를 앞두고 딥페이크 기반 허위정보 확산 위험이 커지고 있다고 보고 대응 기술 도입을 추진했다.
탐지 모델은 지난해 12월 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회' 성과를 바탕으로 개발됐다.
당시 대회에는 268개 팀(1천77명)이 참여했으며, 행안부와 국과수는 이 가운데 최종 선정된 5개 우수 모델을 중앙선거관리위원회에 제공할 예정이다.
선거 기간에는 의심되는 영상이나 음성 콘텐츠에 대해 신속한 감정과 분석을 지원하는 체계도 운영한다.
이번 모델은 영상의 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 흔적을 판별하는 '국소 분석'을 동시에 수행하는 방식으로 탐지 정확도를 높였다.
모델은 탐지가 상대적으로 어려운 최신 생성형AI 기반 콘텐츠에도 대응할 수 있도록 설계됐고 실제 검증 결과 약 92% 수준의 탐지 정확도를 기록했다. 이는 이전 모델의 탐지율(76%)보다 크게 향상된 수준이다.
박남인 국과수 연구관은 "기존 딥페이크 탐지 모델은 얼굴 영역 위주로만 탐지가 가능해 얼굴이 아닌 부분은 탐지하기 어려웠다"며 "이번에 개발한 모델은 얼굴이 아닌 다른 영역에서도 조작 여부를 탐지할 수 있도록 한 것이 특징"이라고 설명했다.
그러면서 "예를 들어 서류의 이름을 조작하는 등 문서를 위조한 경우도 탐지가 가능하게 했다"며 "여러 모델을 결합해 다수결 방식으로 판단하는 앙상블 기법을 적용하면 탐지 성능이 약 97% 수준까지 올라간다"고 덧붙였다.
행안부와 국과수는 향후 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다.
또 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 범정부 차원의 디지털 범죄 대응 체계를 강화한다는 방침이다.
윤호중 행정안전부 장관은 이날 시연회에서 "딥페이크는 단순한 기술 문제가 아니라 민주주의를 흔들 수 있는 새로운 정보 범죄"라며 "선관위, 경찰청, 국과수 등 관계기관과 긴밀히 협력해 허위·조작 정보에 적극 대응하고 국민이 신뢰할 수 있는 공명선거 환경을 만들겠다"고 말했다.
chacha@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>