'혐오' 자양분 삼은 딥페이크 음란물, 예고되는 '일반인 피해'
스위프트 합성 음란물, 美 혐오·음모론 커뮤니티 사이트서 시작
AI 접목 싸구려 '딥페이크 툴' 인기…딥페이크 폭발적 증가 우려
[※ 편집자 주 : 지속가능한(sustainable) 사회를 위한 이야기들을 담아낸 '플랫폼S'입니다. 지속가능과 공존을 위한 테크의 역할과 기후변화 대응, 이와 관련한 사회적 갈등 조정 문제 등에 대한 국내외 이야기로 찾아갑니다.]
(서울=연합뉴스) 이광빈 기자 = 이미지 합성 기술인 딥페이크를 악용한 음란물이 혐오 정서에 기반해 폭발적으로 퍼지게 될까.
팝스타 테일러 스위프트마저도 딥페이크 음란물의 피해자가 됐다는 소식에 전 세계에 '딥페이크 주의보'가 내려졌다. 생성 인공지능(AI) 기술이 딥페이크에 결합하면서 딥페이크는 기존 기술적, 비용적 제약을 넘어섰다.
지금까지는 주로 딥페이크 희생자로 유명인들이 부각됐다면, 앞으로는 일반인 피해도 우후죽순으로 사회 문제시될 가능성이 제기된다.
혐오와 비방의 언어 텍스트가 소셜미디어를 통해 순식간에 유통된 것처럼, 이제 싸구려 제작 도구로 손쉽게 딥페이크 혐오물을 만들어 유포할 수 있게 된 탓이다.
비틀린 욕망이 투영된 딥페이크의 확산에는 정치·사회적 혐오·증오 정서가 상당히 깔려 있다는 분석이다. 반대편 정치적 성향의 유명인에 대한 혐오, 여성 혐오 등이 가짜 영상물이나 합성 음란물의 자양분인 셈이다.
◇ 딥페이크 악용…'사기 범죄형'과 '혐오·비방형'
딥페이크 악용 실태는 목적에 따라 크게 두 가지 갈래다. 사기 범죄 유형과 허위 정보 유포다. 사기 범죄는 대부분 금전을 목표로 하지만, 허위 정보 유포는 혐오와 비방 의도에서 비롯된 경우가 많다.
딥페이크 사기 범죄의 경우 영화에서나 볼 법한 일들이 벌어진다. 최근 홍콩에서 발생한 감쪽같은 딥페이크 사기 범죄는 피해액이 수백억원 규모에 달했다.
한 글로벌 금융사 홍콩지부 직원이 영국의 회사 최고재무책임자(CFO)에게 돈을 비밀리에 거래해달라는 이메일을 받았다. 처음에는 피싱 메일이라고 의심했지만, 곧이어 걸려 온 영상통화에 안면 있던 동료들이 화면에 나오자 의심을 풀었다. 송금액은 2억 홍콩달러로, 한화 340억원 규모였다.
딥페이크 기술이 발달하면서 해외 토픽감으로 떠오르는 사건 유형이다.
앞으로도 이런 방식의 범죄 행각이 기승을 부리겠지만, 회사 내부 솔루션에 기술적인 보완을 하는 등 내부 프로토콜을 정비하고 주의를 기울인다면 예방이 어렵지는 않을 터다.
문제는 소셜미디어에 유포되는 허위 정보 딥페이크다. 소셜미디어 측의 삭제 조치는 대체로 사후약방문이다. 피해자의 인격권이 이미 훼손돼 버린 뒤다.
특히 스위프트를 상대로 한 딥페이크 음란물의 경우 혐오와 음모론에서 씨앗이 싹텄다.
지난 5일 뉴욕타임스에 따르면 스위프트 딥페이크는 미국의 유해성 온라인 커뮤니티인 포첸(4chan)에서 일종의 '챌린지'로 시작됐다.
포첸은 증오 표현, 음모론, 인종차별 등의 콘텐츠를 공유하는 것으로 악명이 높다. 스위프트 외에도 이미 많은 여성 연예인에 대한 음란 딥페이크가 경쟁적으로 만들어져왔다.
스위프트의 경우 백인 우월주의자들의 주요 타깃이 되어왔다. '조 바이든 미국 대통령의 재선을 위한 스파이', '펜타곤 비밀요원' 등 스위프트를 둘러싸고 음모론이 무성했다.
애초 스위프트가 성소수자 권리를 옹호하는 등 진보적인 성향을 보이는 데 대해 못마땅해하는 눈초리가 많았다. 스위프트가 팬덤을 넘어 사회적 신드롬을 만들어낼 정도로 영향력이 커지면서 혐오 세력은 더욱 소란스러워졌다.
영국 가디언지는 지난달 31일 '누구나 딥페이크 피해자가 될 수 있다. 하지만 스위프트가 표적이 되는 이유가 있다'는 제목의 오피니언에서 "딥페이크 포르노는 수많은 도덕적, 윤리적, 철학적, 법적 질문을 던진다"고 했다.
그러면서 젠더 문제 등에서 진보성을 대변하고 힘 있는 여성성을 보여주는 데다, 보수층에 인기인 미 프로풋볼(NFL)의 백인 인기스타와 연애하는 스위프트에게 음모론자들이 히스테리를 일으켰다고 분석했다.
◇ 글로벌 선거 곳곳 딥페이크 논란…'경쟁자 혐오 조장'
선거에서도 상대방에 대한 비방용 딥페이크는 정치적 혐오와 연결된다. 가짜 이미지로 상대방에 대한 정치적 혐오를 불러일으키려는 것이다. 온라인에 퍼진 뒤에는 가짜 정보로 판명 나더라도, 여전히 사실로 인식되기도 한다.
지난달 7일 치러진 방글라데시 총선은 딥페이크 영상이 횡행한 대표적인 사례로 꼽힌다. 야당 여성 정치인이 비키니를 입고 있는 모습 등의 합성 영상물이 난무했다. 정치적 기조까지 바꿔버리는 딥페이크 영상도 나왔다.
지난해 말 아르헨티나 대선 과정에서도 딥페이크 영상이 기승을 부렸다. 좌파 성향 세르히오 마사 후보가 코카인을 흡입하는 가짜 영상이 온라인에서 급속도로 퍼졌다.
지난해 화제가 된 도널드 트럼프 전 미국 대통령의 경찰 체포 가짜 AI 이미지, 프란치스코 교황의 명품 패딩 착용 AI 가짜 이미지는 이제 '애교' 수준으로 여겨질 정도로 딥페이크의 심각성은 커지고 있다.
◇ 월 3만원에 딥페이크 툴 이용…'기하급수 증가' 우려
딥페이크 기술 자체의 발전도 합성 음란물과 가짜 선거 정보를 만들도록 하지만, 더 큰 문제는 이 기술 자체에 대한 접근이 쉬워졌다는 점이다.
몇 년 전까지만 해도 사진이나 영상 합성은 제작 도구를 다룰 줄 알아야 하는 데다, 제작 도구 자체의 기술적 한계로 인해 진입장벽이 있었다.
그러나 생성 AI 시대 이후 상황이 급변했다. 스위프트 합성 영상과 방글라데시 총선에 이용된 딥페이크는 '헤이젠'(HeyGen)이라는 AI 영상 제작 도구다. 사용료는 한 달에 24달러(약 3만원)에 불과하다.
강정수 미디어스피어 AI연구센터장은 10일 통화에서 "유색인종, 어린이, 여성 등 약자의 피해가 극심해질 수 있는 등 이제 일반인 누구나 불법 합성물의 피해자가 될 수 있다"면서 "미국과 영국에서는 불법 딥페이크 유통을 규제하는 데 초점을 맞추는 데, 전 세계적으로 불법 제작까지도 강력히 규제하도록 법제화해야 한다"고 말했다.
※ 딥페이크 악용 실태와 대처 방안은 10일 오후 9시30분 연합뉴스TV '탐사보도 뉴스프리즘'에서 자세히 볼 수 있습니다.
#이광빈의_플랫폼S #딥페이크 #테일러_스위프트 #탐사보도_뉴스프리즘 #AI #혐오
lkbin@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
