생성형 인공지능(AI)을 활용한 딥페이크 성범죄물 유포와 확산을 막기 위해 정부가 적극 대응에 나섰다. 올해 발생한 ‘인하대 딥페이크’ 사건과 SNS를 통한 중고생 집단 사이 딥페이크 물 유포 범죄가 확산하고 있고, 점점 더 심각한 사회 문제로 대두되고 있어서다. 딥페이크 물은 텔레그램 등 익명 기반 SNS를 통해 급속히 퍼지기에 피해 규모를 파악하기 힘들다. 정부는 처벌 수위를 높이고 부처 간 협업을 강화해 딥페이크 범죄를 차단하고, 피해자 지원에 최선을 다하겠다는 방침이다.
딥페이크 범죄 올해 급증
딥페이크 범죄는 통계가 작성된 2021년 이후 급격한 증가 추세를 보이고 있다. 27일 여성가족부 등에 따르면 방송통신심의위원회가 올해 9월 기준 집계한 딥페이크 관련 심의 건수는 1만305건으로 2021년 1913건 대비 5.3배 규모로 증가했다. 같은 기간 여가부 산하 디지털성범죄피해자지원센터에서 지원한 딥페이크 범죄 피해자 수는 176명에서 1201명으로 6.8배 급증했다.문제는 수면 위로 드러나지 않은 딥페이크 범죄가 더욱 많다는 점이다. 특히 텔레그램과 같은 폐쇄형 SNS를 통해 딥페이크 물은 급격히 확산하고 있다. 딥페이크 범죄는 사람의 얼굴·신체·음성을 대상자 의사에 반하여 성적 욕망·수치심을 유발하는 형태로 합성하거나 해당 합성물을 유포하는 행위로, 피해자가 성적 수치심을 느낄 수 있는 탓에 신고까지 이뤄지지 않는 경우가 많다는 분석이다.
최근엔 범죄 인식이 낮은 10대 청소년들을 중심으로 딥페이크 범죄가 퍼지고 있다. 여가부 관계자는 “텔레그램 개인 대화방 내 유포 등 정확한 피해 규모 파악이 어렵고, 급속한 확산과 2차 피해 등으로 개인에 심각한 고통과 사회 불신 초래하고 있다”면서 “딥페이크 피해자와 가해자의 대부분이 10대”라고 말했다. 하지만 온라인이 일상과 다름없는 10대를 대상으로 한 디지털 성범죄 교육은 절대적으로 부족한 게 현실이다.
법안 개정으로 처벌 수위 강화
딥페이크 문제가 심각해지자 정부는 처벌 강화로 범죄 근절을 모색하고 있다. 국회는 지난 9월 딥페이크 성범죄 처벌 강화와 피해자 보호를 골자로 한 ‘청소년성보호법’과 ‘성폭력방지법’ 개정안을 통과시켰다. 개정된 청소년성보호법은 아동·청소년 성 착취물을 이용한 협박과 강요 행위에 대한 처벌을 각각 징역 3년 이상과 5년 이상으로 강화했다. 경찰의 긴급 신분 비공개 수사를 허용하고, 성 착취물 유통 시 방송통신심의위원회에 즉각 삭제 요청을 의무화했다. 성폭력방지법 개정안은 딥페이크 및 신상정보 삭제 지원 주체를 국가에서 국가와 지자체로 확대하고, 피해자의 일상 회복 지원을 명문화했다. 디지털성범죄피해자지원센터의 설치 근거를 마련해 불법 촬영물 신고와 삭제 지원, 피해 예방 활동을 수행할 수 있도록 했다. 가해자 구상권 청구를 위한 자료 요청 권한도 신설했다. 범부처 협업 강화
그간 정부는 디지털 성범죄 대응 범정부 대책 등을 발표해왔지만 새로운 유형의 범죄에 대한 효과적 대응엔 한계가 있었다. 정부는 딥페이크 대응 범정부 TF를 구성해 입법·행정조치로 이어 나간다는 방침이다. 지난 9월엔 △허위 영상물 제작·유포 법정형 5년→ 7년 상향 △허위 영상물 소지ㆍ시청 처벌 신설(3년) △신분 비공개수사 사후승인 허용 △디지털 성범죄피해자 지원센터 법적 근거 마련 등을 담은 관련법이 대거 국회를 통과했다.검·경찰의 집중단속도 실시 중이다. 아동청소년 성착취물 제작 유포자에 대한 구속수사를 원칙으로 삼고, 검거 전 범죄수익을 몰수하는 등 처벌 수위를 높일 예정이다. 교육부는 학교 피해자 현황 조사를 통해 실태 파악 및 대응 방안 마련에 나섰고, 방심위는 텔레그램과 핫라인을 구축해 유포 대응 중이다.
위장 수사도 확대한다. 이전까지는 디지털성범죄 피해자가 아동이나 청소년일 경우에만 위장 수사가 가능했다. 하지만 최근 성폭력처벌법이 개정되어 이제는 피해자가 성인인 경우에도 위장 수사가 가능해졌다. 수사관이 신분을 비공개한 상태에서의 수사도 할 수 있게 됐다. 플랫폼 사업자 의무를 강화해 플랫폼 책임도 묻는다는 방침이다. 정보통신망법 및 전기통신사업법 등 관련 법령을 적극적으로 해석해 텔레그램 등 국내외 플랫폼 사업자 규제를 추진한다. 특히 정보통신망법을 개정해 성적 허위 영상물 등 디지털 성범죄물 게재자에 대해 서비스 이용 중단, 탈퇴 등 제재 추진한다는 방침이다.
피해자 보호 체계도 강화한다
단순하게 가해자 처벌에 그치지 않고 딥페이크 범죄에 노출된 피해자들을 적극적으로 지원하는 게 정부의 목표다. 여가부 관계자는 “신속한 피해자 보호를 통해 피해 확산을 방지할 목적”이라고 설명했다.우선 딥페이크 촬영물을 삭제하는 데 적극 지원하기로 했다. 정부는 사업자가 삭제요청을 받았을 때 성범죄물 여부 판단이 어려운 경우, ‘선(先) 차단 후(後) 방심위 심의 요청’ 의무화를 추진 중이다. AI로 딥페이크 촬영물을 실시간으로 감지해 삭제 요청을 발송하고, 삭제 여부를 모니터링하는 시스템도 계획 중에 있다. 또 지난 9월 성폭력방지법 개정을 통해 피해자 신상정보 삭제지원 근거를 마련했다. 불법촬영물 외에도 피해자 신상정보까지 신속하게 삭제하여 추가적인 피해를 방지한다. 원스톱 지원체계도 마련했다. 특히 여가부 산하 디지털성범죄피해자지원센터 역할이 강화된다. 신고를 일원화하고 기관 간 연계를 통해 지원해 나간단 방침이다. 이를 위해 여가부는 인력 증원, 예산 확대 통해 센터 역량 강화에 나섰다. 365일 24시간 동안 지원하고, 신속한 선 삭제 등 모니터링 기능을 강화한다.
예방 교육으로 범죄 근절
딥페이크 물과 같은 성적 허위 영상물 제작·유통·시청이 심각한 범죄 행위임을 사전에 인식하는 것이 무엇보다 중요하다는 지적이다. 정부는 청소년 맞춤형 영상 콘텐츠를 보급하고, 의무교육을 확대하겠다는 계획이다. 학생에게는 무엇보다 반복적인 예방교육이 중요하다. 특히 초중고 학생을 대상으로 △인식조사 △예방 교육 △매뉴얼 제작 △상담 등을 체계적으로 벌여 전면적 인식을 개선해 나가기로 했다. 대학생을 대상으론 인식개선프로그램을 운영하고 성폭력 담당자 대응 역량 강화에 나서기로 했다. 예방 프로그램 체험 부스를 운영하고, 관련 사건을 처리하는 대학내 담당자를 대상으로 처리를 위한 모의 훈련도 진행하기로 했다.학생들을 교육하는 교사를 대상으로도 예방 활동을 확대한다. 교육부는 교재개발 및 교육연수 등 신속한 교육체계 마련해 딥페이크 범죄를 예방하기로 했다. 또, 선도 교원 등 관련 교사 대상 연수를 추진하고, 학교로 찾아가는 컨설팅 연수 시 디지털 시민교육을 필수과정에 포함하는 방식으로 교육을 강화한다.
안정훈 기자 ajh6321@hankyung.com
