부천역 인근 길거리에서 방송하던 인터넷 방송인(BJ)에게 경찰이 "시민이 불편해하니 방송을 종료해달라"고 말하자 상대가 덤벼든다. 경찰은 BJ를 바닥에 넘어뜨리고 제압하며 "당신을 모욕죄 및 공공도로 점유로 체포합니다"라고 말한다.
교복 차림으로 길에서 담배를 피우는 학생에게 경찰이 질책하자 경찰이 착용한 보디캠을 보고는 "경찰이 '몰카' 찍고 다님? 변태네, 진짜"라며 학생이 조롱한다. 경찰은 "요즘 학생들 진짜 미쳐버리겠네…"라며 당황한다.
최근 SNS에 퍼지고 있는 이런 영상은 경찰 보디캠에 찍힌 것처럼 보이지만, 실은 인공지능(AI)로 만든 가짜 영상들이다.
경찰 보디캠처럼 보이는 가짜 영상은 현재 50개를 넘어섰는데 10월 한 달 동안 인스타그램에서만 누적 조회수 1천200만회를 기록하고, 한 달 만에 틱톡 채널 팔로워 수가 9천900명을 기록하는 등 온라인상에서 화제가 됐다.
문제는 대부분 누리꾼들이 가짜임을 눈치채지 못한다는 점이다. 지난달 27일 전국적으로 경찰 보디캠이 도입됐기에 오해 소지가 커졌다. 실제로 BJ 검거 영상에는 "경찰이 시민 자유를 억압한다"는 등의 비판 댓글이 달리기도 했다.
이에 경찰청은 AI로 만든 허위 영상을 유포한 SNS 채널에 대한 입건 전 조사(내사)에 나서겠다고 이날 밝혔다.
경찰은 채널 운영자가 이익 또는 손해를 가할 목적으로 허위 통신을 한 것으로 보고 전기통신기본법 위반 혐의 적용을 우선 검토하고 있다. 삭제나 차단 조치도 병행할 예정이다.
그러나 채널 운영자가 처벌을 받을지는 불분명하다. 공익을 해할 목적으로 허위 통신을 한 자를 처벌할 수 있도록 규정한 조항(제47조 제1항)이 2010년 '미네르바 사건'으로 헌법불합치 결정을 받아 폐지된 상태이기 때문이다.. 지금까지 이를 대체할 법이 나오지 않았다.
내년 1월 시행을 앞둔 AI 기본법도 규제보다는 산업 진흥과 관련된 내용이라 가짜 AI 콘텐츠에 대한 내용은 없다. 이 때문에 보완 입법이 필요하다는 지적이 제기된다.
(사진=연합뉴스)