한 직장인이 온라인상에서 파이썬 코드를 작성·실행해 인공지능(AI) 이미지를 생성할 수 있는 프로그램으로 선정적인 AI 생성 이미지 약 70개를 연결해 동영상으로 제작했다. 이 영상은 온라인 채널 구독자 수를 늘리는 데 쓰였다. 실존 인물을 합성한 딥페이크는 아니었지만 법원은 제동을 걸었다. 이 직장인은 청소년성보호법상 성착취물 제작·배포 등의 혐의로 재판에 넘겨져 징역 2년6개월에 집행유예 3년을 선고받았다.
'AI 생성' 선정적 콘텐츠, 유료 구독 유도 '덜미'
3일 법조계에 따르면 법원은 AI로 만든 가상의 선정적 콘텐츠에 대해서도 법적 제재를 가하는 판결을 연이어 내놓고 있다. 최근 온라인상에선 생성형 AI로 가상 인물을 만든 뒤 선정적 콘텐츠를 제작한 다음 유료 구독으로 유인해 돈벌이에 나서는 채널이나 계정이 적지 않다. 기존엔 실존 인물의 얼굴을 음란물에 합성하는 딥페이크가 논란이 됐다. 최근 들어선 AI 인플루언서를 내세워 딥페이크 논란을 우회하면서 유료 구독을 통해 수익을 올리는 방식이 새로운 돈벌이로 떠올랐다. 수위를 낮춘 이미지로 흥미를 불러일으킨 이후 유료 구독을 해야만 더 선정적인 콘텐츠를 볼 수 있도록 꾀어내는 방식이다.
실제로 팔로워 14만명을 보유한 한 인스타그램 계정엔 수영복 차림의 젊은 여성이 등장한다. 댓글들 중엔 실제 인물로 착각한 듯한 반응도 보인다. 하지만 사진 속 여성은 생성형 AI로 만든 가상 인물. 이 계정은 월 5500원을 내면 수위 높은 노출 콘텐츠를 제공한다.
법원은 이 같은 행태에 제동을 걸고 있다. 채널 운영자들은 관심을 끌 만한 AI 여성 이미지를 공개 채널에 올려 시선을 집중시키는 것으로 나타났다. 이후 후원 사이트나 유료 구독 채널로 돈 되는 이용자를 유치했다. 돈을 낸 이용자에게 수위가 높은 AI 생성 음란물을 제공하는 식이다.
AI로 생성한 여성 이미지를 올리는 채널 운영자 A씨도 이 같은 방식으로 구독자를 유도하다 재판에 넘겨졌다. A씨는 비키니나 원피스 차림의 이미지를 공개 채널에 게시한 뒤 미국 후원 사이트로 구독자를 유도했다. 월 5~40달러를 받는 방식이었다.
이후 AI 그림 생성 프로그램으로 만든 음란 사진을 유료 구독자에게 배포했다. 사진은 1800여장에 달했다. 모두 여성 가슴, 음부 등 신체 주요 부위가 노골적으로 표현된 사진들로 조사됐다. 법원은 A씨에게 정보통신망법상 음란물 유포 혐의로 징역 6개월에 집행유예 1년을 선고했다.
또 다른 운영자 B씨도 AI 생성 여성 이미지를 채널에 올린 뒤 후원 사이트로 구독자를 유인하다 덜미가 잡혔다. 월 5~50달러를 받고 노골적 신체 노출이 담긴 AI 이미지를 제공한 혐의다. B씨는 여성 비키니·원피스 이미지로 관심을 모은 뒤 유료 구독을 유도했다. B씨도 법원에서 징역 8개월에 집행유예 2년을 선고받았다. 정보통신망법상 음란물 유포 혐의가 적용된 결과다.
마찬가지로 여성 비키니·원피스 이미지로 월 10~50달러 유료 구독을 유도한 운영자 C씨도 징역 6개월에 집행유예 1년을 선고받게 됐다.
이들 모두 선정적인 AI 생성 콘텐츠로 700만~800만원대 수익을 거둔 것으로 나타났다. 법원은 수익금을 모두 추징했다.
이 같은 사례들을 보면 AI로 제작했는지 여부는 법적 처벌을 가하는 데 별다른 쟁점이 되지 않았다. 법원은 정보통신망을 통해 음란한 화상이나 영상을 배포·판매·전시했는지, 그 과정에서 수익을 얻었는지를 주목했다.
이에 따라 운영자들 모두 실형은 피했지만 징역형이 선고됐다. 계정을 폐쇄했거나 재범하지 않겠다고 다짐한 경우 집행유예 사유로 고려됐다. 반대로 게시물 수가 많고 범행 기간과 수익 규모가 적지 않으면 불리한 양형 이유로 작용했다.
법원은 특히 아동·청소년을 떠올리게 하는 AI 콘텐츠에 대해 엄격한 기준을 적용했다. 앞서 언급된 직장인은 "영상 속 표현물이 명백히 아동·청소년으로 보이지 않고 플랫폼 심의도 거쳤다"고 주장했지만 받아들여지지 않았다.
하지만 법원은 '사회 평균인'의 시각에서 객관적으로 판단해야 한다고 봤다. 교복, 교실 배경, 앳된 얼굴, 영상 제목 등을 종합하면 아동·청소년으로 명백히 인식될 수 있다는 판단이다. 플랫폼 내부 심의를 통과했다는 사정도 형사책임을 피할 근거가 되지 못했다.
다만 법원은 'AI 표현물'이란 특수성을 양형에 반영했다. 아동·청소년 성착취물이 성적 자기결정권을 침해하고 피해 확산 위험이 큰 범죄라고 지적하면서도 "AI로 제작된 가상 표현물이라 구체적 피해자가 존재하지 않고 성적 표현 정도가 매우 심하다고 보기는 어렵다"고 설명했다. 이에 따라 징역형의 집행유예가 선고됐다.
AI 성인 콘텐츠 시장은 기술 발전 속도에 맞춰 빠르게 성장하고 있다. 하지만 법원 판결은 가상 인물을 만들었다는 이유만으로 책임이 사라지지 않는다는 점을 분명히 했다.
단순 노출 이미지 단계에선 여전히 규제 사각지대가 남아 있다. 이와 달리 수위가 음란물에 이르고 이를 유료 수익 구조로 연결하면 형사처벌 대상이 된다는 기준을 세웠다.
익명을 요구한 한 형사 전문 변호사는 "법원은 제작 방식보다 해당 표현물이 음란물에 해당하는지, 이를 정보통신망을 통해 배포·판매했는지, 유료 구독 등 수익 구조와 연결됐는지를 중심으로 판단하고 있다"며 "AI 성인 콘텐츠로 돈을 버는 사례들이 늘고 있는데 수위와 판매 방식에 따라 범죄수익 추징까지 이어질 수 있다"고 설명했다.
김대영 한경닷컴 기자 kdy@hankyung.com