최근 일본 내 소셜미디어(SNS)에서 인공지능(AI)을 이용한 혐오 콘텐츠가 빠르게 확산하고 있는 것으로 나타났다. 일본을 미화하고 중국 등 특정국가를 비하하는 콘텐츠가 광고 수익을 노리고 대량 생산되면서, 고령층을 중심으로 배타적 인식을 키우고 있다는 지적이 나온다.
아사히신문은 8일 AI 기반 혐오 영상 제작자들을 인터뷰한 내용을 보도하며, 특정 국가 혐오와 돈벌이 수요가 만나 이 같은 현상을 빚고 있다고 보도했다.
인터뷰에 응한 20대 AI 영상 제작자는 직업 중개 사이트에서 간단한 영상 제작만으로 2주 동안 50만엔(약 466만원)을 벌 수 있다는 제안을 받고 참여했다며 "특별히 외국인에 대한 원한은 없지만 돈을 벌려는 마음에 영상 제작 일에 응했다"고 말했다.
그는 발주자가 건넨 제작 지침에 따라 '일본의 신칸센에 세계가 감동' '벚꽃을 망치는 중국인'과 같은 일본 미화, 중국 비하 영상을 AI로 만들어 유튜브 등에 올렸다.
제작 지침에는 "창작한 이야기지만 시설이나 지명은 실재하는 대로 쓸 것, 시청자 대부분은 노인이므로 듣기 쉬운 음성으로 표현할 것" 등의 지시가 담겨 있었다.
이러한 동영상에는 내용이 사실인지 거짓인지 의심하지 않고 "이 동영상을 보고 다시 깨어났다", "외국인은 용서할 수 없다" 등의 댓글이 달렸다.
아사히는 AI로 생성된 혐오 콘텐츠가 사실 여부 검증 없이 퍼지고 있으며, 일부 영상은 수십만 회 이상의 조회 수를 기록해 상당한 광고 수익으로 이어지고 있다고 지적했다.
약 30명에게 AI 영상 제작을 발주했다는 60대 남성은 제작자를 구할 때 '일본을 좋아하는 사람', '중국을 싫어하는 사람' 등을 특정해 모집했다고 인터뷰에서 밝혔다.
그는 아사히에 "처음에는 오타니 쇼헤이 선수를 다루는 동영상 채널을 운영했지만 조회 수 변동이 심했다"며 "시청자들이 스포츠 영상보다는 중국 비판 영상을 끝까지 보기 때문에 수익이 많이 나오는 경향이 있다"고 털어놨다.
아사히는 구글이 사기 등 기만행위를 이유로 유튜브에서 지난해 말 전 세계 약 340만개 채널을 삭제했지만, 이 남성이 운영한 중국 혐오 채널은 최근까지 없어지지 않았다고 지적했다.
일본 고쿠사이 대학 야마구치 신이치 교수(사회정보학)는 "특정 나라나 집단에 대한 반감을 자극하는 내용은 주의를 끌기 쉽고 제작자가 광고 수익을 얻기 쉽다"며 무분별한 혐오 영상이 시청자의 차별 의식을 강화할 수 있다고 우려했다.
(사진=연합뉴스)