정부가 인공지능(AI) 챗봇 '그록(Grok)'을 통한 딥페이크 성 착취물 양산 논란과 관련해 그록을 운영하는 엑스(X·옛 트위터) 측에 강력한 청소년 보호 장치 마련을 요구했다.
14일 방송미디어통신위원회(방미통위)는 최근 소셜미디어(SNS)를 통해 비동의 성적 이미지가 확산함에 따라 엑스의 그록 서비스에 대해 청소년 보호 장치 마련을 공식 요구했다고 밝혔다.
방미통위는 엑스 측에 '유해 정보로부터의 청소년 접근 제한 및 관리 조치' 등 구체적인 보호 계획을 수립해 회신할 것을 통보했다. 현재 엑스는 국내 정보통신망법에 따라 청소년보호책임자를 지정하고 운영 실태를 제출해야 할 의무가 있다. 방미통위는 그록 역시 이 의무의 대상임을 명확히 한 것이다.
특히 방미통위는 엑스 측에 한국 법체계상 성적 허위 영상물을 제작·유통하는 것뿐만 아니라, 소지하거나 시청하는 행위만으로도 형사처벌 대상이라는 점을 강하게 전달했다. 이는 최근 엑스 내에서 그록을 이용해 일반인이나 미성년자의 이미지를 동의 없이 딥페이크로 제작하는 사례가 속출하고 있는 데 따른 조치다.
그록을 둘러싼 논란은 전 세계적인 현상이다. 인도네시아와 말레이시아는 이미 딥페이크 성 착취물 생성을 이유로 그록 접속을 일시 차단하는 강수를 뒀다. 영국 규제당국(Ofcom) 역시 조사에 착수했다. 미국 내 압박도 거세다. 론 와이든 상원 의원 등 3명의 미 의원은 최근 애플과 구글 CEO에게 서한을 보내 "불법일 가능성이 큰 행위가 해결될 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다"고 했다.
논란이 커지자 엑스 측은 그록의 이미지 생성 기능을 '유료 구독자'에게만 제한하는 방침을 내놨으나, 미봉책이라는 비판이 나왔다. 토머스 레니에르 유럽연합(EU) 집행위원회 대변인은 "이는 근본적인 문제를 바꾸지 않는다"며 "유료 구독이든 무료 구독이든 우리는 그런 이미지를 보고 싶지 않다. 그게 전부"라고 했다.
김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하고자 한다"며 "이에 따른 부작용과 역기능에 대해서는 합리적 규제를 해 나갈 계획이며 인공지능 서비스 제공자를 대상으로 성범죄물 등 불법 정보 유통 방지 및 청소년 보호 의무 부과 등 제도 개선을 추진해 나갈 계획"이라고 했다.
홍민성 한경닷컴 기자 mshong@hankyung.com
