인공지능(AI)으로 알몸 이미지를 합성해주는 스마트폰 앱이 버젓이 팔려나가고 있는 것으로 드러났다.
애플 앱스토어와 구글플레이 스토어에서 이런 앱을 각각 47건과 55건 발견했다고 비영리 감시단체 '기술투명성프로젝트'(TTP)가 27일(현지시간) 발표한 보고서에서 밝혔다.
애플과 구글은 자사 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하지만, 정작 제대로 걸러내지는 못한 것이다.
문제의 앱들은 전 세계에서 7억500만 회 이상 내려받아졌다. 예상 수익만 1억1천700만 달러(약 1천700억원)에 달한다.
애플과 구글도 앱 판매 수익의 최대 30%를 가져가기에, 양사도 직접적인 이익을 얻고 있다고 TTP가 비판했다.
이들 앱은 AI 기술로 평범한 인물 사진을 나신, 비키니 수영복 차림 등 선정적인 모습으로 바꾸거나 다른 성적 이미지에 얼굴을 합성하는 '딥페이크'(AI 조작)이 가능하다.
'AI 피팅룸'이라고 홍보된 이들 앱 중 일부는 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해뒀지만, 실제론 성적인 이미지의 생성에 별다른 제지를 하지 않았다. 일부 앱들은 아예 '옷 찢기'나 '엉덩이 흔들기' 등 선정적인 영상 서식까지 제공했다.
중국 기반 앱들은 사용자 데이터가 중국 내 서버에 저장되어 개인정보 보호와 보안 관련 문제도 있다고 TTP는 지적했다.
이에 대해 애플 대변인은 "TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다"고 미 경제방송 CNBC에 답했다.
구글 대변인도 보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다고 밝혔지만 조치 대상 앱 수는 밝히지 않았다.
최근 일론 머스크의 AI 기업 xAI의 '그록'(Grok)이 비키니 차림 등 성적 이미지를 합성해 각국 정부에서 조사를 받기도 했다.
(사진=연합뉴스)