'딥페이크 논란' 스페이스XAI, 음란물 생성 요구한 이용자 제소
약관 위반으로 소송…"위반 계정 5만2천여 개 정지" 강조
(샌프란시스코=연합뉴스) 권영전 특파원 = 일론 머스크의 인공지능(AI) 기업 스페이스XAI가 자사 AI 모델을 아동 성 착취물(CSAM) 생성에 악용한 이용자를 상대로 소송을 냈다.
15일(현지시간) 법원에 제출된 소장에 따르면 스페이스XAI(법인명 X.AI LLC)는 AI 모델 '그록'(Grok)으로 미성년자의 성적인 사진을 생성한 이용자 테리 하우드를 상대로 텍사스주 연방 북부지법에 제소했다.
하우드는 지난해 12월 xAI 계정 두 개를 만든 이후 올해 2월까지 2개월여간 엄청난 횟수에 걸쳐 그록에 이 같은 요청을 했다고 회사 측은 밝혔다.
그는 성인과 미성년자의 일반적인 사진을 올린 다음, 이를 수정하라고 지시하는 방식으로 음란물 생성을 시도했다.
그록은 콘텐츠 관련 안전장치에 따라 다수 요청을 거부했으나, 하우드는 명령어(프롬프트)를 수정해가며 우회를 시도해 음란물을 생성하는 데 성공했다.
그는 심지어 10∼11세 정도로 보이는 아동의 사진을 '플레이보이 모델'처럼 수정해달라는 요청까지 한 것으로 소장에 적시됐다.
스페이스XAI는 하우드의 이와 같은 행위가 그록의 이용 약관을 위반한 행위라고 지적하며 이에 따른 회사의 평판 등 손해를 배상할 것을 명령해달라고 법원에 요청했다.
하우드의 행위로 인한 피해자가 스페이스XAI를 상대로 소송을 제기할 경우 관련 비용도 배상하라고 요구했다.
스페이스XAI는 하우드가 이미 지난 3월 사우스캐롤라이나주에서 미성년자 성 착취 등 혐의로 기소됐으며, 해당 사건에서 문제가 된 이미지 가운데는 그록을 통해 생성한 것도 포함됐다고 설명했다.
스페이스XAI는 또 소장에서 자신들이 올해 들어 계정 5만2천222개를 정지하고, 국립실종학대아동방지센터(NCMEC)에 아동 성착취물 7만3천604건을 신고해 최소 244명이 체포됐다고 덧붙였다.
그러나 일각에서는 머스크 최고경영자(CEO)가 과거 자신의 사진을 비키니 수영복 차림으로 수정한 AI 이미지를 공유하거나, 엑스(X·옛 트위터) 플랫폼 차단을 경고한 영국의 키어 스타머 총리가 비키니를 입은 사진을 게시하는 등 성적 이미지 생성의 문제점에 둔감했다는 점을 들어 회사도 책임에서 자유롭지 않다고 비판한다.
한 엑스(X·옛 트위터) 이용자는 "머스크가 독려했던 방식대로 그록을 이용했는데 소송을 제기하다니 이상하다"고 비꼬기도 했다.
지난해 말부터 올해 초까지 일부 이용자들이 X 플랫폼에서 그록을 통해 미성년자의 성적 이미지를 생성해 유포한 사실이 드러나면서 일부 국가가 그록 접속을 차단하고 수사 대상으로 삼은 사례도 있다.
그록을 운영하는 스페이스XAI는 스페이스X의 상장 직전 완전 자회사로 편입됐다.
스페이스X는 투자 설명서에서 그록에 탑재된 '매운맛'·'불안정' 모드를 소개하면서 "평판을 손상하거나 노골적인 콘텐츠, 허위 정보, 기만적인 결과물이나 착취적인 이미지 등을 생성할 수 있다"고 경고한 바 있다.
comma@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>