엑스(X·옛 트위터)의 인공지능(AI) 챗봇 그록의 비동의 알몸 이미지와 아동 성 학대 콘텐츠 생성에 대해 네덜란드가 칼을 뽑았다.
이 같은 콘텐츠 생성을 중단하지 않으면 하루 10만 유로(한화 약 1억7000만원)의 벌금을 내게 된 것.
26일(현지시간) 로이터 통신 등에 따르면 네덜란드 암스테르담 법원은 이날 그록이 "당사자의 명시적인 동의 없이 부분적으로 또는 완전히 나체로 만드는 성적 이미지를 생성하거나 유포하는 것을 금지한다"고 밝혔다.
또 네덜란드 법에 따라 아동을 성적으로 학대하는 콘텐츠 생성에도 금지 명령을 내렸다.
법원은 그록이 명령을 이행하지 않을 경우 엑스의 인공지능 스타트업인 xAI는 하루 10만 유로의 벌금을 내야 한다고 판결했다. 벌금 상한선은 최대 1000만 유로(한화 약 170억원)다.
법원은 아울러 xAI가 이 명령을 위반하는 동안에는 그록을 엑스에서 차단할 것도 명령했다.
이번 소송은 네덜란드 비영리 단체 오프리미츠가 범죄 피해자를 지원하는 비영리 기관과 협력해 제기한 것으로 알려졌다.
최근 열린 심리에서 xAI는 그록의 성적 이미지 생성이 논란이 된 뒤 안전장치를 강화했다고 강조하면서 악의적인 사용자가 그록을 남용하는 것을 모두 막을 수는 없으며, 이런 사용자들의 행동으로 회사가 처벌받아서는 안 된다고 항변했지만, 법원은 받아들이지 않았다.
오프리미츠 측은 법원의 판결을 환영하면서 "동의를 거치지 않은 성적 이미지나 아동을 성적으로 묘사한 AI 이미지를 생성하는 데 자사의 도구가 동원되지 않도록 하는 책임은 해당 기업에 있다"고 말했다.
이보배 한경닷컴 객원기자 newsinfo@hankyung.com