日·필리핀도 '성착취 딥페이크 논란' 그록 차단 등 규제 나서(종합)
일본, 엑스에 딥페이크 생성 금지 요구…"개선 안되면 행정지도"
필리핀은 그록 접속 차단…인도네시아·말레이시아 이어 세계 3번째
(서울·하노이=연합뉴스) 최이락 기자 박진형 특파원 = 일론 머스크가 소유한 엑스(X·옛 트위터)의 인공지능(AI) 챗봇 '그록'이 세계적으로 성 착취 딥페이크 콘텐츠 논란에 휩싸인 가운데 일본, 필리핀 등 각국이 접속 차단 등 규제에 나섰다.
일본 정부는 엑스에 대해 딥페이크 등 타인의 부적절한 성적 이미지를 생성하지 않도록 개선을 요구했다고 요미우리신문이 16일 전했다.
신문에 따르면 일본 정부는 그런데도 개선되지 않을 경우 AI 법에 따라 사상 첫 행정지도를 하는 방안을 검토하고 있다.
이는 일본에서도 그록에 의한 피해가 아이돌이나 미성년자들을 중심으로 속출한 데 따른 것이다.
일본 AI법은 생성형 AI의 기술 혁신과 그 위험성 관리를 위해 지난해 9월 시행됐다.
이 법은 국민의 권리 침해가 발생하면 국가가 AI 사업자에 대해 조사하고, 결과에 따라 사업자를 상대로 지도·조언할 수 있도록 했다. 아직 지도 사례는 없다.
일본 내각부는 이달 들어 엑스에 대해 성적 가공물 출력을 막도록 구두로 요구했다.
아울러 딥페이크 이미지 생성 논란에 대한 입장, 부적절한 콘텐츠 생성 제한 기능의 세부 내용, 향후 대응 방침 등을 서면으로 신속히 보고하도록 했다.
이런 요구는 AI법에 근거한 행정지도를 염두에 둔 것이지만, 지난 15일까지 엑스 측은 일본 정부에 별다른 회신을 하지 않았다고 요미우리는 전했다.
필리핀 정부도 전날 그록 접속을 차단하는 조치에 착수했다고 발표했다. 이로써 필리핀은 지난 10일 인도네시아를 시작으로 말레이시아에 이어 세계에서 3번째로 그록을 막는 나라가 됐다.
헨리 로엘 아구다 정보통신기술부 장관은 기자회견을 갖고 "특히 AI의 등장으로 유해 콘텐츠가 많이 나타나고 있기 때문에 지금 당장 인터넷을 청소해야 한다"면서 이같이 밝혔다.
이처럼 각국이 규제에 나선 가운데 엑스 측은 그록이 실제 인물의 이미지로 노출이 심한 이미지를 만들지 못하도록 제한하는 자체 안전 조치를 내놓았다.
엑스 안전팀은 14일(현지시간) "그록 계정이 실제 인물의 이미지를 편집해 비키니 차림 등 노출이 심한 상태로 생성하는 것을 허용하지 않도록 기술적 조치를 시행했다"며 "이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다"고 공지했다.
하지만 요미우리는 "15일 저녁에도 노출도가 높은 이미지로 가공이 가능했다"고 지적했다.
필리핀 정부도 엑스의 이런 조치가 차단 결정에는 영향을 미치지 않을 것이라고 설명했다.
필리핀 사이버범죄 당국 관계자는 엑스의 발표만으로 결정을 내릴 수는 없다면서 엑스 측이 약속을 이행하는지 지켜볼 것이라고 말했다.
파흐미 파질 말레이시아 통신부 장관도 전날 노출이 심한 이미지 생성을 제한하는 엑스의 조치가 "완전히 이뤄지지 않았다"라며 "엑스는 사용자가 악용할 수 있는 영상이나 이미지가 더 이상 발생하지 않을 것이라는 점을 입증해야 하며, 이 문제가 해결되면 임시 차단 조치를 해제할 수 있다"고 말했다.
그는 그록 규제에 대해 "말레이시아만의 요구가 아니다. 인도네시아와 유럽 여러 나라들의 요구이기도 하다"면서 "여러 나라들이 같은 입장을 공유한다는 것은 엑스가 뭔가 살펴봐야 할 게 분명히 있다는 뜻"이라고 덧붙였다.
한편 롭 본타 캘리포니아주 법무장관도 14일 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"고 발표했다.
본타 법무장관은 그록이 "엑스를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"면서 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 말했다.
이와 관련해 유럽 비영리단체 'AI포렌식스'가 그록으로 생성된 이미지 2만여 개를 분석한 결과 절반 이상이 "최소한의 옷만 입은 사람들"의 이미지였으며, 2%는 미성년자로 보였다고 AFP통신이 전했다.
머스크의 AI 기업 xAI는 최근 엑스에서 그록을 통해 '이 여자의 옷을 벗겨라' 같은 간단한 텍스트 입력만으로 딥페이크 이미지를 간편하게 생성하는 서비스를 선보였다.
이에 따라 엑스에 올라온 여성·미성년자 등의 이미지를 갖고 다른 사용자가 동의 없이 비키니 수영복 착용 등 노출이 심한 딥페이크 이미지를 만들어 올리는 사례가 속출하면서 각국에서 비난 여론이 높아지고 있다.
choinal@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>