이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.
미국의 유명가수 테일러 스위프트의 딥페이크(이미지 합성) 영상 논란에 일론 머스크가 소유한 소셜미디어 X(옛 트위터)가 검색을 차단하는 등 사태 진화 나섰다. X는 이와 함께 아동 성 착취물 등 불법 콘텐츠를 단속하는 전담부서를 설치하기로 하는 등 소셜미디어 내 인공지능(AI)을 활용한 유해 콘텐츠 정화 작업에 힘을 주고 있다.
28일(현지시간) 블룸버그와 CNBC 등에 따르면 X는 이날 플랫폼 내에서 ‘테일러 스위프트’ 검색을 제한하는 조처를 했다. 이는 지난주 스위프트의 누드와 성적인 내용을 묘사한 딥페이크 영상이 X 내에서 유포된 후 나왔다. CNBC에 따르면 이런 이미지는 AI를 활용해 새로운 가짜 이미지를 생성하는 웹사이트에서 가져온 것으로 추정된다. 이 사진은 해당 계정이 정지되기 전까지 19시간 동안 조회수 2700만회 이상을 기록했다. 스위프트의 가짜 이미지가 X 안팎에서 논란이 되자 회사 측이 나서 계정 폐쇄 및 스위프트 검색 차단 응급조치를 취한 것이다.
X는 이와 함께 아동 성 착취물 등 불법 콘텐츠를 단속할 ‘신뢰와 안전 센터’를 미국 텍사스주 오스틴에 신설한다고 밝혔다. 이를 위해 100명의 콘텐츠 관리자를 정규직으로 채용할 계획이다. X의 이런 행보는 린다 야카리노 X CEO가 오는 31일 온라인 아동 성 착취물 위기에 관한 연방 상원 사법위원회 청문회 출석을 사흘 앞두고 나왔다고 블룸버그는 분석했다. 신뢰와 안전 센터 팀원들은 성 관련 콘텐츠는 물론 다른 유형의 유해 콘텐츠도 걸러낼 방침이다.
앞서 머스크는 2022년 10월 트위터를 인수한 후 대량 해고를 단행했고, 이때 유해 콘텐츠를 단속하는 직원들도 대거 회사를 떠난 것으로 알려졌다. 로이터에 따르면 X는 지난해 아동 성 착취에 대한 규정을 위반한 혐의로 작년에 1240만개의 계정을 정치했다고 밝혔다. 이는 2022년의 230만개 계정 정지보다 증가한 수치다.
실리콘밸리=최진석 특파원 iskra@hankyung.com
