딥페이크 기술 이용 사실 적시하고 당사자 동의 거쳐야
(서울=연합뉴스) 이도연 기자 = 중국 당국이 세계 주요국 중 처음으로 딥페이크(deepfake)에 대한 포괄적 규제 시행에 들어가면서 이 규제가 당국이 원하는 효과를 거둘 것인지 관심이 쏠린다고 미 일간 월스트리트저널(WSJ)이 8일(현지시간) 진단했다.
중국 국가인터넷정보판공실은 인공지능(AI) 기반의 이미지·오디오·텍스트 생성 소프트웨어 등을 규제하는 '인터넷 정보 서비스 딥 합성 관리 규정'을 오는 10일부터 시행한다.
해당 규정에 따르면 딥페이크 서비스 제공자와 이를 이용하는 콘텐츠 제작자는 해당 기술을 사용해 콘텐츠를 만들 경우 그러한 사실을 눈에 보이게 표시하고 디지털 표식(워터마크)을 붙여 원본을 추적할 수 있도록 해야 한다.
누군가의 이미지나 목소리를 편집하기 위해 해당 기술을 사용하려면 당사자의 동의를 구해야 하며, 해당 기술을 활용해 뉴스를 보도할 경우 원본은 정부가 승인한 매체에서 나온 것이어야 한다.
이번 규제는 가장 폭발적이고 논란의 여지가 큰 AI의 영역 중 하나인 딥페이크에 대한 세계 각국 주요 규제 기관의 첫 포괄적인 규제 사례라고 WSJ은 평가했다.
딥페이크란 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 이미지나 영상 등을 말한다.
중국의 디지털 관련 정책을 조사하는 '디지차이나' 프로젝트를 운영하는 그레이엄 웹스터 미 스탠퍼드대 교수는 중국이 의무 규정과 강제적인 집행을 통해 다른 국가보다 더 빨리 관련 규제에 앞장서고 있다고 평가했다.
그는 해당 규제에 대해 "현 사회가 직면한 최대 도전 중 하나에 대한 세계 최초의 대규모 시정 노력"이라며 이런 규정이 현실 세계에서 어떻게 작동할 것인지 보여주는 사례가 될 것으로 전망했다.
다만 중국의 이번 규제는 국가안보나 경제에 지장을 주기 위해 AI가 만들어낸 '가짜 뉴스' 콘텐츠 사용을 금지하는데, 이는 중국 정부에 해석의 권한을 광범위하게 주는 것이라는 지적도 나온다.
미국 뉴욕의 비영리 인권단체 '위트니스'의 프로그램 관리자 샘 그레고리는 미국과 유럽연합(EU)에서는 딥페이크 규제가 정치적 풍자와 같은 정당한 표현을 제한하지 않는 방식으로 기술의 부정적 측면을 완화해왔지만, 중국의 규제는 이미 언론 통제를 새로운 매체로 확대하고 있다고 말했다.
딥페이크 기술 규제는 중국 외에서도 시도된 적 있으나 진전을 이루지 못하고 있다.
미 의회에서도 딥페이크의 확산과 잠재적 남용을 두고 고심해왔지만, 언론의 자유 등에 막혀 이 같은 노력이 멈춰 있는 상태다.
EU에서는 규제당국 측이 중국보다 더 조심스러운 태도를 취하면서 딥페이크를 완전히 금지하지 않고 대신 딥페이크가 허위 정보를 전파하는 능력을 완화하는 방식을 찾을 것을 관련 정보기술(IT) 플랫폼들에 권고한 것으로 알려졌다.
dylee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
