미국 캘리포니아주(州)가 딥페이크로 제작하는 성 착취물 문제에 발벗고 나섰다.
지난달 31일(현지시간) AP통신에 따르면 캘리포니아 주의회는 최근 인공지능(AI) 기술을 이용한 딥페이크를 규제하는 일련의 법안을 처리했다.
개리 뉴섬 캘리포니아 주지사에게 송부된 법안에는 AI로 미성년자를 성 착취하는 내용의 딥페이크는 제작 자체를 금지하는 내용이 담겼다.
현행법에서는 딥페이크 성 착취물 제작은 미성년자를 대상으로 해도 불법이 아니다. 표현의 자유를 규정한 미국 수정헌법 1조로 인해 딥페이크 속 인물이 실존하는 인물이 아니면 기소와 처벌이 불가능하다는 것이다.
그러나 이번에 주의회가 처리한 법안은 실존 인물이 아니더라도 딥페이크 아동 성 착취물은 처벌이 가능하도록 규정했다. 뉴섬 주지사가 이 법안에 서명한다면 딥페이크 아동 성 착취물을 제작한 사람은 물론 배포나 소지한 사람도 처벌받을 수 있다.
또한 캘리포니아 주의회는 11월 대선을 앞두고 선거 관련 딥페이크 규제 강화 법안도 처리했다. 선거와 관련된 딥페이크 제작을 금지하고, 소셜미디어(SNS) 업체에 선거 전 120일 전부터 딥페이크를 사용한 선거 콘텐츠를 규제하도록 의무를 부과했다.
선거 당국이나 후보가 딥페이크 선거 콘텐츠를 제작한 사람에 대해 소송을 제기해 손해배상을 받을 수도 있다. 다만 풍자가 목적인 딥페이크에 대해선 규제하지 않는다는 예외 조항도 뒀다.
구글과 엑스 등 IT 업계는 표현의 자유에 대한 과다한 규제라며 이 법안들에 대해 반대하는 분위기다. 다만 챗GPT 개발사 오픈AI는 SNS 업체들의 AI 콘텐츠 관리 의무 강화에 찬성하는 것으로 알려졌다.
뉴섬 주지사는 9월 30일까지 법안에 서명하거나, 거부권을 행사할 수 있다. 그가 서명한다면 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적인 규제를 도입하는 주가 된다.
(사진=연합뉴스)
