최근 인공지능(AI)으로 생성한 가상 인물을 내세워 사회관계망서비스(SNS)에서 정치적 메시지를 퍼뜨리는 사례가 늘고 있다.
황희두 노무현재단 이사는 지난달 26일 자신의 SNS를 통해 "젊은 여성 극우 네임드 계정의 정체가 결국 드러났다"며 "'AI 딥페이크' 기술로 만들어진 조작이었다"고 밝혔다.
황 이사가 공개한 계정에는 "자유대한민국을 사랑합니다. 윤어게인!"이라는 소개글과 함께 한 여성의 셀카 사진 여러 장이 올라와 있었다. 해당 계정은 정치적 성향을 드러낸 게시물을 올리며 실제 인물이 운영하는 계정처럼 활동해온 것으로 알려졌다.
그러나 누리꾼들 사이에서 영상과 사진의 진위를 둘러싼 의문이 확산하자, 계정 운영자는 해당 콘텐츠가 실제 인물이 아닌 AI로 제작된 것이라고 인정했다. 운영자는 "어느 시점부터 솔직하게 말씀드렸어야 했는데 타이밍을 놓쳤다"며 "놀라거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다"고 밝혔다. 이어 "결과적으로 다수를 속이게 되었다"며 "죄송하다"고 사과했다.
황 이사에 따르면 최근 유튜브와 SNS 등에서는 AI로 만든 인물이 정치적 주장을 하거나, 실제 인물의 얼굴을 도용한 계정이 특정 정치 구호를 내세우는 사례가 이어지고 있다. 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 극우 메시지를 전한 사례도 있다.
황 이사는 "AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다"며 "단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례"라고 지적했다.
(사진 = 황희두 노무현재단 이사 페이스북, 유튜부 갈무리)