"누나, 저는 올해 67세에요. 상장사 최고경영자(CEO)입니다. 평생 필요한 건 다 갖췄는데, 당신만 없네요." "누나, 나이가 무슨 상관이에요. 앞으로 제가 평생 아껴줄게요." "누나, 위챗(중국 최대 메신저) 추가할 수 있어요? 그냥 속마음을 나누고 싶어요."
중국에 '가짜 CEO 주의보'가 울리고 있다. 인공지능(AI)을 활용해 얼굴과 목소리를 바꾼 뒤 CEO 행세를 하면서 고령자들을 대상으로 금품을 요구하는 일이 확산하고 있어서다.
AI로 제작한 '가짜 CEO'의 사랑 고백
15일 중국 SNS 플랫폼 더우인, 샤오홍수, 콰이쇼우 등을 보면 '사랑 고백하는 CEO' 숏폼(짧은 영상)을 어렵지 않게 찾아볼 수 있다. 영상 속 인물은 대부분 정장을 입고 금목걸이를 한 채 카메라를 향해 애틋한 눈빛을 보내고 있다.감성적인 음악을 배경으로 사용한 뒤 '누나'를 향해 사랑을 고백하는 방식이다. 자세히 보면 일부 영상 속 인물은 유명 배우와 닮은 얼굴을 하고 있다.
화면 하단에는 눈에 잘 띄지 않도록 매우 작은 글씨로 '이 영상에는 AI 생성 콘텐츠가 포함돼 있다'는 문구가 포함돼 있다.
중국 경제매체 제일재경에 따르면 이같은 영상 대부분에는 수천건의 좋아요와 댓글이 달리고 있다. 대부분 고령 사용자들이 적극적으로 반응하고 있다. 온라인 교류를 통해 감정적인 관계가 구축되면 상품 판매를 유도하거나 송금을 요구되는 형태다.
이 때문에 SNS에는 "부모님이 'AI CEO'와 온라인 연애를 하고 있다"는 사례가 적지 않게 공유되고 있다. 그러면서 "고령 사용자들이 AI 생성 콘텐츠라는 개념 자체를 이해를 하지 못해서 실존 인물이라고 믿는다"는 하소연이 잇따르고 있다.
고령 여성이 'AI CEO'에 호감을 느껴 사기를 당했다는 중국 내 보도가 이어지고 있으며, 80대 노인이 2000위안(약 43만원)을 송금한 사건도 나왔다.
플랫폼 적극 대응에 나서도 무분별 확산
'가짜 CEO 주의보'는 수년째 이어지고 있지만 최근 AI 기술이 발전하면서 영상이 더 정교화되고 있다. 이 때문에 'AI로 얼굴 바꿔치기'를 이용한 사기와 허위 정보 유포 등 불법 행위가 갈수록 증가하는 추세다.
수법도 교묘하고 은밀해지고 있다. 제일재경은 "생성형 AI 기술이 급격하게 발전하고 오픈소스까지 확산하면서 범죄자가 악용하는 데 필요한 비용과 기술 장벽에 크게 낮아졌다"며 "일부 전자상거래 플랫폼에선 200위안이면 유명인의 목소리로 말하는 영상 제작을 맞춤 주문할 수 있닥"고 지적했다. AI 얼굴 합성 영상 제작 가격은 20~500위안(4000~10만원) 수준이다.
중국 공안부에 따르면 지난해 상반기 전국 SNS 사기 피해는 100억위안(약 2조1700억원)을 넘었다. 지난해 1분기 AI 얼굴 및 음성 모방을 통한 사기만 전 분기 대비 45% 급증했다. 피해자 중 고령층 비중은 약 38%다.
플랫폼 차원의 대응도 이어지고 있다. 위챗은 이달 초 AI로 유명인을 사칭해 홍보하는 콘텐츠를 단속하는 공지를 냈다. 1만3000여건의 콘텐츠를 삭제하고 1200여개 계정도 차단했다.
더우인은 1만1000여개의 사칭 계정을 차단하고 136개 계정의 전자상거래 권한도 정지했다. 제일재경은 "AI 기술이 가져오는 보안 위험 문제는 매우 복잡한 사회적 이슈"라며 "법률, 기술, 사회적 대응이 동시에 필요하다"고 지적했다.
베이징=김은정 특파원 kej@hankyung.com