탈중앙화 신원인증 프로젝트 휴머니티 프로토콜(Humanity Protocol)이 틴더 등 데이팅 앱의 인공지능(AI) 사기 위험성을 경고하고 나섰다.
휴머니티 프로토콜은 데이팅 앱 틴더에서 지난해 10월부터 12월까지 AI 기반 사회 실험을 진행했다고 3일 밝혔다. AI가 어떤 방식으로 가짜 프로필을 생성하고, 주요 데이팅 플랫폼의 신원확인(KYC)를 우회해 실제 이용자를 조작할 수 있는지 보여주는 게 실험의 핵심이다. 휴머니티 프로토콜 측은 "실험 결과는 생성형 AI 시대에 기존 신원확인 시스템의 취약성이 어떻게 악용될 수 있는지 명확히 보여줬다"고 말했다.
실험에는 휴머니티 프로토콜 팀원 6명이 참여했다. 우선 실험 팀은 챗GPT, 나노바나나, 레브AI(Reve AI) 등 공개 AI를 활용해 틴더에서 총 4개의 가짜 프로필을 생성했다. 해당 프로필에는 사진과 소개글이 모두 포함됐다.
실험 팀은 채팅도 AI로 진행했다. 구체적으로 오픈소스 플랫폼 깃허브(GitHub)에 공개된 틴더GPT를 활용해 데이팅 앱 내에서 실제 이용자와 100건 이상의 대화를 동시에 자동으로 이어갔다. 실험용 계정은 태국, 스페인, 포르투갈 등 여러 국가에서 생성됐지만 위치는 모두 '틴더 골드'를 통해 포르투갈로 변경됐다.
실험 기간 가짜 계정은 총 296명의 실제 틴더 이용자와 상호작용했다. 이 중 40명은 가짜 계정과 실제 데이트에 나서기로 합의했다.
가짜 계정과 소통한 이용자들은 포르투갈 리스본의 한 식당에서 실험 팀을 만났다. 해당 이용자들은 식당에서 실험 관련 설명을 듣고 팀에게 저녁 식사를 대접 받았다. 휴머니티 프로토콜 관계자는 "(현장에서) 실험을 통해 금전적·정서적 피해를 가할 의도가 전혀 없었고, 시스템 전반의 구조적 취약성을 조명하는 게 실험의 목적이었다고 설명했다"고 말했다.
테런스 곽(Terence Kwok) 휴머니티 프로토콜 설립자는 "이번 실험은 사람들을 속이기 위한 장난이 아니었다"고 강조했다. 그는 "(실험은) 우리가 일상적으로 의존하는 시스템에 대한 스트레스 테스트를 진행하고, AI가 개입될 경우 신뢰가 얼마나 쉽게 조성될 수 있는지 보여주기 위한 것"이라고 설명했다. 이어 "소규모 팀도 이런 실험을 할 수 있다면 악의적 의도를 가진 조직화된 세력이 어떤 일을 할 수 있을지 상상해보라"고 덧붙였다.
휴머니티 프로토콜은 이번 실험이 데이팅 앱을 넘어 기존 신원확인 시스템을 개선해야 할 필요성을 보여준다는 입장이다. 특히 기존 신원확인 시스템이 생성형 AI가 없는 시대를 전제로 설계된 만큼 한계가 명확해지고 있다는 설명이다. 휴머니티 프로토콜 측은 "사진 인증, 신분증 업로드 등만으로는 초현실적인 이미지와 음성, 행동을 만드는 AI 시대에 신원을 인증하는 데 한계가 있다"고 했다.
로맨스 스캠(연애 빙자 사기) 피해는 갈수록 늘고 있다. 미 연방거래위원회(FTC)에 따르면 4년 전인 지난 2022년 이미 미국 내 로맨스 스캠 피해액은 13억달러(약 1조 9000억원)를 넘어섰다. 전체 소비자 사기 유형 중 가장 큰 규모다.
휴머니티 프로토콜 측은 "AI의 역량이 가속화하며 무해한 실험과 대규모 사기 사이의 경계가 빠르게 흐려지고 있다"고 짚었다. 그러면서 "단순한 신원확인을 넘어 '인간성'을 증명할 수 있는 더 강력한 프레임워크가 없다면 디지털 플랫폼은 차세대 AI 기반 사기의 온상이 될 가능성이 높다"고 했다.
한경닷컴 뉴스룸 open@hankyung.com