미국 조지아주 애틀랜타에 사는 드루 크레센트는 지난 2일 구글 알림을 보고 경악했다.
18년 전 참혹하게 살해당한 딸 제니퍼의 이름과 사진을 도용한 인공지능(AI) 챗봇이 등장해서다.
이 챗봇은 AI 스타트업 '캐릭터.ai'(Character.ai) 웹사이트에 공개됐다. 누군가 제니퍼의 실명과 생전 찍은 졸업사진을 무단으로 복제해 만든 것이다.
이 챗봇은 고인인 제니퍼를 '비디오게임 저널리스트이자 기술, 대중문화, 저널리즘 전문가'인 AI 캐릭터로 표현했으며 불특정 다수와 대화를 나눌 수 있도록 설정된 상태였다.
15일(현지시간) 미 일간 워싱턴포스트(WP)는 대화형 AI가 확산하며 실존 인물의 신상을 무단 도용하는 사례가 속출하고 있다고 보도했다.
제니퍼는 18세였던 지난 2006년 2월 전 남자친구의 총에 맞아 숨진 채 발견됐고, 크레센트는 이 사건을 계기로 청소년 데이트 범죄 예방 단체를 설립해 활동해왔다.
캐릭터 측은 제니퍼 유족들의 신고를 받아 삭제 등의 조치를 내렸다고 밝혔다.
구글 출신들이 공동 설립한 회사인 캐릭터.ai는 실제 인물뿐 아니라 만화 속 인물 등과 대화할 수 있는 AI 챗봇 기술을 제공한다. 이용자는 직접 사진이나 음성 녹음, 짧은 글을 올려 챗봇을 만들 수도 있다.
제니퍼의 경우처럼 범죄 피해자를 챗봇으로 무단 도용해 당사자나 유족들에게 더 큰 충격과 피해를 줄 수 있다.
방대한 양의 민감한 개인 정보를 다루는 AI 업계가 개인을 보호할 능력과 의지가 있는지 전문가 사이에서 우려가 커진다고 WP는 전했다.
(사진=연합뉴스)
