미국 조지아주 애틀랜타에 사는 드루 크레센트는 지난 2일 구글 알림을 보고 경악했다.
ADVERTISEMENT
18년 전 참혹하게 살해당한 딸 제니퍼의 이름과 사진을 도용한 인공지능(AI) 챗봇이 등장해서다.
이 챗봇은 AI 스타트업 '캐릭터.ai'(Character.ai) 웹사이트에 공개됐다. 누군가 제니퍼의 실명과 생전 찍은 졸업사진을 무단으로 복제해 만든 것이다.
ADVERTISEMENT
이 챗봇은 고인인 제니퍼를 '비디오게임 저널리스트이자 기술, 대중문화, 저널리즘 전문가'인 AI 캐릭터로 표현했으며 불특정 다수와 대화를 나눌 수 있도록 설정된 상태였다.
15일(현지시간) 미 일간 워싱턴포스트(WP)는 대화형 AI가 확산하며 실존 인물의 신상을 무단 도용하는 사례가 속출하고 있다고 보도했다.
ADVERTISEMENT
제니퍼는 18세였던 지난 2006년 2월 전 남자친구의 총에 맞아 숨진 채 발견됐고, 크레센트는 이 사건을 계기로 청소년 데이트 범죄 예방 단체를 설립해 활동해왔다.
캐릭터 측은 제니퍼 유족들의 신고를 받아 삭제 등의 조치를 내렸다고 밝혔다.
ADVERTISEMENT
구글 출신들이 공동 설립한 회사인 캐릭터.ai는 실제 인물뿐 아니라 만화 속 인물 등과 대화할 수 있는 AI 챗봇 기술을 제공한다. 이용자는 직접 사진이나 음성 녹음, 짧은 글을 올려 챗봇을 만들 수도 있다.
제니퍼의 경우처럼 범죄 피해자를 챗봇으로 무단 도용해 당사자나 유족들에게 더 큰 충격과 피해를 줄 수 있다.
ADVERTISEMENT
방대한 양의 민감한 개인 정보를 다루는 AI 업계가 개인을 보호할 능력과 의지가 있는지 전문가 사이에서 우려가 커진다고 WP는 전했다.
(사진=연합뉴스)
ADVERTISEMENT