일부 남초 커뮤니트를 중심으로 성희롱 방법이 공유되면서 논란이 일고 있는 인공지능(AI) 챗봇 '이루다'를 두고 이번엔 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 제기됐다.
11일 IT업계에 따르면 이루다 개발사인 스타트업 스캐터랩이 2016년 출시한 다른 앱 '연애의 과학'(연과) 이용자들은 현재 "개인정보가 유출됐다"고 목소리를 높이는 중이다.
연애의 과학은 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2천∼5천원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다.
실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다.
스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 이루다는 바로 이 연애의 과학 앱에 이용자들이 집어넣은 카톡 대화를 데이터 삼아 개발됐다. 스캐터랩 측은 대화 양이 약 100억건에 달한다고 밝힌 바 있다.
이루다는 출시 직후 지금까지 출시된 어느 챗봇보다도 자연스러운 말투로 주목받았는데, 실제 연인의 대화를 기반으로 했기에 가능했던 것이었다.
연애의 과학 이용자들은 앱 이용 당시 '신규 서비스 개발에 활용될 수 있다'는 정도만 고지 받았을 뿐 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다.
한 이용자는 "대다수 유저는 '신규 서비스 개발'이 연애의 과학 앱 내에 있는 심리테스트 등 콘텐츠 개발을 가리키는 줄 알았지, 여성 AI 챗봇 대화에 쓰일 줄은 생각하지 못했다"고 말했다.
이 이용자는 "카톡은 2명이 나누는 것인데, 연애의 과학 앱에 카톡 대화를 집어넣을 때 상대방 동의는 구하지 않는다"며 "사적인 대화가 악성 이용자들에게 성희롱 소재로 쓰인다니 소름이 끼친다"고 목소리를 높였다.
현재 이루다에서는 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례가 발견되고 있다.
이름 같은 경우 '○.○.○'처럼 중간에 특수기호를 넣어 쓰거나 '난○○○끝인데'처럼 다른 단어와 붙여 쓴 경우가 발견된다.
이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다.
일부 이용자들은 "이루다에 옛날 애인 애칭을 집어넣었더니 이루다가 애인 말투로 말했다", "이루다에 애인 이름을 입력했더니 실제 다른 친구의 이름을 언급했다" 등의 사례도 전했다.
연애의 과학 이용자들은 오픈채팅방을 만들어 "집단 소송을 준비하자"며 자료를 수집하고 있다.
논란이 커지자 스캐터랩 측은 연애의 과학 앱 내 공지에서 "데이터에서 개인을 특정할 수 있는 정보는 알고리즘을 통해 제거했다"며 "추가 알고리즘 업데이트로 강화해나가고 있다"고 해명했다.
그러면서 스캐터랩 측은 "데이터가 학습에 사용되는 것을 더는 원하지 않으시면 데이터를 삭제하실 수 있다"고 알렸는데, 이를 두고도 이용자들은 "증거를 인멸하라는 것 아니냐"며 의혹을 제기하고 있다.
공동소송 플랫폼 '화난사람들' 최초롱 대표는 "이용자들이 우선 사실관계를 조사할 수 있는 수사·조사 기관에 신고해서 실제 개인정보 유출이 있었는지 확인해야 할 것으로 보인다"며 "기관의 개입이 필요해 보인다"고 말했다.
AI 이루다 (사진=연합뉴스)