지난 10일 A씨는 전 연인으로부터 연락을 받았다. 스캐터랩의 ‘연애의 과학’ 서비스를 이용하면서 A씨와 한 카카오톡 대화 내용을 제공했는데, 이 회사의 인공지능(AI) 챗봇(채팅로봇) ‘이루다’가 말하는 내용에 A씨가 작성한 메시지도 포함돼 있을 가능성이 있다고 했다. 연애의 과학은 이용자의 카카오톡 대화 내용을 분석해 연애 조언을 해주는 서비스다.
이루다는 연애의 과학에서 받은 100억 건의 카톡 메시지로 학습한 것으로 알려져 있다. A씨는 “서비스를 이용하지 않고, 동의하지도 않았는데 내 사생활이 AI 개발에 쓰였다는 것에 화가 난다”며 “법적 대응도 고려하고 있다”고 말했다.
과거 개인정보 유출 문제는 주로 서비스업체와 가입자 간 발생했다. 최근엔 다양한 AI 서비스가 등장하면서 A씨처럼 서비스를 이용하지 않는 제3자의 정보 유출 문제도 빈발하고 있다. 실제 스캐터랩 등 AI 업체들은 광범한 데이터를 수집하면서 제3자에 대해서는 정보 수집에 대한 동의를 받거나 고지하지 않는 것으로 나타났다. AI를 이용해 전화 내용을 문자로 바꿔주는 서비스를 제공하는 비토의 관계자는 “전화 상대방에게 서비스 이용이 이뤄지고 있음을 고지하지 않는다”며 “정보를 제공했다는 것을 알게 되더라도 제3자가 삭제 요청을 하긴 어렵다”고 했다. 네이버의 AI 음성기록 서비스 ‘클로바노트’도 대화 녹음 서비스를 할 때 상대방의 동의를 구하는 절차가 없다.
AI 기업들의 이런 정보 수집 방식은 개인정보 자기결정권을 침해하는 것으로 법위반 소지가 있다는 게 법조계의 시각이다. 김보라미 변호사는 “제3자의 대화 정보도 개인정보보호법 20조에 따라 정보 주체의 요구가 있으면 개인정보의 수집 출처, 개인정보의 처리 목적을 알려줘야 한다”며 “스캐터랩도 개인정보처리자가 개인정보의 처리 목적을 명확하게 해야 하고, 그 목적에 필요한 범위에서 최소한의 개인정보만을 적법하게 수집해야 한다는 개인정보보호법 제3조 제22조를 위반한 것으로 보인다”고 설명했다.
한편 이루다가 고객의 구체적인 동의 없이 제공된 카톡 내용을 학습한 데 대해 논란이 커지자 정부가 조사에 나섰다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 카톡 대화 내용 취득 경위를 조사해 문제가 발견되면 시정 조치를 하겠다고 밝혔다. 스캐터랩은 11일 오후 “이루다 서비스를 12일부터 일시 중단하겠다”고 발표했다.
김남영/이시은 기자 nykim@hankyung.com