시민단체들이 인공지능(AI) 챗봇(채팅로봇) ‘이루다’ 사태와 관련해 “예정된 참사”였다며 “불법성이 나타나면 챗봇 모델과 알고리즘의 폐기가 마땅하다”고 주장했다. 앞서 스캐터랩은 자사 서비스인 ‘연애의 과학’ 등 앱에서 카카오톡 대화 내용을 수집해왔고 이를 자사 다른 서비스인 대화형 챗봇 ‘이루다’의 학습용 데이터로 이용한 것으로 드러났다.
13일 참여연대, 민주사회를위한변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터 등은 성명을 통해 “개인정보보호법에 따르면 해당 대화 내용 데이터 수집과 이용에 문제가 있다”며 “개인정보 수집과 처리 과정이 불법적인 것으로 드러나면 정보주체의 요청 없이도 해당 개인정보를 바탕으로 만들어진 챗봇 모델과 알고리즘의 폐기가 마땅하다”고 밝혔다.
이 단체들은 “연애의 과학 로그인 페이지에서 ‘로그인함으로써 개인정보 처리방침에 동의합니다’로 간주하는 것은 각각의 사항을 알리고 명시적으로 동의를 받도록 한 개인정보 보호법 제15조제2항 또는 제39조의3제1항 및 제22조 위반”이라며 “신규 서비스 개발과 마케팅·광고 활용이 앱 이용에 필요한 필수 정보가 아니라면 개인정보 수집·이용에 대해서는 이용자의 선택권을 보장해야 하기에 개인정보보호법 제16조제2항·제3항 또는 제39조의3제3항을 위반한다”고 설명했다.
단체들은 또 대화 상대방인 제3자에게 동의를 구하지 않은 점도 지적했다. 이들은 “개인정보보호법 제15조 또는 제39조의3제1항에 따라 마땅히 받아야 할 대화 상대방에 대한 동의 절차는 어디에도 없었다”며 “스캐터랩은 논란이 지속되자 서비스를 중지하고 사과의 뜻을 밝혔지만 대화 상대방의 동의 부존재에 대해선 한 마디 언급도 없었다”고 꼬집었다.
이들은 대화 내용에 포함된 민감 정보도 문제라고 설명했다. 이들은 “자신의 사상, 신념, 정치적 견해, 건강상태, 성생활에 대한 정보, 인종과 민족에 대한 정보 등은 민감정보이며 숫자 뿐 아니라 한글과 이미지 등 다른 형태로 표시된 여권번호, 운전면허번호, 외국인등록번호도 고유식별정보”라며 “민감정보와 고유식별정보는 정보주체의 명시적인 동의나 법령상 허용조항 없이는 누구도 수집하거나 이용할 수 없는데 스캐터랩은 이에 대한 별도 동의를 받지 않아 개인정보보호법 제23조제1항 및 제24조제1항 위반”이라고 전했다.
이들은 “개인정보들을 언제 누구에게 어느 범위까지 알려지고 또 이용되도록 할 것인지를 그 정보주체가 스스로 결정할 수 있는 권리는 우리 헌법에서 보호하고 있는 기본권”이라며 “지금이라도 가입자 뿐 아니라 자신의 대화가 수집이용된 모든 정보주체의 열람 및 삭제 권리는 완전하게 행사될 수 있어야 한다”고 했다. 이어 “미국 연방거래위원회(FTC)는 불법적으로 사진을 수집해 얼굴인식 알고리즘 훈련용 데이터로 이용한 기업에게 해당 모델과 알고리즘을 삭제하라는 명령을 내렸다”고 했다. 이어 “AI 기술을 사회적으로 통제하기 위한 현실적인 법이 필요하다”고 덧붙였다.
이 단체들은 개인정보보호위원회에 대한 의견, 민원 뿐 아니라 국가인권위원회 등 관련 부처에 대한 민원, 관련 소송 등으로 계속해 ‘이루다’ 사안에 공동 대응할 예정이다.
김남영 기자 nykim@hankyung.com
