정보 주체 동의 없이 개인 정보를 무단으로 수집한 인공지능 챗봇 '이루다' 개발사에 정부가 1억 원가량의 과징금을 부과했다. 이는 AI 기술 기업의 개인 정보 처리에 대한 첫 제재 사례다.
28일 개인정보보호위원회는 제7회 전체회의를 열고 이루다를 개발한 스캐터랩에 과징금 5,550만 원과 과태료 4,780만 원 등 총 1억 330만 원을 부과하기로 결정했다.
개보위는 스캐터랩이 자사 앱 서비스인 '텍스트앳'과 '연애의 과학'에서 수집한 이용자 60만 명의 카카오톡 대화 문장 94억 건을 챗봇 서비스 이루다 개발에 활용하는 과정에서 제대로 된 동의를 받지 않은 것으로 판단했다.
해당 과정에서 스캐터랩은 카카오톡 대화에 포함된 이름, 휴대전화 번호, 주소 등 개인 정보를 삭제하거나 암호화하는 조치를 전혀 하지 않은 것으로 드러났다.
또한 이루다 운영 과정에서 20대 여성의 카카오톡 대화 문장 약 1억 건을 응답 DB로 구축하고 이루다가 이 가운데 한 문장을 선택해 답변하도록 운영했다.
이에 개보위는 스캐터랩이 텍스트앳과 연애의 과학 개인정보처리방침에 '신규 서비스 개발' 문구를 포함했으나 이용자가 AI챗봇 서비스 개발에도 동의했다고 보기 어려울 뿐만 아니라 개인 정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입혔다고 지적했다.
아울러 스캐터랩이 오픈소스 플랫폼 '깃허브'에 카카오톡 대화 문장 1,431건과 AI 모델을 게시한 것도 개인정보보호법 위반으로 판단했다.
뿐만 아니라 법정대리인 동의 없이 14세 미만 아동의 개인 정보를 수집한 행위, 성생활 등에 관한 정보 처리 시 별도 동의를 받지 않은 행위 등에 대해서도 모두 법 위반으로 결론지었다.