개인정보보호위원회가 인공지능(AI) 챗봇 서비스 '이루다' 개발사 스캐터랩에 과징금 철퇴를 내린 것을 두고 "AI 사업이 위축될 것"이라는 업계 우려가 커지고 있다. 합리적인 AI의 개인정보 활용 기준이 없는 상태에서 지나치게 엄격한 잣대로 처벌했다는 이유에서다.
개인정보위는 28일 "스캐터랩이 이루다 서비스 과정에서 무분별하게 개인정보를 처리했다"며 1억330만원의 과징금·과태료 처분을 내렸다. 개인정보 가명 처리를 제대로 하지 않았고 개인정보를 수집한 목적을 벗어나 사용한 점 등을 '위법'이라고 판단했다.
개인정보를 상업적 목적으로 쓸 때는 개인의 동의를 받거나 개인을 특정할 수 있는 정보를 알아볼 수 없게 비식별화, 즉 가명 처리를 해야 한다. 개인정보 보호를 위해서다.
스캐터랩은 서비스 가입자의 개인정보와 가입자가 제공한 카카오톡 대화에 나온 개인정보를 가명화했지만 일부 이름, 전화번호, 계좌번호, 지명 이름 등은 가명 처리를 못했다. 이후 이루다 챗봇이 이용자와 대화를 할 때 카카오톡 대화를 원문 그대로 가져다 썼고, 이 과정에서 이름, 전화번호 등이 노출돼 버렸다. 개인정보위는 이를 개인정보 침해이며 위법이라고 봤다.
AI 업계 관계자는 이루다가 카카오톡 대화 원문을 그대로 쓴 부분 등은 잘못이라고 지적했다. 한 AI업체 대표는 "제대로 된 AI라면 대화 데이터를 학습한 뒤 '자신의 언어'로 말해야 한다"며 "앵무새처럼 대화를 그대로 갖다 쓰는 건 엄밀한 의미의 AI라 볼 수도 없고 문제가 될 소지가 많았다"고 말했다. "이루다가 AI 업계 전반에 폐를 끼쳤다"는 불만도 나왔다.
다만 정부 판단이 너무 엄격했다는 지적이 나왔다. 스캐터랩이 가명 처리를 못한 정보는 대부분 변형되거나 왜곡된 것이었다. 가령 지명인 'OO동'을 'OO봉'이라고 잘못 쓴 경우다. 이밖에 이름을 성을 빼고 두 자만 적었거나 전화번호를 숫자가 아닌 한글로 적은 것도 있었다. 스캐터랩은 "최대한 가명 처리를 하려고 했지만 예상치 못한 오탈자 등은 잡아내기 힘들었다"고 했다.
이에 대해 한 AI 개발자는 "기업이 가명 처리를 위해 최대한 노력했고 변형된 정보가 노출돼 직접적인 피해를 봤다는 사람이 없는 점은 참작해줬어야 한다고 본다"고 말했다. 이어 "스타트업에게 지나치게 엄격한 잣대를 들이댄 감이 있다"고 덧붙였다.
가명 처리를 어디까지 해야 하는지 불확실성이 커졌다는 의견도 나왔다. 개인정보위는 처분을 내리면서 "카카오톡 대화 등에도 개인을 알아볼 수 있는 정보가 있다면 가명 처리를 한 뒤 서비스에 활용해야 한다"고 판단을 내렸다. AI 업계 관계자는 "이름, 전화번호 등은 당연히 가명 처리한다 쳐도 개인정보로 볼 수 있는지 애매한 영역의 정보가 상당히 많다"고 말했다. 이어 "이런 부분에 대한 합리적인 기준이 없는 상태에서 '개인을 알아볼 수 있는 정보'가 조금도 있으면 안 된다고 하면 어쩌란 말이냐"라고 했다.
개인정보위 판단 범위는 아니었지만 AI의 '윤리' 문제도 두고두고 문제가 될 가능성이 높다. 이루다 챗봇은 대화 과정에서 장애인 비하 발언 등을 해서 윤리 문제가 불거졌다. 한 업계 관계자는 "장애인 비하 발언 등은 누가 봐도 잘못된 건 맞다"면서도 "사람이 그렇듯 AI도 나름의 주관과 편향을 가질 수밖에 없는데 그런 게 노출될 때마다 윤리에 문제가 있다는 지적이 제기될 소지가 있다"고 말했다. 그는 "AI의 윤리에 대해서도 나름의 기준이 마련될 필요가 있다"고 강조했다.
이런 불확실성은 AI 서비스 개발 위축으로 이어질 소지가 크다는 지적이다. 한 AI 업체 대표는 "우리 회사도 올 1월 이루다 사태가 터졌을 때 개발하던 AI 챗봇 서비스를 잠정 보류했다"며 "이번 처분으로 업계 전반적으로 AI 대화서비스 등 소비자와 직접 소통하는 서비스는 개발이 위축될 것"이라고 말했다.
개인정보위 관계자는 "업계의 불확실성을 해소하기 위해 AI 서비스를 위한 개인정보보호 가이드라인을 만들겠다"고 말했다.
서민준 기자