카카오가 AI 기반 댓글 필터링 기능을 도입한 이후 욕설·비속어가 포함된 댓글 비중이 3분의 1로 줄었다고 밝혔다.
카카오는 지난 2020년 하반기 AI 필터링 기술 '세이프봇'을 도입한 이후 욕설 댓글의 수가 63.8% 줄었다고 설명했다.
세이프봇은 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료하는 기술이다.
이처럼 세이프봇이 자동으로 욕설 댓글의 신고 처리까지 완료하기 때문에 이용자가 신고한 댓글 비중은 도입 이전 4.2%에서 올해 2.4%로 낮아졌다. 특히 이용자의 신고에 의해 삭제된 욕설 댓글도 올해 91.7% 줄어든 것으로 파악됐다.
카카오는 증오발언을 판별하는 학습 데이터를 구축하고, 내년 상반기에 세이프봇에 적용하는 등 성능을 더욱 강화하겠다는 방침이다.
김종한 카카오 다음사업개발실장은 "카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다"며 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화에 노력할 것"이라고 말했다.