네이버, 악플 증가 감지…언론사에 알린다

입력 2023-07-14 10:13


네이버가 악플(악성 댓글) 활동이 증가하는 기사에 대한 알림을 언론사에 신속하게 제공하는 서비스를 도입했다.

14일 정보기술(IT) 업계에 따르면 네이버는 전날부터 악성 댓글 활동이 증가하는 기사에 대해 언론사가 빠르게 인지해 대응할 수 있게 하는 '클린봇 옵서버' 서비스를 시범 적용하고, 이날 이런 내용의 안내 메일을 제휴사에 발송했다.

클린봇 기술에 기반한 클린봇 옵서버는 일정 횟수 이상의 악성 댓글 작성 시도가 있는 기사에서 비율을 계산해 감지 대상 기사를 자동으로 선별한다.

감지된 기사 목록은 각 언론사가 댓글 관리 기사별 메뉴에서 확인할 수 있으며 댓글 제공 중단이 필요하다고 판단되면 즉각 중단 설정할 수 있다. 클린봇 옵서버는 감지 목록만 제공할 뿐 직접적으로 댓글을 중단할 수 있는 기능은 없다.

네이버뉴스는 각 언론사가 기사의 댓글 제공 방식을 직접 선택할 수 있도록 '댓글 언론사별 선택제'를 2018년 10월부터 운영해오고 있다.

2021년 8월에는 개별 기사 단위로 설정이 가능하도록 '기사별 댓글 제공 중단' 기능을 추가했고, 지난 5월에는 여러 건의 기사를 한 번에 제공 중단 설정하는 기능과 이력 조회 기능을 반영했다.

언론사별로 현재도 댓글 제공 중단 설정 기능을 활용하고 있지만, 별도의 신고가 있기 전에 인지하기 어려운 측면이 있었다.

네이버는 더욱 적극적으로 악성 댓글을 관리하려는 언론사들의 의견을 수렴해 이번 개선 사항을 담은 후속 서비스를 내놓은 것이다.

회사는 향후 댓글이 중단된 기사의 패턴을 파악해 언론사 설정에 따라 선제적으로 댓글 제공 중단이 가능하게 하는 등의 기술 고도화에도 나설 방침이다.

네이버는 2019년 업계 최초로 인공지능(AI) 기반으로 악성 댓글을 탐지하는 'AI 클린봇'을 선보인 이래 지속해서 서비스 고도화를 진행 중이다.

욕설 단어에서 문장 맥락까지 고려하는 것은 물론 무례한 표현, 차별, 비하, 혐오 표현 등도 걸러내는 등 꾸준히 기술 업데이트를 단행했다.

지난달에는 운영 규정에 따라 댓글 이용 제한된 사용자의 프로필에 이용 제한임을 표시하는 등 다양한 댓글 정책 변화를 시도했다.

또 네이버는 이용 제한 상태를 풀려면 퀴즈를 풀어야 하는 등의 악플 근절 정책도 조만간 추가 반영할 계획이다.