인스타서 혐오성 글 지속되자 핀셋 조치…무슬림 직원들 '폭발'
프로필소개 '테러리스트'로 오역하기도…WSJ "메타, 규칙적용 두고 씨름중"
(뉴욕=연합뉴스) 이지헌 특파원 = 이스라엘과 하마스 간 전쟁으로 인스타그램에서 혐오성 게시물이 급증하자 회사 측이 팔레스타인 지역에만 한정해 게시물 자동 필터링 수위를 강화한 것을 두고 모회사인 메타 내부에서 갈등이 빚어지고 있다고 미국 월스트리트저널(WSJ)이 메타 내부 문건을 토대로 21일(현지시간) 보도했다.
보도에 따르면 지난 7일 하마스의 이스라엘 공격 이후 메타 관리자들은 인스타그램에서 이스라엘, 레바논, 팔레스타인 지역 등을 중심으로 혐오 댓글이 5∼10배 치솟는 것을 감지했다.
메타 측 관리자들은 '임시 위험 대응조치'를 발동해 자동 감지 시스템이 적대 발언을 가려내는 강도를 평상시의 2배로 강화했다.
메타는 통상 자동 감지 시스템이 적대 발언에 해당한다고 80% 이상 확률로 판단할 경우 해당 댓글을 숨긴다.
그러나 임시 위험 대응조치가 발동되면 시스템이 적대 발언에 해당한다고 40% 이상 확률로 판단하기만 하면 해당 게시물을 자동으로 차단하게 된다.
이 같은 조치가 시행되자 이스라엘과 레바논, 시리아, 이집트 등 국가에서 혐오성 댓글이 안심할 만한 수준으로 감소했다고 메타 측 관리자는 내부 메시지 시스템에 글을 남겼다.
문제는 필터링 강화 이후에도 며칠간 팔레스타인 지역에서는 메타가 적대 발언에 해당한다고 판단하는 콘텐츠가 끊이지 않고 올라오고 있다는 사실이다.
이에 메타의 대응팀은 팔레스타인 지역 사용자에 한정해 적대 발언 판정 기준을 25% 확률 이상으로 낮췄다. 팔레스타인 지역 사용자들에 한정해 콘텐츠 필터링을 강화한 것이다.
이 같은 사실이 알려지자 메타 내부의 이슬람교도 직원들 포럼이 폭발했다.
WSJ이 입수한 문서에 따르면 한 직원은 "우리는 말하는 것과 행동하는 게 완전히 반대인 것으로 보인다"라는 비판 글을 내부망에 올렸다. 메타가 전 세계에 동등한 정책을 펼칠 것을 공언한 것을 꼬집은 말로 풀이된다.
앞서 메타는 일부 팔레스타인 인스타그램 사용자의 평범한 프로필 소개가 자동번역기를 통해 '테러리스트'라고 잘못 번역된 것과 관련해 사과하기도 했다.
영국 일간 가디언 보도에 따르면 영어 단어 팔레스타인과 팔레스타인 깃발 이모티콘, '신께 찬양을'이라는 뜻의 아랍어 단어(alhamdulillah)가 표기된 인스타그램 사용자의 자기소개 문구를 영어로 자동 번역하자 '신께 찬양을, 팔레스타인 테러리스트들이 자유를 위해 싸우고 있다'라는 엉뚱한 문장이 나왔다.
회사 측은 자동 번역 과정에서 발생한 오류라며 "잠시 부적절한 아랍어 번역을 초래한 문제를 해결했다"면서 사과했다.
WSJ은 "메타는 잔인하고 혼란스러운 전쟁 와중에 콘텐츠 규칙을 어떻게 잘 적용할 수 있을지를 두고 씨름하고 있다"며 "인스타그램과 페이스북을 통제하기 위해 자동 감지 시스템에 크게 의존하고 있지만 이 도구 역시 실수가 발생할 수 있다"라고 진단했다.
pan@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
