전 세계 모바일 앱 매출 1위인 틱톡이 추천 알고리즘을 공개했다. 인공지능(AI)으로 유해 콘텐츠가 공개되기 전에 차단하는 기술도 선보였다.
추천 영상으로 맞춤형 콘텐츠 제공
지난 6일 틱톡은 한국경제신문 등 3개 국내 언론사에 최초로 ‘틱톡 싱가포르 투명성 및 책임 센터(TAC)’를 소개했다. 이 시설은 틱톡이 플랫폼 관리 과정을 알리기 위해 마련됐다. 틱톡은 중국 IT업체인 바이트댄스가 2016년 출시한 숏폼 영상 플랫폼이다. 월간활성이용자(MAU)가 세계적으로 16억 명이 넘는다.틱톡의 핵심 경쟁력은 다른 이용자가 올린 영상을 보여주는 ‘추천’ 탭이다. 이 탭에서 이용자는 영상을 순차적으로 하나씩 보게 된다. 하지만 틱톡이 실제론 8개씩 묶어 놓은 영상이다. 이 묶음에서 생성된 데이터를 반영해 틱톡은 새로운 묶음을 계속 제공한다. 틱톡 TAC 관계자는 “시청 시간, 좋아요 클릭, 즐겨찾기 등의 이용자 데이터를 반영해 시청자 취향에 더 가까운 영상 묶음을 개별로 계속 제공한다”고 설명했다.
이 알고리즘의 묘수는 다음 단계다. 영상 묶음이 이용자 취향에 맞춰가다 보면 특정 내용에 편향된 콘텐츠가 나올 가능성이 커진다. 이용자 입맛에 맞추느라 유행하는 콘텐츠가 빠질 수도 있다. 추천 기능이 독이 되는 순간이다. 이 문제를 해결하기 위해 틱톡이 취향 적중률 기준으로 정한 값이 ‘60%’다. 취향 적중 콘텐츠와 그렇지 않은 콘텐츠의 비율을 6 대 4로 맞췄다는 얘기다.
AI로 음주·흡연 영상 차단
6 대 4의 황금비는 숏폼 경쟁에서 틱톡을 업계 정상에 서게 한 비결이 됐다. 미국에서만 틱톡 MAU가 1억7000만 명에 달한다. 미국 하원 에너지상무위원회는 지난 7일 바이트댄스가 틱톡을 매각하기 전까지 미국 앱 시장에서 틱톡 공급을 금지하는 법안을 통과시켰다. 중국이 틱톡 이용자 정보를 여론전에 활용해 국가 안보를 위협할 수 있다는 우려에서 나온 조치다. 가짜뉴스도 골칫거리다. 지난달 윤석열 대통령의 연설 장면을 짜깁기한 영상이 틱톡에 퍼지자 경찰이 수사에 들어갔다.틱톡은 플랫폼의 신뢰도를 높이기 위해 AI 활용을 확대하고 있다. 영상 공개 전에 폭력, 음주, 흡연, 극단주의 등 4개 영역으로 나눠 AI로 유해성 여부를 판별한다. 틱톡 싱가포르 TAC에 마련된 영상 촬영용 사이니지 앞에서 기자가 담배를 입에 대는 시늉을 하자 유해성 수치가 2%에서 98%로 급등했다. 이런 방식으로 유해 콘텐츠 중 65%가 AI로 걸러진다. 나머지 유해 콘텐츠는 4만 명의 직원이 국가별로 찾아낸다.
다만 AI로 영상을 조작하는 딥페이크 기술을 가려내는 데는 시일이 걸릴 전망이다. 틱톡은 자체 기능으로 생성 AI 콘텐츠가 만들어진 경우엔 AI 제작 표식을 붙이고 있다. 틱톡 관계자는 “외부 도구로 만든 AI 영상을 식별해 표식을 부착하는 기능도 개발하고 있다”고 설명했다.
싱가포르=이주현 기자 deep@hankyung.com
