카카오가 제22대 국회의원 선거를 앞두고 허위 조작 콘텐츠의 제작·유통을 근절하기 위한 기술적 조치를 마련했다. 인공지능(AI)으로 만든 이미지에 보이지 않는 워터마크를 넣고 AI로 생성된 기사는 별도 문구를 표기해 이용자들이 알 수 있도록 한다.
카카오는 13일 딥페이크 허위 조작 콘텐츠 방지 조치 등을 설명한 참고자료를 냈다. 카카오에 따르면 카카오브레인 이미지 생성형 모델 '칼로'에 보이지 않는 비가시성 워터마크가 이미 도입된 상태다.
비가시성 워터마크는 일반 사용자 눈에 보이지 않는 워터마크를 적용하는 기술이다. 이미지 훼손 없이도 칼로로 생성된 이미지라는 정보를 담을 수 있다. 사용자가 이미지 일부를 편집하더라도 비가시성 워터마크는 그대로 남는다.
카카오는 또 언론사가 AI로 생성한 기사의 경우 '자동생성 알고리즘에 의해 작성된 기사'라는 문구가 표기된다.
다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집페이지, 다음 채널 스튜디오 등을 통해 건전한 선거 문화 정착 캠페인도 진행 중이다.
카카오 나우 배너에서는 딥페이크의 악의적 이용에 유의하도록 안내하고 있다. 오픈채팅 탭에서는 딥페이크 근절 캠페인 배너 광고를 진행할 예정이다.
창작자나 이용자가 악의적인 딥페이크를 포함한 선거 관련 허위 콘텐츠를 발견할 경우 공지문 속 링크나 신고하기 팝업 등을 이용해 중앙선거관리위원회로 신고할 수 있다. 카카오 고객센터, 권리침해신고센터, 포털 다음 권리침해신고센터, 카카오의 안전한 디지털 세상 등에서도 신고 방법을 안내한다.
다음 곳곳에는 △허위사실·비방 게시물 신고 △오보·권리침해 신고 △불공정 기사 모음 △정정·반론·추후 보도 기사 등의 배너를 게시한다.
이용자 참여 공간에는 자정 캠페인과 처벌 조항을 함께 명시한다. 다음채널 스튜디오에서는 콘텐츠를 작성할 때 주의를 요청하는 캠페인을 진행한다.
카카오는 남은 선거 운동 기간에 악의적 딥페이크 등 허위·조작 콘텐츠가 유통되지 않도록 관계당국과 긴밀하게 협의해 나간다는 방침이다.
김대영 한경닷컴 기자 kdy@hankyung.com