인공지능(AI) 챗봇 클로드의 개발사인 앤트로픽이 자사 AI가 생성한 문장에 육안으로 보이지 않는 워터마크를 삽입하기로 했다.
ADVERTISEMENT
앤트로픽은 11일(현지시간) 자사 AI 모델이 출력한 텍스트 결과물에 기계 판독이 가능한 투명성 표시 기술을 적용하고 있다고 발표했다. 이번 조치는 지난 2일 공식 발효된 유럽연합(EU)의 AI 법안을 준수하기 위해 이뤄졌다.
앞서 구글 역시 자체 디지털 워터마크 기술인 '신스ID'를 선보이며 AI 생성물에 적용해왔다.
ADVERTISEMENT
앤트로픽은 법 시행 이후 선보인 클로드 모델의 결과물에는 이미 해당 워터마크가 적용된 상태이며, 기존에 선보인 모델들 역시 단계적으로 기능을 이식하고 있다고 밝혔다. 그러면서 워터마크를 삽입하더라도 답변의 맥락이나 품질, 읽기 쉬운 정도에는 아무런 영향이 없다고 강조했다.
워터마크는 문장 자체에 결합하는 방식이어서 다른 문서로 복사해 붙여넣거나 일부 문구를 수정해도 소멸하지 않고 유지된다. 다만 분량이 지나치게 짧거나 사용자가 AI 생성 문장을 대폭 재작성·번역한 상황에서는 탐지가 어려울 수 있다.
또한 워터마크의 존재가 해당 텍스트의 원작자가 클로드임을 보증하는 게 아니라고 밝혔다. 이용자가 직접 작성한 글을 클로드가 번역, 요약하거나 수정하는 경우에도 워터마크가 표기될 수 있기 때문이다.
앤트로픽은 문장 외에도 이미지나 파일 형태의 생성물에 출처 정보를 담은 메타데이터를 결합하고 있다. 이 같은 투명성 기준은 EU 지역에 국한하지 않고 클로드가 제공되는 전 세계 서비스에 공통 적용한다는 계획이다.
ADVERTISEMENT
그렇지만 앤트로픽은 해당 워터마크를 판독하는 전용 탐지 도구는 아직 외부에 선보이지 않았다.
김소연 한경닷컴 기자 sue123@hankyung.com
ADVERTISEMENT
ADVERTISEMENT