오픈AI가 사람의 음성과 동일한 모방 음성을 생성하는 인공지능(AI) 도구 '보이스 엔진'(Voice Engine)을 공개했다.
오픈AI는 29일(현지시간) 자사 블로그에 보이스 엔진의 사전 실험 결과를 공개하며 15초 분량의 음성 샘플만 있으면 보이스 엔진을 이용해 원래 화자의 목소리와 비슷한 음성을 만들어 낼 수 있다고 밝혔다.
오픈AI는 2022년 말 보이스 엔진을 처음 개발했으며, 이를 챗GPT의 음성인식·읽어주기 기능과 텍스트-음성 변환 API(응용프로그램 인터페이스)에서 쓰이는 음성 기능 강화에 사용했다고 설명했다.
오픈AI가 공개한 실제 사람의 음성 샘플과 보이스 엔진으로 생성한 음성은 거의 구분이 어려울 정도로 흡사했다.
오픈AI는 이 도구를 어린이 교육을 위한 음성 해설 콘텐츠나 실시간 개인 맞춤형 응답 생성 기능, 동영상과 팟캐스트 같은 콘텐츠를 여러 언어로 번역해 전 세계적으로 서비스하는 사례 등에 활용할 수 있다고 전했다.
오픈AI는 이날 언어별 번역본 생성 음성도 공개했는데 화자의 기존 모국어 음성과 비슷하게 들렸다.
언어 기능에 영향을 주는 질환을 앓는 환자들을 위한 치료 애플리케이션이나 장애인을 위한 소통 기기에 지원된 사례도 있다고 오픈AI는 덧붙였다.
하지만 오픈AI는 "인조 음성 기능의 오용 가능성 때문에 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다"며 "현재로서는 이 기술을 미리 보여주기(preview)만 하되 널리 출시하지는 않기로 했다"고 밝혔다.
선거가 있는 해에 사람의 목소리를 닮은 음성을 생성하는 것이 심각한 위험을 야기할 수 있다는 것이다.
또 "현재 보이스 엔진을 테스트 중인 파트너들은 당사자의 동의나 법적 권리 없이 개인이나 단체를 사칭하는 것을 금지하는 사용 정책에 동의했다"며 "보이스 엔진에서 생성된 모든 음성의 출처를 추적하기 위한 워터마킹 등 일련의 안전 조치를 구현했다"고 밝혔다.
앞서 지난 1월 미국 뉴햄프셔주 프라이머리(예비경선) 하루 전날 조 바이든 대통령을 사칭한 가짜 전화가 주민들에게 걸려 와 투표 거부를 독려해 음성 조작의 위험성을 환기하기도 했다.
(사진=연합뉴스)