돌아가신 할머니가 동화책을?…섬뜩한 아마존 AI 신기능

아마존이 숨진 가족의 목소리를 되살리는 인공지능(AI) 음성인식 기능을 공개해 논란이 일고 있다.

23일(현지시간) 워싱턴포스트(WP)는 전날 아마존이 미국 라스베이거스에서 열린 컨퍼런스 콜에서 1분 미만의 음성 샘플만 있으면 특정 인물의 목소리를 그대로 복제해 재현해낼 수 있는 기능을 공개했다며 이에 대해 보도했다.

새 기능의 이름은 알렉사로, 아마존은 이날 행사에서 시연 동영상을 공개했다.

영상에서는 한 어린이가 알렉사를 향해 할머니의 목소리로 오즈의 마법사 책을 읽어달라고 요청하자 알렉사가 할머니 음성으로 전환해 책을 읽었다.

논란이 된 대목은 알렉사가 세상을 떠난 사람의 목소리까지 복제해 흉내낼 수 있다는 것.

로히트 프라사드 수석부사장은 알렉사에 공감이라는 인간적 속성을 더 부여한 것이라며 "이런 속성은 신종 코로나바이러스 감염증(코로나19) 기간 더 중요해졌다. AI가 코로나19로 사랑하는 가족을 잃은 고통을 없애주지는 못하지만, 그들에 대한 기억을 오래 지속시킬 수 있다"고 말했다.

하지만 WP는 오히려 이러한 기능이 윤리적 문제, 사망자의 개인정보 권한을 둘러싼 논란 등을 야기한다고 지적했다.

온라인 보안업체 소셜프루프시큐리티의 레이철 토백 최고경영자(CEO)는 "사이버 범죄자가 음성 샘플을 사용해 다른 사람 목소리를 복제해낸다면 이는 사기와 데이터 탈취, 계정 도용 등으로 이어질 수 있다"고 우려했다.

호주 커틴대학의 타마 리버 인터넷학 교수 또한 "죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적"이라고 비판하며 "만약 내 할아버지가 100개의 음성 메시지를 나에게 보낸다면 그 데이터는 누가 갖는가. 아마존이 소유하고 나는 그 데이터에 대한 권리를 포기하게 되는가"라며 사망자의 개인정보 권한에 대한 허점을 지적했다.

김수영 한경닷컴 기자 swimmingk@hankyung.com