지구 표면을 항공사진과 위성사진으로 보여주는 서비스 '구글 어스'가 인공지능(AI) 이미지 편집 기능을 도입한 지 하루 만에 이를 철회했다.
알파벳의 자회사 구글은 지난 30일(현지시간) 자사 AI 이미지 생성 도구 '나노 바나나 2'를 구글 어스에 통합해 제공한다고 발표했다. 사용자가 구글 어스의 위성·항공·3D 지도 데이터를 바탕으로 특정 위치를 확대하면 몇 초 만에 새로운 이미지를 만들 수 있는 기능이었다.
하지만 발표 직후부터 공개출처정보(OSINT) 전문가들과 허위정보 연구자들의 반발이 거셌다. 실제 지형·건물 이미지 위에 그럴듯한 가짜 장면을 덧씌울 수 있어, 사실확인 작업 자체를 무력화할 수 있다는 우려에서다. 전쟁 지역이나 접근이 제한된 현장의 피해 상황, 군사시설, 재난 현장 등을 확인할 때 언론인과 연구자들이 구글 어스를 기준 자료로 삼아온 만큼 파장은 컸다.
우려는 곧 사례로 확인됐다. 영국 파이낸셜타임스(FT)에 따르면 이 기능으로 만든 가자지구 폭탄 분화구, 이란 핵시설, 암스테르담 거리 자동차 사고 장면 등의 가짜 이미지가 소셜미디어 X에 올라왔다. AFP통신도 자체 시험에서 파리 폭발과 이란 핵시설, 러시아의 폭탄 분화구, 시리아의 이슬람국가(IS) 훈련장 등 국제적으로 민감한 사안을 연상시키는 가짜 위성 이미지를 만드는 데 성공했다고 전했다.
결국 구글은 기능 도입 후 24시간이 채 지나기 전인 31일 통합을 철회했다. 호로위츠 PM은 "우리는 믿을만한 방식으로 세계를 보여주는 구글 어스에 사람들이 품고 있는 독보적 신뢰를 알고 있다"며 "지리공간 전문가들이 이 기능을 다양한 유용한 목적으로 사용하는 것을 봤지만, 우리 정책을 위반하는 것으로 보이는 생성 이미지의 스크린샷을 사람들이 공유하는 것도 봤다"고 밝혔다. 그는 "더 강력한 안전장치를 구현하는 동안 구글 어스에서 이 기능을 롤백(되돌림)하겠다"고 덧붙였다.
구글 측은 AI로 생성한 이미지가 다른 이용자들이 보는 기본 화면에는 표시되지 않았고, 생성 이미지에는 AI로 만들어졌다는 워터마크도 붙였다고 해명했다. 그럼에도 전문가들은 이 정도로는 부족하다고 본다. 앨런 튜링 연구소의 샘 스톡웰 선임연구원은 FT에 "구글 어스는 수십년간 언론인들과 조사관들이 의심스러운 이미지를 대조해 확인하는 기준 레이어 역할을 해왔다"며 "그 기준물 안에 생성형 도구를 넣는 것은 가짜를 폭로하는 데 쓰이는 잣대를 오염시키는 일"이라고 지적했다.