못믿을 얼굴인식 기술…美캘리포니아 주의원 26명 범죄자로 지목
아마존은 반박 "일부러 신뢰 기준 낮춰 실험…최종판단 사람이 해야"
(샌프란시스코=연합뉴스) 정성호 특파원 = 미국 캘리포니아 주의회 의원들의 사진을 얼굴인식 프로그램에 넣어 돌린 결과 26명이 범죄자로 지목됐다고 CNN 방송이 14일(현지시간) 보도했다.
이번 실험은 시민단체 미국시민자유연맹(ACLU)이 수행한 것이다. 실험에서는 캘리포니아 주의회 의원 전원의 사진을 경찰 데이터베이스에 있는 범죄자 2만5천 명의 얼굴 사진과 대조했다.
그 결과 26명이 범죄자로 잘못 판정됐다. 캘리포니아 주의회에는 80명의 의원이 있는데 무려 32.5%가 엉뚱하게도 범죄자로 몰린 것이다.
실험 결과 범죄자로 오인된 아시아계 필 팅 캘리포니아주 의원은 ACLU가 낸 성명에서 "이 실험은 얼굴인식 소프트웨어가 경찰관들이 착용하는 '몸 카메라'는 말할 것도 없고 주요 업무에 쓰일 준비가 안 돼 있다는 사실을 더 확고하게 한다"고 말했다.
얼굴인식 기술은 최근 인기를 얻으며 공항이나 학교, 가정, 콘서트 등에서 다양하게 이용되고 있다.
그러나 ACLU는 이 기술이 특히 여성이나 유색인종에 대해 편견을 갖고 있거나 판정이 정확하지 않다고 우려했다.
실험 결과 범죄자로 잘못 판정된 의원의 절반 이상이 유색인종이었다. 이 단체는 지난해에도 비슷한 실험을 했는데 당시에도 28명이 잘못된 판정을 받았고, 당시에도 여성이나 유색인종에서 오류가 더 많았다고 CNN은 전했다.
실험에 사용된 얼굴인식 기술은 아마존의 '레커그니션'(Rekognition)이었고 실험 당시 신뢰 지수를 초기 값인 80%로 설정했다고 ACLU는 밝혔다.
팅 의원은 ACLU와 함께 경찰이 쓰는 몸 카메라에 얼굴인식이나 다른 생체인식 감시 기술의 사용을 금지하는 법안을 공동 발의한 상태다.
팅 의원은 "죄 없는 캘리포니아 주민들이 잘못된 얼굴인식으로 경찰의 용의자 행렬에 서 있게 될 게 뻔히 보인다"며 "이런 일이 벌어지게 해서는 절대 안 된다"고 말했다.
뉴햄프셔주와 오리건주는 이미 2017년 경찰의 얼굴인식 기술 사용을 금지하는 법안을 제정했다. 또 올해에는 캘리포니아의 샌프란시스코와 오클랜드도 이 흐름에 동참했다.
아마존은 반박 논평을 냈다. 아마존은 ACLU가 알면서도 기삿거리를 만들려고 일부러 얼굴인식 기술을 잘못 사용했다면서 이 소프트웨어를 쓸 때는 신뢰 지수를 99%로 설정하고 인간이 내리는 최종결정의 일부로서 이용할 것을 권장한다고 밝혔다.
sisyphe@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>