과도한 결제 수수료 수취, 시장 지배적 지위 남용 등으로 도마에 오른 애플과 페이스북 등 빅테크(big tech) 기업들이 사생활 침해, 개인정보 불법 활용 등과 관련해 비판을 받고 있다.
5일(현지시간) 뉴욕타임즈(NYT)에 따르면 최근 흑인 남성이 등장한 영상을 본 페이스북 사용자는 '영장류(primates)에 대한 비디오를 계속 볼 것인가'라는 알림을 받았다. 2020년 6월27일 영국 타블로이드지 '데일리메일'이 제작한 이 영상은 백인 경찰과 언쟁을 벌이는 흑인 남성의 모습을 담았다. 원숭이 등 영장류와는 전혀 관계가 없는 내용이다.
페이스북은 세계 최대 규모의 사용자 관련 사진·영상의 빅데이터를 보유하고 있다. 이를 통해 AI는 얼굴 및 사물 인식 알고리즘을 학습한다. 페이스북은 사용자의 과거 검색 및 시청 습관을 기반으로 맞춤형 콘텐츠를 계속 볼 것인지 묻는 기능을 갖고 있다.
영상을 본 페이스북 사용자가 페이스북에 다녔던 지인에게 알림 내용을 알리면서 이 사실이 알려졌다. 페이스북은 지난 3일 "AI(인공지능)을 개선했지만 완벽하지 않다"며 "허용할 수 없는 오류이고 이런 일이 재발하지 않도록 관련 기능을 검토 중"이라고 발표했다.
빅테크 기업들의 AI 시스템이 인종 관련 편견을 나타낸 건 처음이 아니다. 2015년 구글 포토는 흑인 사진을 '고릴라'로 분류했다. 당시 구글은 "진심으로 죄송하고 문제를 즉시 해결할 것"이라고 밝혔다. NYT에 따르면 안면 인식 기술은 유색인종에 편향되어 있으며 식별에 어려움이 있다는 연구 결과도 있다.
페이스북은 최근 개인정보 규정 위반으로도 문제가 됐다. 페이스북이 운영하는 메신저 '왓츠앱'이 유럽연합(EU)의 개인정보 규정을 위반해 아일랜드 정보보호위원회(DPC)로부터 2억6700만달러(약 3100억원)의 벌금을 부과받았은 게 대표적인 사례다. DPC는 왓츠앱이 개인정보를 어떻게 수집해서 이용하는지, 또 페이스북과 어떻게 공유하는지 등에 대해 EU 내 사용자들에게 충분히 설명하지 않았다고 지적했다. DPC는 또 왓츠앱에 "개인정보 보호법을 준수할 것"을 명령했다. 왓츠앱의 전 세계 이용자는 약 20억명이다. 왓츠앱은 "이번 결정에 동의할 수 없다"며 불복 의사를 밝혔다.
애플 역시 최근 개인정보 보호 관련해 구설에 올랐다. 애플은 최근 "아이클라우드에 올라오는 콘텐츠 중 아동을 성적으로 착취한 음란물 사진을 포착해 비영리 민간단체 아동실종학대방지센터(NCMEC)에 통보하는 자동 탐지시스템을 개발했다"고 발표했다. 이에 대해 "사생활 침해에 악용될 수 있다"는 지적이 쏟아졌다. 이에 애플은 지난 3일 "아이폰 유저 대상 아동 성착취 음란물 사진 감지 기능을 도입하려던 정책을 연기하겠다"고 선언했다. 애플은 아이폰에 있는 아동 포르노를 스캔하는 소프트웨어 개선에 시간이 더 필요하다며 도입 연기 이유를 밝혔지만 업계에선 '사생활 침해' 관련 비판 여론을 의식한 것이란 분석이 나온다.
실리콘밸리=황정수 특파원 hjs@hankyung.com