한양대 서재홍 교수팀, 딥러닝 얼굴인증 시스템 보안 취약점 규명

다양한 응용분야에서 얼굴인증 시스템을 도입하고 있고 이미 우리 생활 속에도 깊게 들어온 얼굴인증 기술은 과연 안전할까? 최근 딥러닝 기반 얼굴인증 시스템의 구조적 보안 취약점을 밝혀내 학계의 주목을 받고 있는 한양대학교 수학과 서재홍 교수를 찾아갔다.

서 교수는 안전한 암호 시스템 설계분야에서 손꼽히는 전문가이다. 서 교수는 2011년 2월 박사학위를 받고 올해로 정보보호 연구만 15년차이다.

해당 연구는 세계적인 정보보안 학술대회인 IEEE Symposium on Security and Privacy 2024에서 발표되어 얼굴인증 기술에 대한 재검토의 필요성을 제기했다.

서 교수팀은 인공신경망 기반 얼굴인증 기술이 가진 수학적 구조를 분석, 최소한의 인증 시도만으로도 등록된 사용자 얼굴 이미지를 복원할 수 있는 가능성을 입증했다.

기존 공격 기법이 수십만 번의 인증 시도로 점진적으로 유사 이미지를 생성했던 방식과 달리, 서 교수팀은 얼굴 특징 벡터의 수학적 성질에 기반해 단 100번의 인증 시도로 얼굴 복원이 가능하다는 것을 밝혀냈다.

서 교수는 “딥러닝 기반 얼굴인식 모델이 특수한 수학적 조건을 만족하도록 학습된다는 점에 착안해, 직교기저(orthogonal basis) 역할을 하는 얼굴 이미지를 활용하는 방식으로 실험을 설계했다”며, “이는 기존 방식보다 수천 배 효율적인 공격 기법”이라고 설명했다.

해당 연구는 ‘Scores Tell Everything about Bob: Non-adaptive Face Reconstruction on Face Recognition Systems’라는 제목으로 공개됐다.

이번 연구는 단순한 공격 시연에 그치지 않고, 얼굴인증 시스템의 구조적 이해를 도모하고자 하는 학문적 시도에서 출발했다.

서 교수는 “딥러닝의 동작 원리는 여전히 수학적으로 명확히 규명되지 않은 영역”이라며, “이번 연구는 그 구조를 이해하고, 더 나은 방어 기법을 개발하기 위한 기반을 다지는 과정”이라고 강조하며 “알파고와 이세돌 기사님의 대국이후 딥러닝이 정보보호에서도 중요한 역할을 할 것이라 예상했고, 2018년부터 안전한 딥러닝 기반 생체인증 기술개발 및 연구를 수행해오고 있습니다.”라고 말했다.

서 교수는 생체 데이터 보호를 위한 기술을 개발하여 국제 특허를 출원 중이고, 관련 연구들은 CVPR, ECCV와 같은 컴퓨터 비전 최고 학회들이나 SCIE 저널에 다수 출판하였다.

실제로 서 교수는 프라이버시 보호 기술 연구에 매진해 왔으며, 자신이 설계한 영지식 증명 기법 ‘Bulletproofs+’는 글로벌 프라이버시 코인인 모네로(Monero)에 적용되고 있다.

최근에는 생체 데이터 보호 기술에 집중하고 있으며, 관련 기술들을 국제 특허로 출원 중이다.

이번 연구가 의미하는 바에 대해 서 교수는 “본 연구는 딥러닝 기반 얼굴인증 기술이 가진 알고리즘적 특성을 수학적으로 이해하는 데 중요한 기틀을 제공한 것”이라며, “이러한 성과는 유능한 학생연구자들의 적극적인 참여 덕분”이라고 덧붙였다.

한편, 서 교수는 공격에 대한 방어책으로 “유사도 점수 자체가 외부에 노출되지 않도록 설계하는 것이 핵심”이라며, 얼굴인식 API를 활용하는 서비스 기업들이 이 점을 유의해야 한다고 조언했다.

한경닷컴 뉴스룸 open@hankyung.com