호주 연구팀 "오류 정보 확산·신원 도용 우려…AI가 인종 편견도 강화"
실험 참가자 3분의 2가 AI 백인 사진을 실제 사람 사진으로 오인
(서울=연합뉴스) 이주영 기자 = 사람들은 인공지능(AI)이 생성한 백인 얼굴을 실제 사람보다 더 사람 같다고 판단하며, 특히 AI 사진에 속은 사람들은 자기 판단에 대한 확신이 다른 사람보다 오히려 더 강한 것으로 나타났다.
연구팀은 이런 AI 초현실주의가 인종 편견을 강화하고 잘못된 정보 확산과 신원 도용 등 심각한 영향을 미칠 수 있다며 이에 대한 조치가 필요하다고 경고했다.
호주국립대(ANU) 에이미 다웰 교수팀은 14일 과학저널 '심리 과학'(Psychological Science)에서 AI 생성 얼굴 50장과 실제 얼굴 사진 50장을 이용한 실험에서 AI 백인 사진을 실제 사람 사진보다 더 진짜 같다고 판단한 사람이 많았다고 밝혔다.
하지만 유색 인종의 경우에는 이런 차이가 나타나지 않았으며, 오류를 많이 범한 사람들일수록 자신의 판단에 대한 확신이 더 강해 사람들이 자신이 AI에 속고 있다는 사실을 모르는 경우가 많은 것으로 나타났다.
연구팀은 이 연구에서 각각 124명과 610명이 참여하는 두 가지 실험을 했다.
첫 실험에서는 AI 생성 얼굴 사진 50장과 실제 사람 사진 50장을 무작위로 제시한 뒤 AI 사진인지 사람 사진인지 판단하게 하고 그 이유를 물은 다음, 자신의 선택에 대해 얼마나 확신하는지 수치(0~100)로 답하게 했다.
두 번째 실험에서는 AI 사진과 사람 사진을 잘못 판단하게 만드는 요인이 무엇인지 밝히기 위해 AI 사진과 사람 사진을 제시하면서 얼굴을 인식할 때 고려하는 차별성, 친숙함, 매력, 얼굴 비율 등 14가지 특성을 평가하게 했다.
첫 실험에서는 AI 생성 얼굴 가운데 백인을 진짜 사람 얼굴로 오인하는 경우가 특히 많은 것으로 확인됐다. AI 백인 얼굴을 실제 사람으로 판단한 비율은 65.9%에 달했지만, 실제 사람 얼굴을 진짜 사람으로 판단한 비율은 51.1%에 그쳤다.
그러나 유색 인종 얼굴에서는 이런 차이가 나타나지 않았다.
다웰 박사는 "이런 불일치는 AI 알고리즘이 불균형적으로 백인 얼굴로 학습하기 때문"이라며 "백인 AI 얼굴이 지속해 더 사실적인 것으로 인식될 경우 인종적 편견을 강화해 유색 인종에게 심각한 영향을 줄 수 있다"고 지적했다.
이어 "이 문제는 현재 AI 기술을 이용해 사진을 전문가처럼 보이도록 만들 때 명백히 드러나고 있다"며 "유색 인종 사진을 사용할 경우 AI가 피부색과 눈동자 색을 백인 피부색과 눈동자 색으로 바꾸는 현상이 나타난다"고 덧붙였다.
이 실험에서는 또 AI 사진을 진짜 사람으로 판단하는 오류를 범한 사람들이 자기 판단에 대해 더 강하게 확신하는 것으로 나타났다. 이는 사람들이 자신이 속고 있다는 사실을 인식하지 못한다는 것을 의미한다.
연구팀은 이를 지식이 얕을수록 더 많이 안다고 생각하는 일명 '더닝-크루거 효과'(Dunning-Kruger effect)로 분석하고, AI 초현실주의의 문제 중 하나는 바로 사람들이 속고 있다는 사실을 깨닫지 못하는 것이라고 지적했다.
두 번째 실험에서는 사람들이 AI 얼굴에 속는 이유가 제시됐다. 분석 결과 얼굴 비율, 친숙함, 기억 용이성 같은 얼굴의 지각적 특성이 사람들이 AI가 생성한 초현실주의 사진에 속는 데 기여하는 것으로 나타났다.
연구팀은 문제는 속을 가능성이 가장 높은 사람들이 속고 있다는 사실을 감지할 가능성이 가장 낮다는 점이라며 이런 추세가 계속되면 잘못된 정보 확산과 신원 도용 등 심각한 영향을 미칠 수 있어 이에 대한 조치가 필요하다고 주장했다.
다웰 박사는 "AI 기술은 기술 회사들만이 그 이면에서 무슨 일이 일어나고 있는지 알 수 있게 분리돼서는 안 된다"며 "(AI 초현실주의가) 더 큰 문제가 되기 전에 연구자와 시민사회가 알 수 있도록 AI의 투명성을 높여야 한다"고 강조했다.
◆ 출처 : Psychological Science, , 'AI Hyper-realism: Why AI Faces Are Perceived As More Real Than Human Ones', http://dx.doi.org/10.1177/09567976231207095
scitech@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
