한경 로앤비즈의 'Law Street' 칼럼은 기업과 개인에게 실용적인 법률 지식을 제공합니다. 전문 변호사들이 조세, 상속, 노동, 공정거래, M&A, 금융 등 다양한 분야의 법률 이슈를 다루며, 주요 판결 분석도 제공합니다.
이제 우리는 분쟁이 생기면 휴대전화에 남아 있는 대화나 녹음파일부터 확인하게 된다. 교통사고가 나면 블랙박스 영상을 찾아보고, 계약 내용을 다투게 되면 당시 주고받은 메시지를 살펴본다. 이런 디지털 자료들은 불확실한 사람의 기억이나 설명과 달리, 당시의 장면과 말을 그대로 담고 있다고 생각하기 때문이다. 그런데 실제로 하지 않은 말이나 행동을 AI로 실제처럼 만들어낼 수 있는 시대에도 이러한 자료를 그대로 믿을 수 있을까.가짜 증거의 등장
AI는 실제 인물의 얼굴과 목소리를 이용해 존재하지 않았던 장면을 만들어낼 수 있고, 최근 들어 그 기술이 더욱 정교해져서 실제와 구분하기가 쉽지 않아졌다. 이러한 기술이 재판에 사용되게 되면, 문제는 허위 자료가 증거로 제출되어 잘못된 판결이 이루어질 수 있다는 데 그치지 않는다. 실제 상황을 기록한 자료를 두고도 상대방이 AI로 조작되었다고 주장할 수 있기 때문이다. 가짜 증거가 사실로 받아들여지는 위험과, 진짜 증거가 의심받아 배제되는 위험을 함께 살펴봐야 할 필요가 있다.
물론 사진이나 영상의 조작 가능성 자체가 새로운 문제는 아니다. 민사소송법은 법원이 변론과 증거조사 결과를 종합하여 논리와 경험의 법칙에 따라 사실을 판단하도록 정하고 있다. 형사재판에서도 증거의 증명력은 법관의 자유판단에 의하되, 개별 사건을 통해 대법원은 녹음파일의 편집·조작 위험을 고려하여, 사본을 증거로 사용하는 경우 원본의 내용이 인위적인 변경 없이 복사되었다는 점이 증명되어야 한다고 보아 왔다. 즉, 영상이나 녹음파일을 증거로 평가할 때는 그 내용뿐 아니라, 자료가 만들어지고 보관되는 과정에서 편집이나 조작으로 내용이 왜곡되지는 않았는지도 함께 살펴보아야 하는 것이다.
다만 그 확인 방법을 지나치게 제한하기는 어렵다. 원칙적으로는 사인(私人)이 복사한 녹음파일 사본의 경우 해시(Hash)값 비교 등 원본과 사본의 직접 비교를 통해 증명하여야 할 것이다. 다만 대법원은 지난해 원본이 남아 있지 않은 녹음파일 사본의 증거능력이 문제 된 사건에서, 원본과 직접 비교할 수 없더라도 녹음과 전달·보관 과정에 관여한 사람의 진술, 검증·감정 결과 등을 종합하여 판단할 수 있다고 했다. 원본 파일이 현존하지 않는다는 이유만으로 원본 동일성이 인정되지 않는다고 단정하고 증거능력을 부정한 원심을 파기한 것이다. AI 조작을 판단한 사건은 아니지만, 원본 제출이 어렵더라도 다른 자료를 종합하여 사본의 원본 동일성을 판단할 수 있다는 점에서 참고할 수 있다.
미국에서도 증거를 제출하는 사람은 해당 자료가 자신이 주장하는 바로 그 자료라는 점을 뒷받침해야 한다. 연방 증거 규칙은 관련 사실을 아는 사람의 증언이나 자료의 특징, 기록을 생성한 시스템에 관한 설명 등을 그 방법으로 제시하고 있다. 다만 이러한 기본적인 확인만으로 정교하게 합성된 자료까지 충분히 가려낼 수 있는지는 새로운 쟁점이 되고 있다. 실제로 지난해 미국 캘리포니아주 법원은 민사사건의 원고들이 제출한 영상과 이미지 중 일부가 AI로 만들어지거나 변조되었다고 판단하고, 고의적인 허위 증거 제출에 대한 제재로 소송 자체를 종결했다. AI를 이용한 증거 조작이 더 이상 추상적인 우려에만 머물러 있지 않음을 보여주는 사례이다.
고의로 가짜를 만드는 경우만 문제가 되는 것도 아니다. 2024년 미국 워싱턴주 법원에서는 총격 사건의 피고인 측이 AI로 선명하게 보정한 영상을 제출하려 했으나, 법원이 이를 받아들이지 않았다. 보정 과정이 원래 있던 정보를 더 잘 보이게 하는 데 그치지 않고, AI가 추정한 세부 내용을 추가할 수 있다는 점 등이 문제 되었다. 또한 법원은 해당 기술의 신뢰성과 검증 가능성이 충분히 뒷받침되지 않았다고 보았다. 원래 영상까지 배제한 것은 아니지만, 더 선명하게 보이는 영상이 반드시 더 정확한 증거가 되는 것은 아니다.
검증과 권리구제의 균형
한편, 반대의 우려도 있다. 올해 2월 미국 뉴욕주 최고법원에서는 아동학대 관련 보호 절차에 제출된 영상의 진정성을 두고 의견이 갈렸다. 다수의견은 영상이 발견된 경위가 이례적이고 촬영 시점과 확보 시점 사이에 상당한 간격이 있는 등, 그 출처와 신뢰성을 충분히 확인하기 어렵다고 보았다. 이에 영상을 증거로 받아들인 판단을 뒤집었다. 다만 영상이 실제로 AI에 의해 조작되었다고 확정한 것은 아니었다.
반면, 반대의견은 구체적인 조작 근거가 없는 상황에서 딥페이크 가능성을 강조하면, 실제 피해를 기록한 영상까지 증거로 인정받기 어려워질 수 있다고 지적했다. 영상의 진정성을 확인하기 위해 매번 전문가를 구해야 한다면 피해자 보호에도 장애가 될 수 있다는 것이다. 다수의견은 모든 사건에서 전문가 감정을 요구한 것은 아니라고 설명했지만, 어느 정도의 확인이 있어야 증거로 사용할 수 있는지를 둘러싼 견해 차이는 분명해 보인다.
이러한 사례들은 AI 시대의 증거 문제를 단순히 검증을 강화하는 방향으로만 해결하기 어렵다는 점을 보여준다. 조작된 자료를 걸러내지 못하면 잘못된 판단에 이를 수 있지만, 조작의 가능성만으로 모든 자료를 의심한다면 실제 있었던 일을 입증하는 것까지 어려워질 수 있는 것이다. 중요한 것은 AI로 만들 수 있다는 일반적인 가능성과 해당 자료의 진정성을 의심할 구체적인 사정을 구별하는 데 있을 것이다.
미국에서는 이러한 문제를 반영한 연방 증거 규칙 개정이 논의되고 있다. 검토 중인 초안은 AI 조작을 주장하는 쪽이 먼저 일정한 근거를 제시하면, 제출자가 자료의 진정성을 보다 높은 수준으로 뒷받침하도록 하는 구조로 개선한다는 취지로 파악된다. 우리나라에서도 자료를 누가 어떤 경위로 만들고 보관했는지, 다른 기록과 내용이 부합하는지 등을 함께 확인하는 방식이 중요해질 것으로 보인다.
AI로 보정하거나 변환한 자료라면 기존 자료와 처리 과정을 확인할 수 있도록 할 필요도 있다. 다만 모든 사건에 동일한 수준의 감정을 요구하기보다, 증거의 중요성과 구체적인 의심의 정도에 따라 검증의 범위를 정하는 것이 적절할 것이다.
그 과정에서 필요한 비용을 개인에게만 과도하게 부담시키지 않는 방안도 함께 논의할 필요가 있을 것이다. 자신이 가진 자료가 진짜임을 확인받는 비용 때문에 소송을 포기하게 된다면, 증거의 신뢰성을 높이려는 제도가 오히려 권리구제를 어렵게 만들 수 있기 때문이다.
AI 시대에도 사실을 확인하고 분쟁을 해결하는 법원의 역할은 달라지지 않는다. 달라지는 것은 그 사실을 확인하기 위해 살펴보아야 할 정보와 절차일 것이다. 향후 AI가 보다 발전하더라도 모든 디지털 자료를 불신할 것이 아니라, 의심할 자료는 충분히 검증하면서도 실제 상황을 기록한 증거가 정당하게 평가받을 수 있는 기준을 마련할 필요가 있을 것이다.