생성형 AI가 널리 쓰이면서 경찰들이 수사 피의자의 AI 대화 내역을 필수적으로 확인하는 추세다. 입력한 프롬프트(명령어)에 범죄 여부나 동기가 드러나는 경우가 많다는 것이다.
실제로 경찰 수사관 출신 A 변호사는 최근 서울 한 경찰서에서 의뢰인의 휴대전화 포렌식을 참관하던 중 수사관이 피의자와 생성형 AI '챗GPT' 간 대화 내역을 집중적으로 파고들어 진땀을 흘렸다. 온라인 검색 기록이나 지인과의 메시지보다 먼저 이를 살펴보더라는 것이다.
최근 '강북구 모텔 연쇄 살인 사건' 역시 챗GPT에서 수사 단서를 잡았다. 피의자는 살인 고의성을 부인했는데 경찰은 그가 챗GPT에 "수면제와 술을 같이 먹으면 죽어?"라는 질문을 한 점을 포착해 상해 혐의가 아닌 살인 혐의를 적용했다.
보통 피의자의 검색 기록을 찾는 경우가 많지만 대화형 구조인 AI에는 피의자의 진심과 구체적 목적이 훨씬 적나라하게 담길 수밖에 없다고 전문가들은 분석한다.
생성형 AI의 포렌식 작업에 대한 논문을 쓴 정두원 성균관대 과학수사학과 교수는 "웹 브라우저 검색은 키워드 위주지만 AI엔 문장을 쓸 수밖에 없다. 프롬프트 자체가 문장이라 실제 의도가 무엇이었는지가 그대로 남아있어 증거로서 가치가 더 높다"고 설명했다.
다만 생성형 AI와의 대화는 증거로 쓰이더라도 범위를 엄격히 제한해야 한다는 의견도 나온다. 내밀한 개인정보를 광범위하게 포함하는 데다, 관련 법적·윤리적 논쟁이 끝나지 않았기 때문이다.
김명주 AI안전연구소장은 "어떤 범죄가 생기면 당사자의 AI 대화 기록 전체를 뒤져서 수사기관이 '이전부터 범죄를 모의해왔다'고 주장할 수도 있는 것"이라며 향후 무분별한 '챗GPT 압수수색'을 둘러싼 인권 침해 논쟁이 벌어질 수 있다고 내다봤다.
(사진=연합뉴스)