호주 시드니에서 보육시설 총기 난사 계획에 대해 인공지능(AI) 챗봇 클로드와 대화한 20대 남성이 경찰에 체포·기소됐다.
20일(현지시간) 시드니모닝헤럴드 등 현지 매체에 따르면 지난 18일 시드니 경찰은 데이비드 랜 새크레이(29)를 체포했다.
ADVERTISEMENT
그는 AI 챗봇 클로드에 자신이 사는 시드니 남부 허스트빌 인근의 보육시설에서 아이들을 총으로 쏘겠다는 계획을 밝힌 혐의를 받는다.
법원에 제출된 경찰 기록에 따르면 그는 "지금 당장 동네 웨스트필드(쇼핑센터)로 가서 그곳에 있는 보육시설에서 총기를 난사하겠다"고 클로드에게 말했다.
ADVERTISEMENT
또 클로드와 대화하면서 작년 12월 15명의 희생자를 초래한 시드니 유대인 축제 총기 난사 사건의 범인 중 한 명인 나비드 아크람(25)을 언급한 것으로 전해졌다.
새크레이는 국제형사경찰기구(ICPO·인터폴)이 이 같은 대화 내용을 포착해 호주 경찰에 일라면서 체포됐고, 검찰은 통신 서비스를 이용해 타인을 위협하거나 괴롭히고 불쾌감을 준 혐의로 그를 기소했다.
검찰은 그를 계속 구금해야 한다는 입장이지만, 새크레이의 변호인 측은 "새크레이가 귀 감염 질환 치료를 위해 클로드와 대화하다가 스트레스와 좌절감으로 격앙된 상태에서 거친 말을 했을 뿐이며, 그의 말에 실질적인 의도나 무게는 없었다"고 주장하고 있다.
현지 법원은 전날 새크레이의 정신 건강 평가를 위해 그를 구금했다. 평가 결과가 나오면 그를 다시 법정에 불러 심리한다는 받침이다.
ADVERTISEMENT
한편, 클로드 개발사 앤트로픽에 따르면 클로드의 AI 모델은 폭력을 계획하거나 선동하는 요청을 거부하도록 훈련됐으며, 위험한 대화 내용을 감지·차단하는 자동화된 안전 시스템을 갖추고 있다.
특히, 사람의 생명이 위험하거나 심각한 신체적 부상을 초래할 수 있는 긴급 상황이라고 판단되는 경우, 사용자 데이터를 법 집행 기관과 공유할 수 있다.
ADVERTISEMENT
이보배 한경닷컴 객원기자 newsinfo@hankyung.com
ADVERTISEMENT