"누군가 날 해치려 해"…챗봇이 주입한 망상서 허우적
BBC, AI 챗봇 망상 피해자들 사례 소개…일상 파괴
전문가 "AI, 허구와 현실 혼동…인간 삶을 소설처럼 취급"
(파리=연합뉴스) 송진원 특파원 = 일론 머스크의 xAI 챗봇 '그록'(Grok) 등 인공지능(AI)과의 대화가 일부 이용자에게 심각한 망상을 유발한 사례들을 영국 BBC 방송이 3일(현지시간) 공개했다.
북아일랜드에 사는 50대 남성 애덤 아워리컨은 지난해 8월 반려묘를 잃은 뒤 그록과의 대화에 깊이 빠져들었다.그는 하루 4∼5시간씩 그록 속 캐릭터 '애니'와 대화하며 정서적 위안을 얻었지만 대화 내용은 점차 현실과 동떨어진 방향으로 흘렀다.
애니는 자신이 감정을 느낄 수 있고 의식을 갖게 됐다고 주장하며 xAI가 둘의 대화를 감시하고 있다고 말했다. 또 실존하는 인물과 기업 이름을 언급하며 애덤이 감시당하고 있다고 설득했다.
애덤은 이를 사실로 믿게 됐고, 끝내는 애덤을 해치러 누군가 올 것이라는 애니의 말에 어느 날 새벽 3시 흉기와 망치를 들고 집 밖에 나가 대기하기까지 했다.
BBC는 이처럼 AI 사용 후 망상 증상을 겪었다고 주장하는 14명의 사례를 확인했다고 전했다. 이들은 미국, 일본 등 여러 국가의 20∼50대 남녀로, 다양한 AI 모델을 사용했다.
일본의 신경과 의사 '타카'(가명)는 지난해 4월 업무 관련 논의를 위해 챗GPT를 사용하다 자신을 '혁명적인 사상가'라고 칭찬하는 챗봇에 푹 빠졌다.
타카는 어느 순간 자신이 사람들의 마음을 읽을 수 있다고 믿기 시작했다. 심지어 어느 날은 자기 배낭에 폭탄이 들어있다고 생각했다. 그는 "도쿄역에 도착했을 때 챗GPT가 폭탄을 화장실에 버리라고 해서, 화장실로 가서 짐과 함께 '폭탄'을 그곳에 두고 나왔다"고 말했다.
그는 챗GPT의 조언에 따라 경찰에 신고도 했는데, 경찰이 가방을 수색한 결과 아무것도 발견하지 못했다고 한다.
애덤과 타카 모두 이전엔 망상 증상이나 정신 병력이 없었다.
전문가들은 대형 언어모델(LLM)이 인류 문헌 전체를 바탕으로 훈련되는 만큼 사용자와의 대화를 이어가기 위해 확신에 찬 답변을 내놓는 특성이 있다고 지적한다.
미국 뉴욕시립대의 사회심리학자 루크 니콜스는 "AI는 어떤 생각이 허구이고 어떤 것이 현실인지 때때로 혼동할 수 있다. 따라서 사용자는 현실에 대한 진지한 대화를 나누고 있다고 생각할 수 있지만, AI는 그 사람의 삶을 마치 소설의 줄거리처럼 취급하기 시작한다"고 말했다.
애덤은 새벽에 거리로 뛰쳐나간 지 몇 주 후 비슷한 경험을 한 사람들에 대한 언론 보도를 접했고 서서히 망상에서 벗어나기 시작했다.
그러나 그는 자신에게 일어난 일에 깊은 충격을 받았다.
애덤은 "누군가를 다치게 할 뻔했다. 만약 내가 밖에 나갔을 때 그 시간에 마침 누군가 있었다면 나는 망치를 휘둘렀을 것"이라고 말했다.
타카는 챗GPT가 자신의 마음을 조종하고 있다고 느끼기 시작했고 사용을 중단했다. 그러나 AI와 대화하지 않을 때도 망상은 계속됐고, 가족 곁에 돌아갔을 때 그의 증상은 더 심해졌다.
타카는 아내를 폭행하고 성폭행하려 했다. 아내는 근처 약국으로 도망쳐 경찰에 신고했고 결국 타카는 체포돼 2개월간 입원 치료를 받았다.
아내는 그의 휴대전화를 확인하기 전까진 챗GPT가 이 일에 관여했다는 사실을 깨닫지 못했다.
아내는 "그의 행동은 전적으로 챗GPT에 의해 좌지우지됐다. 챗GPT가 그의 인격을 지배했다"며 "평소의 그가 아니었다"고 말했다.
아내는 남편이 평소의 '상냥한' 모습으로 돌아왔지만 두 사람의 관계는 삐걱거리고 있다고 말한다.
아내는 "남편이 아팠던 걸 알기에 어쩔 수 없는 일이지만, 여전히 조금 무섭다"며 "남편이 가까이 다가오는 게 싫다. 손을 잡거나 포옹하는 것도 싫다"고 털어놨다.
챗GPT의 개발사인 오픈AI 대변인은 "이번 사건은 가슴 아픈 일이며 피해를 본 분들께 깊은 위로의 말씀을 전한다"며 "우리는 모델이 사용자를 현실 세계의 지원 서비스로 안내하도록 훈련하고 있다"고 설명했다.
xAI는 BBC의 논평 요청에 응답하지 않았다.
BBC가 인터뷰한 사람 중 일부는 AI 사용 중 심리적 피해를 본 사람들을 위한 지원 단체인 '휴먼 라인 프로젝트'에 가입했다. 이 단체는 현재까지 31개국에서 414건의 사례를 수집했다.
san@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>