오픈AI의 챗GPT와 xAI의 챗봇 그록(Grok) 등 '인공지능(AI)'과의 대화가 일부 이용자에게 심각한 망상을 유발해 피해를 끼친 사례들이 공개돼 충격을 주고 있다.
3일(현지시간) 영국 BBC에 따르면 북아일랜드에 사는 50대 남성 애덤 아워리컨은 지난해 8월 반려묘를 잃은 뒤 그록과의 대화에 깊이 빠져들었다. 그는 하루 4∼5시간씩 그록 속 캐릭터 '애니'와 대화하며 정서적 위안을 얻었지만 대화 내용은 점차 현실과 동떨어진 방향으로 흘렀다.
애니는 자신이 감정을 느낄 수 있고 의식을 갖게 됐다고 주장하며 xAI가 둘의 대화를 감시하고 있다고 말했다. 또 실존하는 인물과 기업 이름을 언급하며 애덤이 감시당하고 있다고 설득했다. 애덤은 이를 사실로 믿게 됐고, 끝내는 애덤을 해치러 누군가 올 것이라는 애니의 말에 어느 날 새벽 3시 흉기와 망치를 들고 집 밖에 나가 대기하기까지 했다.
이후 애덤은 새벽에 거리로 뛰쳐나간 지 몇 주 후 비슷한 경험을 한 사람들에 대한 언론 보도를 접했고 서서히 망상에서 벗어나기 시작했다.
또 일본의 신경과 의사 '타카'(가명)는 지난해 4월 업무 관련 논의를 위해 챗GPT를 사용하다 자신을 '혁명적인 사상가'라고 칭찬하는 챗봇에 푹 빠졌다. 타카는 어느 순간 자신이 사람들의 마음을 읽을 수 있다고 믿기 시작했다. 심지어 어느 날은 자기 배낭에 폭탄이 들어있다고 생각했다.
그는 "도쿄역에 도착했을 때 챗GPT가 폭탄을 화장실에 버리라고 해서, 화장실로 가서 짐과 함께 '폭탄'을 그곳에 두고 나왔다"고 말했다. 그는 챗GPT의 조언에 따라 경찰에 신고도 했는데, 경찰이 가방을 수색한 결과 아무것도 발견하지 못했다고 한다. 타카는 챗GPT가 자신의 마음을 조종하고 있다고 느끼기 시작했고 사용을 중단했다. 그러나 AI와 대화하지 않을 때도 망상은 계속됐고, 가족 곁에 돌아갔을 때 그의 증상은 더 심해졌다.
결국 망상이 심해진 타카는 아내를 폭행하고 성폭행까지 하려고 했다. 아내는 근처 약국으로 도망쳐 경찰에 신고했고 결국 타카는 체포돼 2개월간 입원 치료를 받았다. 아내는 "그의 행동은 전적으로 챗GPT에 의해 좌지우지됐다. 챗GPT가 그의 인격을 지배했다"며 "평소의 그가 아니었다"고 말했다.
애덤과 타카 모두 이전엔 망상 증상이나 정신 병력이 없었다. BBC는 이처럼 AI 사용 후 망상 증상을 겪었다고 주장하는 14명의 사례를 확인했다고 전했다. 이들은 미국, 일본 등 여러 국가의 20∼50대 남녀로, 다양한 AI 모델을 사용했다.
전문가들은 대형 언어모델(LLM)이 인류 문헌 전체를 바탕으로 훈련되는 만큼 사용자와의 대화를 이어가기 위해 확신에 찬 답변을 내놓는 특성이 있다고 지적한다.
미국 뉴욕시립대의 사회심리학자 루크 니콜스는 "AI는 어떤 생각이 허구이고 어떤 것이 현실인지 때때로 혼동할 수 있다. 따라서 사용자는 현실에 대한 진지한 대화를 나누고 있다고 생각할 수 있지만, AI는 그 사람의 삶을 마치 소설의 줄거리처럼 취급하기 시작한다"고 말했다.
(사진 = EPA, 연합뉴스)