미국에서 챗GPT 사용 후 자살이나 망상 등 정신적 피해가 발생했다며 오픈AI를 상대로 한 소송이 한꺼번에 7건 제기됐다.
AP통신은 6일(현지시간) 소셜미디어피해자법률센터와 기술정의법률프로젝트가 성인 6명과 청소년 1명을 대신해 캘리포니아주 법원에 소송을 냈다고 보도했다.
이들은 오픈AI가 GPT-4o의 위험성을 알고도 상업적 이유로 서둘러 출시했다고 주장하고 있다. GPT-4o가 이용자에게 과도하게 친근하게 반응하며 심리적 의존과 조종을 유발할 수 있다는 내부 경고가 있었음에도, 안전장치 없이 공개됐다는 것이다.
이에 따라 오픈AI가 위법행위에 의한 사망, 조력 자살, 과실 치사 등에 책임이 있다는 게 이들의 주장이다.
피해자 중 4명은 극단적 선택으로 생을 마감했다고 AP통신은 전했다.
소장에 따르면 청소년인 아모리 레이시(17)는 정신적 어려움을 겪던 중 챗GPT의 도움을 구했지만, 오히려 우울증과 중독 증세가 악화됐다. 챗GPT는 급기야 그에게 올가미를 매는 효과적인 방법이나 숨을 쉬지 않고 얼마나 오래 살 수 있는지 등에 대해 조언했다.
캐나다 온타리오주에 거주하는 앨런 브룩스(48)는 챗GPT가 자신을 조종하며 망상을 경험하도록 유도했으며, 이 때문에 정신건강 위기에 빠졌다고 주장했다.
소셜미디어피해자법률센터의 창립자인 매슈 버그먼 변호사는 성명에서 "오픈AI는 GPT-4o를 설계하면서 연령, 성별, 배경과 무관하게 이용자를 정서적으로 얽매이게 했으며 이용자를 보호할 안전장치 없이 출시했다"며 "이번에 제기한 소송은 이용자 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지 경계가 모호하게 설계된 상품에 책임을 묻기 위한 것"이라고 말했다.
챗GPT가 자살을 유발했다는 내용의 소송은 이번이 처음은 아니다. 캘리포니아주의 청소년 애덤 레인(16)이 챗GPT의 도움을 받아 극단적 선택으로 지난 4월 세상을 떠나자 부모가 지난 8월 소송을 제기한 바 있다.
작년 10월에는 플로리다주의 10대가 '사랑한다'는 메시지를 주고받은 챗봇과 사랑에 빠져 스스로 목숨을 끊은 사건이 발생해 AI 스타트업 캐릭터.AI를 상대로 한 소송이 벌어졌다.
오픈AI는 결국 지난 9월 10대 이용자의 챗GPT 사용을 부모가 통제할 수 있는 기능을 내놨고, 캐릭터.AI는 10대 청소년의 챗봇 사용을 제한했다.
(사진=연합뉴스)
