오픈AI가 챗GPT에 ‘성인 모드(adult mode)’를 도입해 성적인 대화를 나눌 수 있도록 허용하겠다는 방안을 검토하면서 비판이 일고 있다.
지난 16일 월스트리트저널(WSJ)에 따르면 오픈AI가 구성한 ‘웰빙·AI 자문위원회’는 지난 1월 오픈AI의 성인 모드 관련 계획에 반대했다. 자문위원들은 “챗GPT에서 성적인 대화가 이뤄지면 미성년자가 관련 콘텐츠에 접근할 위험이 있다”고 지적했다.
샘 올트먼 오픈AI 최고경영자(CEO)는 최근 “챗GPT에서 성인 이용자를 성인답게 대해야 한다”고 말했다. 또 “연령에 따라 영화 관람 등급을 나누듯, AI도 유사한 방식을 쓸 수 있다”고 전했다.
오픈AI는 “텍스트 기반의 성인 대화는 가능해도 성적인 이미지와 음성, 영상 생성은 제한하겠다”고 밝혔다.
하지만 회사 내부에서도 성인 모드의 부작용을 염려하고 있다고 WSJ는 전했다. “챗봇 사용 중독자 증가와 AI에 대한 과도한 집착, 현실 속 인간 관계를 위축시킬 가능성이 있다”는 게 오픈AI 내부의 중론이라는 것이다 .
챗GPT의 성인 모드 콘텐츠가 미성년자에게 완전히 폐쇄되지 않을 우려도 높다고 업계 관계자들은 말했다. 오픈AI가 개발 중인 성인 모드 관련 시스템에서 미성년자를 성인으로 잘못 분류한 비율이 12%에 달했다고 WSJ는 전했다.
챗GPT를 사용하는 18세 미만 이용자 수는 매주 약 1억 명으로 추산된다. 성인 모드 관련 시스템이 개선되지 않는다면 미성년자들이 성적인 콘텐츠에 노출될 위험이 커진다는 우려가 나온다.
오픈AI는 우선 올 1분기로 예정됐던 성인 모드 출시를 연기했다. 하지만 성인 모드 챗GPT를 내놓겠다는 계획은 변함없다고 밝혔다.
이미아 기자 mia@hankyung.com