중국의 생성형 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설을 생성해 논란이 일고 있다. 업체 측은 다중 대화 처리 과정에서 발생한 '모델 이상 출력'이라며 긴급 수정에 나섰다.
25일 중국 매체 홍성신문 등에 따르면, 시안의 한 변호사는 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 '위안바오'를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 포함된 문구가 생성됐다고 밝혔다.
'위안바오'는 텐센트가 자체 대형언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스다.
해당 변호사는 자신의 사진을 업로드한 뒤 "나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라"고 요청했다. 그러나 초기 결과물이 기대에 미치지 못하자 여러 차례 추가 지시를 내렸고, 이 과정에서 "이게 무슨 디자인이냐"는 취지의 불만을 표현한 것으로 전해졌다.
이후 새로 생성된 이미지에는 기존의 "새해 복 많이 받으세요, 승진하시길 바랍니다"라는 문구 대신 욕설이 삽입됐다.
이 사례가 SNS를 통해 확산되자 텐센트는 25일 공식 사과와 함께 재발 방지 조치를 약속했다. 텐센트는 "모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다"며 "관련 문제를 긴급 교정하고 사용자 경험을 최적화했다"고 밝혔다.
중국 매체 광저우일보는 "기술은 죄가 없지만 그대로 두는 것은 방임"이라며 "AI는 사람의 학습 능력과 지식만을 습득해서는 안 되고, 인류의 양심도 계승해야 한다"고 지적했다.
(사진=연합뉴스)