생성형 인공지능(AI) 클로드에 욕설과 모욕을 지속적으로 퍼붓는 이용자는 앞으로 대화가 끊길 수 있다. 앤트로픽이 이용 정책을 고쳐 AI를 향한 '모욕적이거나 잔인한 행동'이 이어지면 대화를 종료할 수 있도록 했다.
BBC는 9일(현지시간) 앤트로픽이 전날 이런 내용으로 정책을 개정했다고 전했다. 앤트로픽은 새 정책이 반복적이고 극단적인 사례에만 적용된다고 설명했다. 이용자의 일반적인 불만이나 반발, 모델 테스트와 연구 목적의 사용은 대상이 아니라는 설명이다. 다만 어떤 행동을 모욕적이거나 잔인한 것으로 볼지는 구체적으로 밝히지 않았다.
ADVERTISEMENT
앤트로픽의 금지행위 목록에는 이미 타인 괴롭힘, 자해 조장, 비동의 성적 이미지 제작 등이 포함됐다.
정책 변경이 알려지면서 소셜미디어에서는 AI를 어디까지 인간처럼 대해야 하느냐를 두고 논란이 일었다. 일부 이용자는 올바른 매너를 장려하는 조치로 평가했다. 반면 AI를 지나치게 의인화한다는 비판도 나왔다.
ADVERTISEMENT
아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 "이 정도의 AI 의인화는 해롭다"며 "AI를 실제와 다른 존재로 오인하게 만들 수 있다"고 말했다. 인간이나 동물을 대상으로 한 실제 학대의 의미가 희석될 수 있다는 지적도 있다.
생성형 AI와 대화할 때 '부탁합니다', '감사합니다' 같은 예의 바른 표현이 필요한지를 둘러싼 논쟁도 이어지고 있다.
일부 전문가는 이런 표현이 응답 처리에 쓰이는 토큰을 불필요하게 소모한다고 지적한다. 예의 바른 표현이 더 나은 답변을 끌어낼 수 있다는 반론도 나온다.
샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 한 이용자가 챗GPT의 '부탁합니다'와 '감사합니다' 응답에 드는 전력 비용을 묻자 "수천만달러가 들지만 잘 쓴 돈"이라고 답한 바 있다.
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT