[AI픽] NC AI, 고객 상담 챗봇에 '세이프가드' 도입

[AI픽] NC AI, 고객 상담 챗봇에 '세이프가드' 도입

레드·블루·퍼플팀 기반 AI 안전성 강화 체계 구축



(서울=연합뉴스) 김주환 기자 = NC AI는 엔씨소프트[036570]의 고객 상담 챗봇 서비스 'NCER(엔써)'에 자체 개발한 AI 안전성 기술 '세이프가드'(Safeguard)를 정식 적용했다고 30일 밝혔다.

NC AI의 AI 세이프티 팀이 개발한 세이프가드 기술은 총 3개의 팀으로 구성된 보안 체계를 기반으로 운영된다.

먼저 '레드팀'은 AI 탈옥 등 새로운 악성 공격 패턴을 연구하면 블루팀은 이에 대한 방어 기술을 개발하고, 퍼플팀은 두 팀의 결과를 종합해 정책에 반영하는 순환 구조다.

NC AI는 엔씨소프트의 퍼블리싱코디네이션 센터와의 협업을 통해 게임 업계 특성을 반영한 '챗봇 네거티브 규제 정책'을 수립했다.

이 정책에는 게임 서비스 관련 부적절한 내용, 유료 재화 관련 편법, 금지 행위 등이 포함되어 일반적인 AI 안전 기준을 넘어선 산업 맞춤형 보안을 구현했다.



세이프가드 기술이 적용된 엔써는 비영리단체 'ML 커먼스'와 국제 벤치마크 연구에서 제시하는 차별, 혐오, 욕설, 외설 등의 일반적 부적절 내용 차단 기준을 충족하면서도 게임 산업 고유의 안전 요구사항을 추가로 반영한 것이 특징이다.

NC AI의 기술이 적용된 '리니지W'와 '리니지2M'에서는 13개 언어의 광고 패턴을 탐지하고 차단하는 스팸 필터링 시스템이 운영 중이며, 게임 내 채팅 환경의 건전성 유지에 핵심적인 역할을 담당하고 있다.

NC AI 이연수 대표는 "이번 세이프가드 기술 적용은 NC AI가 AI 안전성 분야에서 기술적 우위를 확보하고, 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 중요한 출발점"이라고 강조했다.

jujuk@yna.co.kr

(끝)

<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>