"생성형 AI 불편사항 제보하세요"…정부, 신고 플랫폼 가동

"생성형 AI 불편사항 제보하세요"…정부, 신고 플랫폼 가동

폭력·성범죄 등 이용자 피해 접수…사업자 개선 유도



(과천=연합뉴스) 나확진 기자 = 챗지피티(ChatGPT) 등 생성형 인공지능(AI) 서비스를 이용하다 경험하는 폭력·성범죄 등 다양한 위험 사례를 제보할 수 있는 전문 창구가 마련됐다.

방송미디어통신위원회와 한국정보통신진흥협회는 31일 '생성형 인공지능 이용자 참여 플랫폼'을 개설해 운영하며 방송통신이용자정보포털에서도 접속 가능하다고 밝혔다.

해당 플랫폼에서는 국민 누구나 생성형 AI 서비스 이용 과정에서 겪는 위험성과 불편 사항을 제보하고, 관련 정보를 사업자·이용자와 공유할 수 있다.

방미통위는 최근 챗지피티(ChatGPT), 클로드(Claude), 제타(Zeta) 등 생성형 AI 서비스의 급속한 확산과 함께 서비스 이용 중 폭력이나 성범죄·성희롱 등 다양한 위험이 발생함에 따라 이러한 역기능을 신속히 인지하고 이를 해당 사업자에 통보함으로써 사업자의 자율적 개선을 유도하기 위해 플랫폼을 개설했다고 설명했다.

이용자 참여 기반 소통 창구로 마련된 이 플랫폼은 이용자가 경험한 위험성·역기능 등 제보, 위험성 관련 통계 등 분석자료 주기적 제공, 유형별 생성형 AI 서비스 이용 방법과 특성 안내 등으로 구성됐다.

제보자는 해당 내용의 처리 상황과 결과를 직접 확인할 수 있고 제보 내용은 AI 위험성 관련 통계와 경향성 분석 자료 등으로 활용되며 이용자 경각심을 제고하기 위한 이용자 주의사항도 주기적으로 제공한다.

이와 함께 텍스트, 이미지, 음성 등 주요 생성형 AI 서비스의 유형별 이용 방법과 특성 및 역기능 방지를 위한 서비스 이용 유의 사항도 안내된다.

방미통위는 지난 2월부터 전문가 연구반을 운영해 플랫폼 구성 및 제보절차, 인공지능 위험성 분류 등을 논의했으며, 7월과 9월 두 차례에 걸친 사업자 간담회를 통해 관련 제보가 사업자 서비스 개선으로 이어질 수 있도록 각계 의견을 수렴했다.

방미통위는 앞으로 플랫폼을 통해 수집된 제보를 통해 AI 서비스 위험성을 분석, 제도 개선 등 정책에 반영할 계획이다.

rao@yna.co.kr

(끝)

<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>