국회 과학기술정보방송통신위원회 소속 조인철 더불어민주당 의원이 '우리아이 인공지능(AI) 안심 패키지법'을 대표발의했다고 23일 발표했다. 아동과 청소년들을 대화형·생성형 AI의 유해 정보로부터 보호하자는 취지의 법안이다.
패키지법은 인공지능기본법과 정보통신방법 개정안으로 구성된다. 인공지능기본법에선 아동·청소년을 'AI 취약계층'에 포함하도록 했다. 이에 따라 국가 AI 기본계획에 피해 예방 및 보호 사항을 반영하도록 국가 차원의 책임을 부여했다.
함께 발의된 정통망법 개정안에선 대화형·생성형 AI 서비스 제공자에게 아동·청소년 보호 의무를 부과했다. 이용자 연령 및 본인 확인, 아동·청소년 이용 시 법정대리인 동의가 기본 사항으로 구성됐다. 여기에 아동·청소년이나 법정대리인의 요청이 있으면 이용 방법이나 시간을 제한하고, 이용자 참여 대화의 일시·내용 등 정보를 제공할 수 있도록 했다. 자살·자해·마약류 오남용·성적 착취 등 위험 노출에 대한 신고 시스템 구축도 의무화했다.
조 의원은 AI 챗봇이 아동·청소년에 미치는 파급력이 커지고 있다는 점을 법안 필요성의 핵심 요인으로 제시했다. 실제로 아동복지기관 초록우산의 조사에 따르면 아동·청소년 94.4%가 생성형 AI 챗봇을 쓰고 있으며, 응답자 49.5%가 "AI로부터 자신을 이해받는다고 느낀다"고 답했다. 하지만 이런 영향력에 비해 자살·자해 등 유해 질문이 제대로 차단되고 있지 않다는 점이 발의 배경이 됐다.
조 의원은 "이제 아이들은 사람뿐 아니라 AI와도 관계를 맺고 고민을 털어놓고 정보를 얻는 시대를 살고 있다" 며 "AI가 아이들의 일상에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다"고 말했다.
이시은 기자 see@hankyung.com