AI안전연구소 "다학제 융합 AI 안전 인재 양성"
시민단체·산업계·학계 전문가 마스터플랜 내용 조언
(서울=연합뉴스) 조성미 기자 = 과학기술정보통신부는 6일 서울 중구 은행회관에서 한국정보통신기술협회(TTA), 인공지능안전연구소와 가칭 '국가 인공지능(AI) 안전 생태계 조성 마스터플랜' 수립을 위한 간담회를 열어 전문가 의견을 수렴했다.
과기정통부는 AI를 안전하게 활용할 수 있는 환경을 구축하기 위한 마스터플랜 수립을 준비하면서 국민 공감대 형성을 도모하고 산업 현장의 의견을 듣기 위해 간담회를 마련했다.
김명주 인공지능안전연구소장은 발제에서 안전한 AI 활용 기반을 마련하기 위한 연구소 활동을 소개했다.
그는 AI 안전 평가와 법 제도 표준을 만들고 안전성 검사를 위한 연구소의 테스트베드 인프라를 기업, 연구자와 공유하겠다고 발표했다.
이어 AI안전융합센터를 기반으로 AI 안전에 관한 다학제 융합 인재 양성 계획을 세우고 있다고 밝혔다.
인공지능안전연구소는 AI와 결합해 파장이 커질 수 있는 대량파괴 무기 문제 등을 다루기 위한 화학·생물학 분야 다학제 융합 인재를 2027년부터 150명 이상 배출할 계획이다.
토론에서는 시민사회계, 학계, 산업계 전문가들이 AI 안전성 확보에 대한 의견을 내놨다.
이지은 참여연대 선임간사는 "공공기관에서도 AI에 의한 채용 시스템이 있다는 감사 결과가 있었는데 AI가 결정한 합력·탈락 이유를 당사자가 알 수 있는지, 이의 제기를 할 수 있는지 여부가 불투명하다"며 AI가 점차 많은 영역에서 활용되는 시점에서 촘촘한 안전망을 주문했다.
김경훈 카카오[035720] AI세이프티 리더는 "AI 오픈소스 커뮤니티에서 안전성에 대한 논의가 확산해야 하는데 한국 커뮤니티 상황이 글로벌 대비 빈약한 편"이라며 AI 안전 생태계 조성 마스터플랜에 한국어 평가 데이터셋, 안전 기술이 담겨야 한다고 제언했다.
이상근 고려대학교 정보보호대학원 교수는 "AI 안전에 대해 우리는 주로 범용 AI에 관해서만 논의하는데 독일은 금융, 의료 등 각론으로 접근 중인 점을 참고해야 하며 AI에 의한 보안 위협에 대한 논의도 확대돼야 한다"고 강조했다.
과기정통부는 간담회에서 나온 의견을 국가 AI 안전 생태계 조성 마스터플랜에 반영, 상반기 중 구체적인 내용을 발표할 예정이다.
csm@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>