배경훈 부총리, 연구소 현장 방문…"올해 AI 안전 종합계획 마련"

배경훈 부총리 겸 과학기술정보통신부 장관은 23일 인공지능(AI) 안전연구소를 방문해 연구 평가 현장을 살피고 산·학·연 전문가들과 간담회를 개최했다.

최근 AI를 활용해 사람의 음성, 얼굴들을 합성하거나 조작하는 딥페이크를 악용한 피해가 발생하고 있고, 다가올 범용인공지능(AGI), AI 에이전트 시대에 새로운 유형의 피해가 발생할 우려가 있어, 현재의 AI 안전 확보 기술 현황을 살피기 위해서다.

배경훈 부총리는 이날 안전연구소의 AI 연구 평가 현장을 방문해 ▲딥페이크 탐지 기술 ▲미래 AI 위험 연구 ▲AI 안전 평가 수행 ▲AI 안전 정책 및 글로벌 AI 협력 등을 수행하는 직원들을 격려하고 AI 안전과 관련된 의견을 청취했다.

또한 최근 불거지고 있는 딥페이크의 악용 문제 해결과 AI 에이전트의 안전성·신뢰성 확보를 위해 산업계, 학계, 연구계 등 관련 전문가 15명과 함께 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연을 진행했다.

이어 AI의 지속 가능한 혁신과 안전과 신뢰의 균형을 갖추면서 건전한 AI 환경을 구축할 수 있도록, AI 위험 대응을 위한 기술 개발 현황과 AI안전 생태계 조성 방안이라는 주제로 간담회를 진행했다.

배경훈 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며, “AI 안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 올해 내에 국가AI 안전 생태계 조성 종합계획을 마련할 계획”이라고 밝혔다.