한국이 미국·영국·일본에 이어 오픈AI와 인공지능(AI) 안전 협력 체계를 구축한 네 번째 국가가 됐다.
최첨단 AI의 고위험 분야 안전성을 공동으로 검증하고, 한국어와 한국 사회 맥락을 반영한 독자 평가 기준 마련에도 나선다.
과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화 업무협약(MOU)을 체결했다고 발표했다.
이번 협약은 지난해 10월 과기정통부와 오픈AI 간 업무협약 체결로 구축한 AI 협력 기반을 AI 안전 분야까지 확대하기 위한 것이다.
올해 두 차례에 걸쳐 과기정통부 제2차관과 오픈AI 고위 관계자 간 면담에서 논의된 안전 협력 방안을 바탕으로 양 기관 간 실질적인 협력을 본격화했다.
AI안전연구소와 오픈AI는 이번 협약을 통해 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식·모범사례를 공유하고, 한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환하기로 했다.
또 국제적으로 적용 가능한 AI 안전 평가 체계 마련을 위한 협력도 지속한다.
오픈AI가 각국 AI안전연구소와 업무협약을 체결한 것은 미국, 영국, 일본에 이어 한국이 네 번째다.
한국은 이번 협약으로 최첨단 AI의 위험 검증과 평가 기준 마련을 위한 국제 협력 네트워크에서의 역할을 한층 강화하게 됐다.
김명주 AI안전연구소 소장은 "AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 안전 평가는 필수가 되고 있다"며 "AI안전연구소는 오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고, 국제적으로 통용되는 평가 체계를 만드는 데 기여하겠다"고 밝혔다.
이상현 오픈AI 아시아태평양지역 정책총괄은 "한국은 AI 기술의 활용과 혁신이 빠르게 이뤄지고 있는 중요한 나라"라며 "이번 협력을 통해 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여하게 돼 뜻깊게 생각한다"고 말했다.