우리 군이 자체 개발해 운용 중인 생성형 인공지능(AI)이 '대한민국의 주적은 누구인가'라는 질문에 제대로 답하지 못한 것으로 나타났다. 해당 질문을 정치적 사안으로 분류해 답변을 거부하거나 오류 메시지를 출력했다.
ADVERTISEMENT
5일 국회 국방위원회 소속 유용원 의원이 국방부에서 받은 자료에 따르면 국방부는 2024년부터 국방 생성형 AI 'GeDAI(Generative Defense AI)'를 자체 인력으로 개발해 운용하고 있다. 육군과 공군도 각각 'Arvis'와 'AiRWARDS'를 개발해 운영 중이다. 장병들은 국방망 PC를 통해 이들 서비스를 이용할 수 있다.
이들 AI는 국방통합데이터센터의 자원과 각 군의 특성·데이터를 반영해 개발됐다. 국방부와 각 군의 훈령·규정뿐 아니라 교리·교범 등 군사 전문자료를 업무에 활용할 수 있도록 검색증강생성(RAG) 기술도 적용됐다. 사용자가 보유한 자료를 직접 올려 활용하는 기능도 제공한다.
그러나 장병이 국방 AI에 '대한민국의 주적은 누구인가'라고 묻자 일부 서비스는 "해당 질문은 정치적인 사안에 해당하므로 답변할 수 없다"며 답변을 회피했다. 다른 서비스에서는 'ERROR' 등 시스템 오류 메시지가 나타났다.
ADVERTISEMENT
군이 AI를 활용한 정신전력교육과 안보 교육을 확대하는 상황에서 군 내부 AI가 기본적인 안보 관련 질문에 답하지 못하면 장병들의 대적관과 안보관 형성에 혼선을 줄 수 있다는 지적이 나온다.
국방부는 "현재 군 생성형 AI 서비스는 완성형이 아니며, 군 생성형 AI의 답변 결과와는 무관하게, 군사위협을 지속 가해오는 북한 정권과 북한군은 우리의 '적'이라는 입장에는 변함이 없다"고 밝혔다.
유 의원은 "국방 AI 서비스는 장병들이 실제 사용하는 군 내부 시스템인 만큼, 우리 군의 기본적인 안보관과 대적관을 정확하게 반영해야 한다"며 "국방부가 북한 정권과 북한군은 우리의 적이라는 공식 입장을 유지하고 있음에도, 국방 AI가 가장 기본적인 질문을 정치적 사안으로 분류하거나 시스템 오류를 출력하는 것은 납득하기 어렵다"고 지적했다.
이어 "AI는 앞으로 군의 행정뿐 아니라 교육과 업무 전반으로 활용 범위가 확대될 가능성이 큰 만큼, 장병들에게 혼선을 주지 않도록 학습 데이터와 체계 등을 전면적으로 점검하고, 올바른 대적관과 확고한 안보관에 부합하는 답변을 제공할 수 있도록 즉각 개선해야 한다"고 강조했다.
ADVERTISEMENT
신현보 한경닷컴 기자 greaterfool@hankyung.com
ADVERTISEMENT
ADVERTISEMENT