비드래프트(VIDRAFT, 대표 김민식)가 네이버클라우드와 협업해 과학기술정보통신부의 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업에 참여한다고 10일 밝혔다.
사이버 위협에 대응하고 국내 독자적인 보안 특화 AI 기술 역량 확보를 위해 추진되는 이번 사업에서 비드래프트는 자체 개발한 AI 안전성 진단 시스템 ‘AX-RAY’를 핵심 기술로 적용한다.
ADVERTISEMENT
정부는 이달부터 10개월간 B200 GPU 256장을 지원하며, 네이버클라우드와 비드래프트는 최종 매개변수 7000억개(700B)급 전문가 혼합(MoE) 구조의 보안 특화 파운데이션 모델 구축을 목표로 하고 있다.
비드래프트는 지난달 13일 AX-RAY 리더보드와 평가 데이터셋을 허깅페이스에 공개했다. 회사 측에 따르면 117개 진단항목을 각국 법률·규범(아랍권 율법 포함)에 매핑한 평가 체계로 범용 AI 모델을 실측한 결과, 일부 모델에서 실제 인과 누설 신호가 확인됐다.
ADVERTISEMENT
AX-RAY가 진단하는 ‘인과 누설(Causal Leakage)’은 AI 모델이 정상적인 추론 경로가 아닌 숨은 정보나 의도하지 않은 인과적 단서에 영향을 받아 판단·행동하는 현상을 의미한다. 비드래프트는 이러한 구조적 문제가 기존의 일반적인 벤치마크 점수만으로는 확인하기 어려울 수 있다고 보고 관련 진단 기술을 개발하고 있다.
앞서 진행한 코드 수준 연구에서는 오픈소스 라이브러리 transformers 5.7.0의 청크 스캔 구현에서 입력·출력 청크 축을 다르게 처리하는 부분을 발견했다고 회사 측은 밝혔다. 실제 모델 검사 결과 Zamba2-1.2B는 선언된 청크 크기 256부터, Nemotron-H-8B는 128부터 누설이 시작되는 것으로 나타났다. 반면 Bamba-9B, Falcon-H1, Granite-4.0-H, Mamba2, RecurrentGemma 등 비교 모델에서는 같은 현상이 확인되지 않았다는 설명이다.
비드래프트는 해당 연구 성과를 AX-RAY 진단 기술로 연결하는 한편, 섭동 응답과 프리픽스 불변성에 기반해 모델의 인과 누설 여부를 자동 판별하는 방법에 대한 특허 출원도 추진하고 있다.
회사 측은 AX-RAY가 정책 체크리스트나 정성적 레드팀 도구와 달리 실제 코드와 실행 결과를 통해 AI의 구조적 안전성을 계측하는 기술적 근거를 갖췄다고 설명했다.
ADVERTISEMENT
김민식 대표는 “AX-RAY로 축적한 AI 안전성 진단 기술을 바탕으로, 네이버클라우드와 함께 국내 AI 모델의 사이버보안 문제 해결 능력을 높이는 데 기여하겠다”고 말했다.
비드래프트는 2024년 서울AI허브에 입주한 딥테크 AI 기업으로, QuantumOS, AETHER·Darwin 등 자체 프롬스크래치 파운데이션 모델과 AI 안전성 진단 기술을 개발하고 있다.
ADVERTISEMENT
배경민 한경닷컴 기자 bkm@hankyung.com
ADVERTISEMENT