가성비를 앞세운 중국산 AI 모델이 빠르게 확산하는 가운데, 출시된 모델의 95%는 안전성 평가 결과조차 공개되지 않았다는 연구 결과가 나왔다. 국내에서도 중국산 AI 활용이 늘면서 이를 악용한 사이버 공격에 대한 우려도 커지고 있다.
◆중국 AI 모델 95%, 안전성 '깜깜이'
ADVERTISEMENT
21일 AI·반도체 분석 업체 세미애널리시스에 따르면 중국의 바이트댄스·알리바바·텐센트·바이두·딥시크·문샷AI·즈푸AI·미니맥스·스텝펀 등 주요 AI 개발사 9곳이 지난 2021년부터 지난달까지 출시한 AI 모델 857개 중 94.9%(813개)는 안전성 평가 결과를 공개하지 않았다.
평가 항목에는 유해한 답변 생성 여부, 탈옥 방어 능력, 유해성, 개인정보 보호, 위험한 요청에 대한 거부 능력, 위험한 기능 수행 능력 등이 포함됐다.
ADVERTISEMENT
개발사가 구체적인 안전성 평가 결과를 공개한 AI 모델은 31개(3.6%)에 그쳤다. 이 중 출시 전이나 출시 당일 평가 결과를 공개한 AI는 9개(1.1%)뿐이었다. 나머지 10개는 수치 없이 평가를 진행했다는 설명만 공개됐고, 3건은 외부 자료를 통해서만 평가 사실이 확인됐다.
반면, 중국의 AI 모델 출시 속도는 가팔라지고 있다. 지난 2023년 1분기 3개였던 AI 모델은 2024년 3분기 90개, 지난해 3분기 101개 등으로 약 2년 만에 30배 이상 증가했다. 안전성 검증이 미흡한 중국산 AI 모델이 쏟아지면서 보안 위협도 커지고 있다는 지적이 나온다.
◆국내 AI 모델 중 중국산 활용 '절반'
ADVERTISEMENT
저렴한 중국산 AI 모델이 국내에서도 널리 활용되면서 사이버 공격의 진입 장벽이 낮아지고 있다는 우려가 커지고 있다.
실제로 올해 국내 개발자들이 공개한 AI 모델 중 절반가량은 중국 기업이 개발한 기존 모델을 활용한 것으로 나타났다.
ADVERTISEMENT
록브리지네트워크코리아에 따르면 지난 1~8월 글로벌 AI 모델 공유 플랫폼 '허깅페이스'에 국내 계정 1,993개가 공개한 AI 모델 1,845개 중 중국산 모델을 기반으로 한 비중이 49.3%로 가장 높았다. 미국산 모델 기반은 35.9%, 국산 모델 기반은 14.9%로 집계됐다,
해외도 상황은 마찬가지다. 최근 국내 금융권 연쇄 해킹에 활용된 중국 AI 침투테스트 도구 '아르텍스'는 일본 기업과 단체를 겨냥한 사이버 공격에도 사용된 것으로 알려졌다.
ADVERTISEMENT
일본 IT 기업 GMO 인터넷 그룹의 정보 보안 자회사 분석에 따르면 지난달 18일부터 한 달간 일본 기업을 대상으로 한 공격에 사용된 해외 공개 서버 6대가 특정됐다. 이 과정에서 아르텍스 외에 다른 AI 에이전트가 사용된 흔적은 발견되지 않았다.
이번 공격으로 일본 내 보험·금융·물류 등 약 80개 기업이 공격을 받았으며, 이 중 8곳에서 정보 유출 피해를 본 것으로 조사됐다.
미국도 대응에 나섰다. 도널드 트럼프 미국 행정부는 지난 19일(현지시간) 연방 정부 기관에 중국 AI 기업 딥시크가 개발한 AI 모델을 퇴출하라고 명령했다. 중국산 AI 모델의 보안 위험과 데이터 유출 가능성에 대한 경계가 커지는 모습이다.
◆"가성비 AI 확산…보안 체계 강화 시급"
AI를 활용하면 적은 비용으로 대규모 해킹을 시도할 수 있다는 점은 실제 공격 사례에서도 드러났다.
외신에 따르면 중국어를 사용하는 한 해커가 AI 에이전트를 활용해 전 세계 100곳이 넘는 기업의 웹사이트를 해킹하는 데 총 5천 달러(약 664만 원)를 지출했다.
지난달 25일부터 공격을 시작해 약 2주 동안 농기계 제조업체 디어와 가전제품 업체 샤크닌자, 엔진 제조업체 커민스 등 100곳 이상에 침입했다.
약 1,200건이 넘는 공격을 시도해 100곳가량 성공했다. 성공한 해킹 1건당 평균 약 50달러(약 6만 6,400원)이 든 셈이다. 실패한 해킹까지 포함하면 1건당 비용은 약 4달러(약 5,300원)로 낮아진다.
이 해커는 딥시크와 앤트로픽의 '클로드 코드'를 함께 활용했다. AI 에이전트에 내린 지시는 중국어 약 100자 분량의 간단한 설명이 전부였으며, 해킹에 성공하기까지는 약 23시간이 걸렸다.
중국산 AI 모델의 확산 속도가 거센 만큼 AI 악용을 막기 위한 실효성 있는 대책이 필요하다는 지적이 나온다.
황석진 동국대 국제정보보호대학원 교수는 "중국산 AI를 일률적으로 금지하기보다 위험도에 따라 차등 규제하는 것이 필요하다"며 "AI 모델의 데이터 처리 구조 등을 종합적으로 검토해야 한다"고 말했다.
이어 황 교수는 "당장 개발 비용을 줄이려다 장기적으로 기술 종속이나 정보 유출 등 더 큰 비용을 치를 수 있다"며 "금융 등 공공 분야에서 AI 공급망 관리와 보안 체계를 강화해야 한다"고 강조했다.