중국계 인공지능(AI) 도구가 한국과 일본을 비롯한 세계 각국의 사이버 공격에 악용되면서 보안 위협이 커지고 있다. 개발자가 악용을 우려해 공개를 중단했지만, 이미 배포된 프로그램을 개조한 변종이 확산하고 있다. 특히 미국과 중국의 첨단 AI 모델을 결합해 기존 보안 장치를 우회하는 수법까지 등장했다.
24일 일본 니혼게이자이신문에 따르면 중국계 AI 도구 '아르텍스(ARTEX)'를 악성 개조한 프로그램이 확산하고 있다. 아르텍스는 AI가 자율적으로 모의 공격을 수행하며 시스템의 보안 취약점을 찾아내는 'AI 에이전트'형 도구다.
당초 보안 연구와 기술 검증을 목적으로 개발됐지만 실제 사이버 공격에 악용되기 시작했다. 미국 마이크로소프트는 중국 정부와 연관된 해커 집단이 아르텍스를 이용해 전 세계 수백 개 기업과 조직을 공격 대상으로 삼았다고 밝혔다. 지난 9월 이후 한국 금융기관을 겨냥한 사이버 공격에 사용됐으며 일본을 공격하는 데도 활용됐다는 지적이 나왔다.
개발자는 악용 사례가 잇따르자 프로그램 공개를 중단했다. 그러나 이미 다운로드된 프로그램을 제3자가 개조하면서 공격 능력이 오히려 강화되고 있다.
일본 컨설팅 회사 마카이라의 마쓰모토 유스케 수석 컨설턴트는 "공개 중단 이전에 다운로드된 프로그램이 계속 사용되고 있으며 원격 접속과 취약점 탐색 등 용도별로 특화된 변종이 이미 등장했다"고 설명했다.
아르텍스가 누구나 소스코드를 수정할 수 있는 오픈소스 방식으로 개발된 점이 악용을 부추기고 있다. 해커들이 데이터 탈취 등에 사용되는 기존 프로그램과 결합하면서 공격 수법도 한층 정교해지고 있다.
특히 주목되는 것은 중국 AI뿐 아니라 미국의 첨단 AI 모델도 사이버 공격에 동원되고 있다는 점이다. 미국 보안업체 클라우드스트라이크에 따르면 한국 금융기관을 공격하는 과정에서 아르텍스는 중국 딥시크의 AI 모델을 활용했다. 미국의 AI 모델인 그록도 사용됐으며, 오픈AI의 'GPT-6 Sol'을 공격에 활용할 수 있었다는 보고도 나왔다.
이 같은 공격이 가능한 것은 여러 AI 모델에 역할을 나눠 맡기는 '분업' 방식 때문이다. 미국의 주요 AI 모델에는 악의적인 명령을 거부하는 안전장치가 적용돼 있지만, 아르텍스는 복잡한 공격 과정을 작은 작업으로 분리해 각각의 AI에 지시한다. 개별 AI 모델은 자신이 수행하는 작업이 전체 사이버 공격의 일부라는 사실을 인식하지 못해 악용 방지 장치가 제대로 작동하지 않을 수 있다.
아르텍스와 비슷한 오픈소스 AI 도구인 '스트릭스(Strix)'도 등장했다. 전문가들은 이러한 도구가 확산하면 사이버 범죄의 양상이 근본적으로 달라질 수 있다고 경고한다.
기존에는 해커들이 대기업 등 특정 조직을 집중적으로 공격했다면, 앞으로는 AI를 활용해 하루 24시간 자동으로 취약점을 찾아내고 침입 가능한 기업을 무차별적으로 공격할 수 있기 때문이다. 보안 인력이 부족한 중소기업도 주요 표적이 될 가능성이 커지고 있다.
전문가들은 기업들도 AI를 활용해 보안 취약점을 선제적으로 발견하고 신속히 수정하는 방어 체계를 구축할 필요가 있다고 지적한다.
도쿄=최만수 특파원 bebop@hankyung.com