구글, AI 에이전트 활용한 공격 자동화 사례 확인…보안 위협 확대
아태 기업 절반 "AI 보안 대응 부족"…내년 AI 지출 4조 달러 전망

ADVERTISEMENT
(서울=연합뉴스) 박상현 기자 = 인공지능(AI)을 활용한 해킹이 빈발하는 가운데 취약점 탐지부터 공격 코드 개발까지 사람의 개입 없이 수행하는 자동화 공격 사례가 확인됐다.
구글 위협 인텔리전스 그룹(GTIG)은 러시아어 기반 도구로 구성된 대규모 언어모델(LLM) 프레임워크 '익스플로잇 에이전트'가 소프트웨어 보안 패치 적용 전후의 코드를 비교해 취약점을 찾아내고 공격 코드를 자동 개발했다고 밝혔다.
공격자가 AI에 일일이 명령하는 방식을 넘어 여러 AI 에이전트가 연계해 독자적으로 공격을 수행하는 자율형 프레임워크가 확산하면서 견고한 사이버 보안의 중요성이 커지고 있다.
◇ AI로 패치 전후 코드 변화 분석 자동화…취약점 노려
AI의 등장으로 사이버 공격 속도는 더욱 빨라지고 방법은 다양해졌다.
익스플로잇 에이전트의 사례를 보면 보안 패치가 배포됐어도 아직 적용되지 않은 시스템의 취약점을 신속하게 공격할 수 있는 것으로 보인다.
공격자는 LLM과 AI 에이전트를 이용해 패치 전후의 코드 변화 분석을 자동화하고, 인터넷에 노출된 서버를 대상으로 대규모 공격을 수행할 수 있게 됐다.
GTIG는 AI 모델에 대한 접근 권한을 탈취해 수익을 올리는 'LLM재킹'에도 주목했다.
공격자들은 기업 시스템에 침투해 LLM 인증 정보와 클라우드 자원을 탈취한 뒤 지하 프록시 서비스를 이용해 고성능 AI 모델의 접근 권한을 재판매하는 것으로 알려졌다.
AI는 사이버 공격뿐만 아니라 여론전에도 활용되고 있다.
국가 지원을 받는 해킹 조직과 여론 공작 대행업체 등은 LLM으로 가짜 콘텐츠를 대량으로 만들어 유포하고 있다.
GTIG는 구글의 AI 모델 '제미나이' 응용프로그램 인터페이스(API)를 활용해 10만개 이상의 가짜 계정을 관리하는 플랫폼을 구축한 사례도 있었다고 전했다.
ADVERTISEMENT

◇ 아태 기업인 50% "보안 솔루션 AI 대응 역량 부족"
글로벌 보안 기업 F5는 내년에 AI 기술 발전에 따른 사이버 공격 가속화가 두드러질 것이라고 전망했다.
F5는 '미토스'와 같은 AI 모델 등장과 'PHP2Shell' 취약점 사례를 들어 취약점 발견부터 실제 공격에 악용되기까지 걸리는 시간이 짧아지고 있다고 진단했다.
이 회사는 소프트웨어 패치만으로는 신속한 공격에 대응하기 어려워진 만큼, 패치가 완료되기 전 네트워크 접점에서 공격을 차단하는 '가상 패치' 등 에지 중심의 보안 체계가 중요하다고 강조했다.
F5는 대응 전략으로 AI 보안 상태 관리와 안전장치인 '가드레일', 자동화된 보안 테스트, AI 트래픽 모니터링 등을 통합한 AI 보안 플랫폼을 소개했다.
F5가 아시아·태평양 지역 기업 경영진을 대상으로 실시한 조사에서는 응답자 50%가 기존 보안 솔루션의 AI 대응 역량이 부족하다는 견해를 나타냈다.
응답자 35%는 자율형 AI 에이전트로 인한 데이터 유출을 우려했고, 53%는 민감 정보의 국외 이전을 허용하지 않는다고 밝혔다.
F5는 국가별 AI 인프라 투자가 늘고 데이터 보호 규제가 강화되면서 기업들이 데이터 저장 위치뿐 아니라 보안 정책·감사 체계까지 고려해야 한다고 설명했다.
◇ AI 지출 48% 증가 예상…최적화 서버는 81% 늘어날 듯
내년 전 세계 AI 관련 지출액이 올해보다 47.5% 많은 약 4조 달러(약 5천386조원)에 이를 것이라는 전망도 나왔다.
글로벌 시장조사기관 가트너는 이러한 예상과 함께 내년 AI 지출 가운데 59%인 약 2조4천억 달러(약 3천232조원)가 인프라에 투입될 것이라는 분석을 내놨다.
AI 인프라 투자 확대는 AI 모델의 추론과 학습에 필요한 컴퓨팅 자원 수요가 급증한 데 따른 것이다.
존 데이비드 러브록 가트너 수석 부사장 애널리스트는 "추론 워크로드를 확장하려는 사용자 수요가 예상보다 빠르게 늘고 학습 워크로드에도 갈수록 많은 컴퓨팅 자원이 필요해지고 있다"고 설명했다.
가트너는 내년 AI 최적화 서버 지출이 81.4% 늘어나 1조 달러(약 1천346조원)에 육박할 것으로 전망했다.
초대형 클라우드 사업자인 하이퍼스케일러와 AI 인프라 전문 사업자인 네오클라우드의 지속적인 투자 확대, 메모리 가격 상승 등이 영향을 미친 결과다.
아울러 가트너는 내년 세계 AI 서비스 지출이 29.5%, AI 소프트웨어 지출이 42% 각각 증가할 것으로 예상했다.
psh59@yna.co.kr
(끝)
ADVERTISEMENT
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT