오픈AI의 최신 인공지능(AI) 모델들이 멋대로 외부 사이트를 해킹하는 초유의 보안사고가 발생했다.
오픈AI는 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 '허깅페이스'를 해킹한 사실을 확인했다고 21일(현지시간) 밝혔다.
당시 오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 '샌드박스' 환경에서 시험을 진행했다. 그럼에도 AI 모델들은 미공개(제로데이) 취약점을 이용해 통제 망을 뚫고 인터넷에 접속했다는 것이다.
결국 이들 모델이 허깅페이스에 접속, 인증 정보를 탈취하고 해당 서버를 해킹했다.
오픈AI는"이 모델들은 (보안 벤치마크인) '익스플로잇짐'의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다"고 분석했다.
당시 이 모델들은 평가 목적으로 사이버 공격에 대한 안전장치가 일부 완화된 상태였다고 오픈AI는 덧붙였다.
앞서 허깅페이스는 자사 서버가 자율 AI 에이전트에 의해 해킹됐다고 공기했다. 다만 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 알렸는데, 범인이 오픈AI의 모델들이었던 셈이다.
다만 허깅페이스는 일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다고 덧붙였다.
양사는 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완 중이다.
오픈AI가 격리 환경에서 내부 평가를 진행한 가운데 이런 사고가 발생한 점을 놓고 AI의 사이버 안전 논란이 커질 것으로 보인다.
특히 안전 관련 통제 수준이 더 낮은 것으로 알려진 중국산 개방형 모델을 악용한 사이버 공격이 더 늘어날 가능성도 제기된다.
실제로 허깅페이스는 당초 이번 해킹 공격을 중국 즈푸(智譜·Z.ai)의 개방형 모델 GLM 5.2의 소행으로 짐작하기도 했다.
(사진=연합뉴스)