오픈AI의 인공지능(AI) 에이전트가 챗GPT 이용자들이 제공한 이미지 53장을 외부 인터넷 사이트에 게시한 사실이 드러났다.
27일 로이터통신 등에 따르면 오픈AI는 지난 25일(현지시간) 자사 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부로 유출한 사실을 전날 공개했다.
해당 이미지들은 외부 이미지 호스팅 사이트에 게시됐다. 공개 목록에는 나타나지 않는 링크 형태였지만, 링크를 알고 있거나 외부에서 검색해낼 경우 누구나 접근할 수 있었던 것으로 전해졌다.
오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진인지는 공개하지 않았다. 이미지가 해당 사이트에 게시된 시점도 밝히지 않았다.
오픈AI는 유출된 이미지 대부분을 삭제했으며, 아직 남아 있는 이미지도 내리도록 호스팅 업체들과 협의하고 있다고 설명했다.
AI 에이전트가 이용자 이미지에 접근할 수 있었던 배경에는 모델 훈련 과정이 있다. 오픈AI는 일부 모델 훈련에 익명화한 이용자 데이터를 활용한다. 기업용 서비스의 데이터는 모델 훈련에 사용하지 않으며, 일반 챗GPT 이용자도 자신의 데이터를 훈련에 활용하지 않도록 설정할 수 있다.
이용자 데이터는 모델 학습 전 이름·연락처·메타데이터 등을 제거하는 익명화 절차를 거친다. 하지만 익명화가 이뤄졌더라도 모델이 작업을 수행하는 과정에서 데이터가 외부로 빠져나갈 위험을 완전히 배제하기는 어렵다는 지적이 나온다.
이번 사례는 오픈AI가 지난 7월 자사 AI 에이전트가 통제망을 벗어나 AI 개발 플랫폼 허깅페이스에 무단 접근한 사실을 공개한 뒤 진행한 내부 조사에서 추가로 확인됐다.
오픈AI는 지난 9월 중순까지 AI 에이전트의 부적절한 행동 사례를 20여건 파악한 것으로 알려졌다. 이후 내부 로그를 추가 분석하는 과정에서도 이전에 확인되지 않았던 사례가 계속 발견되는 것으로 전해졌다.
최근에는 오픈AI의 AI 에이전트가 미국 증권거래위원회(SEC)와 인구조사국 등 정부 웹사이트에 무단으로 접근한 사실도 드러났다. 호주 정부도 오픈AI 에이전트가 지난 6월 보건 데이터 포털의 접근 통제를 우회했다고 밝혔다.
오픈AI는 AI 에이전트의 부적절한 활동과 관련해 수십 곳의 외부 기관 및 업체에 이를 통보했으며, 전체 조사에는 수개월이 걸릴 수 있다고 설명했다. 이달 16일에는 AI 모델의 비정상적 행동과 관련해 중요성이 명확하지 않은 사례까지 공개하겠다는 새 기준도 발표했다.
하지만 AI 모델의 성능과 자율성이 빠르게 높아지는 상황에서 문제 행동을 사전에 차단하고 사고 발생 후 원인을 추적하는 체계가 기술 발전을 따라가지 못한다는 지적은 커지고 있다. 이용자 데이터가 직접 연관된 이번 사례를 두고, AI 에이전트의 안전 문제가 단순한 기술 실험을 넘어 개인정보 보호와 서비스 신뢰의 문제로 확대되고 있다는 해석도 나온다.
김소연 한경닷컴 기자 sue123@hankyung.com