생성형 AI가 기업의 업무 환경에 도입되면서 사내 문서를 AI와 연결해 검색하고 필요한 정보를 찾거나 업무에 활용하려는 움직임이 이어지고 있다. 그동안 기업의 주요 문서는 부서와 사용자별 접근 권한을 설정하고 별도의 보안 정책 아래 관리해 왔다. 그러나 이러한 문서가 생성형 AI가 활용할 수 있는 데이터로 변환되는 과정에서 기존 보안 체계가 유지되지 않는 '보안 단절' 문제가 기업의 새로운 과제로 떠오르고 있다.
데이터 플랫폼 전문기업 인젠트는 이러한 문제에 대응하기 위해 문서 중앙화와 AI 데이터 변환·저장 과정을 연계한 ‘Document AI Platform’을 제시하고 있다.
기업이 보유한 PDF, PPT, HWP 등의 문서는 사람이 읽고 활용하기 위해 만들어진 데이터이다. 생성형 AI가 이들 문서를 검색하고 활용하기 위해서는 문서를 파싱(Parsing)하고 일정 단위로 나누는 청킹(Chunking), 데이터를 벡터 형태로 변환하는 임베딩(Embedding), 검색을 위한 인덱싱(Indexing) 등의 과정을 거쳐야 한다. 이렇게 변환된 데이터는 벡터DB에 저장되며, 사용자의 질문과 의미적으로 유사한 정보를 검색해 대규모언어모델(LLM)이 답변을 생성하는 데 활용된다.
문제는 이 과정에서 발생할 수 있는 보안의 단절이다. 기업의 원본 데이터 저장소에는 조직이나 부서, 문서 작성자, 개인 또는 팀별 접근 권한 등이 설정돼 있지만, AI 데이터로 변환되는 과정에서 이러한 보안 정책이 그대로 연계되지 않는다면 벡터DB에는 문서의 내용은 존재하지만 기존의 접근통제 정보는 충분히 반영되지 않는 상황이 발생할 수 있다. 인젠트는 이를 기업이 생성형 AI를 도입하는 과정에서 살펴봐야 할 데이터 보안 과제 중 하나로 보고 있다.
기업의 데이터와 조직 환경이 지속적으로 변화한다는 점도 고려해야 한다. 새로운 문서가 생성되는 동시에 기존 문서는 수정되거나 삭제되며, 조직개편이나 인사이동, 퇴사 등에 따라 사용자의 데이터 접근 권한도 달라진다. 원본 데이터에서 발생한 변화가 AI 데이터 영역에 제때 반영되지 않으면 원본과 AI 데이터 사이에 정합성 차이가 발생할 수 있다. 최초 구축 시점에 보안정책을 적용하는 것에 그치지 않고 문서와 조직의 변화에 따라 AI 데이터와 권한 역시 지속적으로 업데이트할 수 있는 체계가 필요한 이유이다.
또한 기업 내부의 수많은 문서와 사용자 권한을 사람이 관리하는 데에는 현실적인 한계가 있다. 문서의 내용과 중요도는 지속적으로 달라질 수 있으며 이에 따라 보안등급 역시 변경될 수 있다. AI 활용 범위가 넓어질수록 원본 데이터의 변경사항과 보안정책을 AI 데이터 영역까지 자동으로 연결하는 것이 기업 데이터 관리의 중요한 요소로 떠오를 수 있다. 기업이 보유한 수십만~수백만 건의 문서를 사람이 직접 판독해 등급을 지정하고 변경사항을 지속적으로 추적하기 어렵다는 점에서 자동화된 체계가 필요하다는 것이 인젠트의 설명이다.
인젠트의 ‘Document AI Platform’은 문서 중앙화 솔루션 ‘EDM’을 기반으로 기업 내부에 분산된 문서를 통합하고, 저장된 데이터를 파싱·청킹·임베딩·인덱싱하는 RAG 파이프라인과 이를 운영하는 RAGOps, AI 데이터를 저장·검색하는 자체 벡터DB ‘eXperDB’를 연계하는 구조이다.
핵심은 원본 데이터와 AI 데이터를 별도로 관리하는 것이 아니라 두 영역의 연결성을 유지하는 것이다. 회사에 따르면 중앙화 시스템에서 문서가 등록·변경·삭제될 경우 해당 변화가 AI 데이터 영역에도 반영되며, 원본 문서에 적용된 보안정책 역시 AI 데이터와 연계되도록 구성했다. 이를 통해 문서와 조직의 변화에 대응하면서 데이터와 AI 데이터 사이의 정합성을 유지하고 권한에 따른 데이터 활용 환경을 구현한다는 설명이다.
이러한 방식은 실제 구축 프로젝트에도 적용되고 있다. 인젠트는 2026년 N2SF 지원사업 수요기관으로 참여한 국내 공공 고객사를 대상으로 기존 망분리 환경을 차세대 지능형 업무환경으로 전환하는 프로젝트를 진행하고 있다. 해당 프로젝트에서는 개인 PC와 기존 시스템 등에 분산된 업무 데이터를 문서 중앙화 환경으로 통합하고, AI가 문서의 맥락을 분석해 기밀·민감·공개 등으로 등급을 분류하도록 구성했다. 이후 AI 사용자가 질문하면 접근통제 단계에서 사용자의 권한에 해당하는 데이터만 허용하고, 권한 범위를 벗어나는 데이터는 차단해 허용된 데이터가 LLM에 전달되는 구조를 적용하고 있다.
생성형 AI를 업무에 활용하는 범위가 확대될수록 기업이 고려해야 할 대상 역시 AI 모델 자체에서 이를 뒷받침하는 데이터 관리 영역으로 확장되고 있다. 사내 데이터를 활용하는 기업용 AI 환경에서는 어떤 데이터를 AI에 제공할 것인지뿐 아니라 원본 문서의 접근권한과 보안정책을 AI 데이터에서도 어떻게 일관되게 유지할 것인지가 함께 고려돼야 한다.
인젠트는 문서 중앙화부터 AI 데이터 변환과 저장, 사용자 권한에 따른 접근통제까지 연결하는 플랫폼을 통해 기업의 AI 활용 과정에서 발생할 수 있는 데이터 관리 공백에 대응한다는 계획이다.
김성혜 한경닷컴 기자 shkimmy@hankyung.com