어떤 정보·도구 제공하느냐에 따라 AI 업무 성과 좌우
에이전트 시대 새 경쟁력으로 떠오른 컨텍스트 엔지니어링
(서울=연합뉴스) 유현민 기자 = 생성형 인공지능(AI)을 잘 활용하는 방법으로 '프롬프트 엔지니어링'이 주목받았다면, 최근에는 AI에 어떤 질문을 던질지보다 AI가 업무를 수행하는 데 필요한 정보를 어떻게 구성하고 제공할 것인가가 새로운 과제로 떠오르고 있다.
이른바 '컨텍스트 엔지니어링'(Context Engineering)이다.
ADVERTISEMENT
◇ 프롬프트 넘어 데이터·업무 이력·도구까지…AI가 일할 '맥락' 설계
컨텍스트 엔지니어링은 AI가 특정 작업을 수행하는 데 필요한 지시와 정보, 데이터, 이전 대화 내용 등을 선별하고 구성해 적절한 시점에 제공하는 방식을 말한다. 단순히 프롬프트를 정교하게 작성하는 것을 넘어 AI가 현재 상황과 업무 목적을 이해하고 적절히 작업할 수 있도록 필요한 '맥락'을 설계하는 데 초점을 맞춘다.
예를 들어 AI에게 "다음 주 회의 자료를 작성해 달라"고 요청하는 것은 프롬프트를 활용하는 방식이다. 반면 기존 회의록과 보고서, 고객 정보, 최신 매출 자료를 함께 제공하고 어떤 형식과 기준으로 작성해야 하는지까지 설정하면 AI가 업무를 수행하는 데 필요한 맥락을 설계하는 컨텍스트 엔지니어링에 가깝다.
같은 AI 모델을 사용하더라도 어떤 정보를 제공하느냐에 따라 결과가 달라질 수 있는 이유다.
컨텍스트에는 사용자의 이전 대화와 업무 이력, 외부 문서와 데이터베이스 등 정보뿐 아니라 AI가 활용할 수 있는 도구와 업무 규칙, 권한 설정 등이 포함될 수 있다. 필요한 정보를 적절한 시점에 제공하는 것은 물론 불필요하거나 오래된 정보를 줄여 AI가 핵심 내용을 놓치지 않도록 하는 것도 중요하다.
◇ AI 에이전트 확산에 '맥락 관리' 중요…데이터·도구·권한이 경쟁력
특히 AI가 단순한 질의응답을 넘어 여러 단계를 거쳐 스스로 업무를 처리하는 'AI 에이전트'로 발전하면서 컨텍스트 관리의 중요성이 커지고 있다.
가령 여행 계획을 세우는 AI 에이전트가 항공권과 호텔을 검색하고 일정을 작성하려면 단순히 "여행 계획을 짜 달라"는 요청만으로는 부족하다. 여행 날짜와 예산, 출발지, 숙소와 항공편 선호도 등 이용자의 상황을 파악해야 한다. 예약이나 결제 단계에서는 사용자가 허용한 권한과 승인 여부도 함께 고려해야 한다.
업무용 AI도 마찬가지다. AI가 회사 내부 문서를 참고해 보고서를 작성하거나 고객 문의에 답하려면 관련 자료와 최신 정보, 보안 규정 등을 정확히 파악해야 한다. 잘못되거나 불완전한 정보가 제공되면 AI가 그럴듯하지만 실제 상황과 다른 결과를 내놓을 가능성도 커진다.
이에 따라 AI 업계에서는 프롬프트를 한 번 잘 작성하는 능력을 넘어, AI가 업무 과정에서 필요한 정보를 찾아 활용할 수 있도록 데이터와 도구, 권한 등을 설계하는 역량이 중요해지고 있다는 분석이 나온다.
자동차에 목적지만 입력하는 것이 프롬프트 엔지니어링이라면, 컨텍스트 엔지니어링은 교통 상황과 도로 정보 등 주변 조건까지 반영해 최적의 경로를 찾도록 하는 것에 비유할 수 있다.
AI 활용의 경쟁이 '무엇을 물어볼 것인가'에서 'AI가 무엇을 알고 일하게 할 것인가'로 이동하고 있다. AI가 사람의 업무를 보조하는 것을 넘어 실제 작업을 수행하는 시대가 열리면서 필요한 정보를 선별하고 맥락에 맞게 연결하는 컨텍스트 엔지니어링 역량이 새로운 경쟁력으로 떠오르고 있다.
hyunmin623@yna.co.kr
(끝)
ADVERTISEMENT
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT