기업들이 앞다퉈 인공지능(AI)을 도입하고 있지만 실제 성과로 이어지는 사례는 제한적이란 지적이 나왔다. AI 도구를 보급하고 파일럿 과제를 늘리는 것만으로는 전사적 AI 전환(AX)에 도달하기 어렵다는 설명. AX가 잘되려면 조직 내에 AI 활용 역량을 '내재화'하는 것이 선결 과제로 꼽히는데, '선도 사용자(키맨)'를 적극 활용하는 방식이 효과를 볼 수 있다는 조언이 뒤따랐다.
한경미디어그룹은 7일 서울 여의도 FKI타워 그랜드볼룸에서 '2026 대한민국 AX 대상' 시상식과 함께 '2026 한경 AX 서밋'을 열고 국내 주요 기업들의 AX 전략을 논의했다. 행사는 '상상을 현실로, AI가 바꾸는 비즈니스 혁신'을 주제로 마련됐다. 이 행사는 한경닷컴과 한국인공지능·소프트웨어산업협회(KOSA)가 주관하고 과학기술정보통신부·정보통신산업진흥원(NIPA)이 후원한다.
기조강연을 맡은 김수연 한국딜로이트 컨설팅 파트너는 '그룹사의 AI 역량 내재화'를 주제로 전 계열사에 AI 활용 역량을 확산하고 AX 성과를 만드는 방안을 발표했다. 김 파트너는 "AI의 잠재력과 비즈니스에서의 실질적인 적용 성과에 대한 상이한 평가가 병존한다"고 했다. AI에 대한 기대는 커졌지만 조직 안에서 성과로 바꾸는 과정에 병목이 있다는 의미다.
김 파트너는 글로벌 기업의 AI 도입률이 지난해 88%로 높아졌다고 전했다. 하지만 생성형 AI 파일럿 프로젝트 중 95%는 아직 뚜렷한 성과를 내지 못하고 있다. AI를 도입한 기업 가운데 80% 이상은 수익성 효과를 체감하지 못한 것으로 나타났다.
직원 단위 활용도도 낮았다. 회사에서 승인한 AI 도구 접근권을 가진 직원 비중은 2024년 40%에서 지난해 60%로 늘었다. 딜로이트·포춘 최고경영자(CEO) 조사에선 'AI 및 자동화'를 전략적 투자 우선순위로 꼽은 응답이 향후 12개월 기준, 향후 3년 기준 모두 50%로 조사 항목 가운데 가장 높게 나타났다.
하지만 실제 활용자는 전체 직원 중 약 36%에 머물렀다. 근로자의 49%는 업무에서 AI를 전혀 사용하지 않는다고 답했고, 매일 사용한다는 응답은 12%에 그쳤다. 김 파트너는 "일반 직원 수준에선 아직 일상적인 업무 습관으로 자리를 잡지 못하고 있다"고 꼬집었다.
파일럿 프로젝트와 실제 운영 단계의 간극도 컸다. 기업들 88%가 하나 이상의 업무 기능에서 AI를 활용하고 있지만 'AI가 전사적으로 완전히 배포·통합됐다'고 답한 비율은 7%에 불과했다. 김 파트너는 "기업 단위의 AI 파일럿은 단순 기술 검증뿐 아니라 실 운영 확산을 전제로 설계되어야 한다"고 설명했다.
가장 큰 장애물은 조직과 사람의 역량이었다. AI 도입 준비도에서 기술 인프라를 고도로 준비했다고 본 기업은 43%, 데이터 관리가 준비된 곳은 40%로 나타났다. 인재 부문은 20%에 그쳤다. AI 접근권을 가진 직원 중 실제 교육을 받은 비율은 39%뿐이었다. AI 사용자 중 88%는 검색·요약 같은 기초 작업에만 AI를 활용했다.
김 파트너는 "AX의 핵심은 조직 전반의 AI 활용 역량을 체계적으로 끌어올리는 것"이라고 강조했다.
해법으로는 'AI 리터러시 기반 역량 강화 체계'가 제시됐다. 그러면서 AI 리터러시, 단계적 AI 도입, 일하는 방식 혁신 등 세 가지를 대안으로 꼽았다. 개인에게 AI 이해·활용·분별력을 교육하고 조직·업무 차원에선 파일럿과 단기 과제를 거쳐 에이전틱 AI 적용을 확대해야 한다는 구상이다.
김 파트너가 이러한 'AI의 조직 내재화 사례'로 제시한 원익의 경우 계열사에서 약 350개 AI 과제를 모은 뒤 약 10개 파일럿, 약 30개 단기 과제, 약 300개 중·장기 과제로 나눠 추진했다. 김 파트너는 "개인의 AI 리터러시를 제고해 업무 과제 수행 역량으로 전환하는 방식"이라고 설명했다.
일부 성과도 확인됐다. 자재코드별 원산지를 AI가 자동 조사하는 과제를 통해 수기 조사 시간을 50% 줄였다. AI 챗봇을 통한 사후서비스(AS) 정보 검색 지원 과제는 정보 검색 시간을 68%, 업무 리드타임을 67% 단축했다. 공개 특허와 연구자료 자동 수집·분석·요약 과제는 수개월 걸리던 리포트 작성 기간을 1~2개월로 줄였다.
김 파트너는 기업들이 '조직 역량으로 AI를 내재화하는 단계'로 넘어가야 한다고 강조했다. AX 경쟁은 AI 도구를 구매하고 도입하는 경쟁이 아니라 파일럿 운영 단계로 전환됐다. 일부 키맨의 경험을 전 직원의 업무 방식으로 확산하는 조직 실행력이 관건으로 꼽힌다.
김 파트너는 "여기서 키맨은 ‘AI 개발자’가 아니라 현업과 AI를 연결해 조직의 AI 활용을 이끄는 핵심 실무자로, 현업 과제를 AI로 구체화하고 프로젝트를 함께 이끄는 역할을 수행한다"며 "교육을 통해 확보한 키맨의 실행 역량 기반으로 '파일럿 성과'를 확장 가능한 운영 체계로 전환을 추진할 것"이라고 부연했다.
김대영 한경닷컴 기자 kdy@hankyung.com