이 기사는 02월 01일 13:56 마켓인사이트에 게재된 기사입니다.
“인공지능(AI)은 더 이상 기술의 문제가 아닙니다. 경영 철학과 책임의 문제입니다.”
채수완 EY컨설팅 리스크 컨설팅 파트너(사진)는 1일 한국경제신문과의 인터뷰에서 “무분별하고 책임 없는 AI 활용이 기업과 시장의 지속 가능성을 위협할 것”이라며 “신뢰가 구축된 AI 활용체계를 갖춘 기업만이 글로벌 프리미엄 시장에 진입할 수 있다”고 말했다.
지난달 22일 시행된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 두고 기업 현장에선 규제 우려와 대응을 둔 혼선이 교차하고 있다. 세계 최초로 국가 단위에서 전면 시행된 AI 법이라는 점에서 긴장감도 적지 않다.
“AI는 산업혁명급 변화, 질서 없는 발전은 위험”
채 파트너는 “AI 기본법은 규제가 아니라 신뢰를 기반으로 한 성장 전략”이라고 평가했다. 그는 “EU의 AI법(AI act)이 고위험 AI를 중심으로 강한 제재를 앞세웠다면, 한국은 산업 진흥과 신뢰 기반 리스크 관리라는 두 축을 함께 세운 것이 특징”이라고 설명했다.EU AI법은 고위험 AI로 중대한 피해가 발생하면 최대 3500만유로(약 602억원) 또는 글로벌 매출의 7%까지 과징금을 부과하는 것이 골자다. 반면 국내 AI 기본법은 사람의 생명·안전·기본권에 중대한 영향을 미칠 수 있는 ‘고영향 AI’를 중심으로 관리 체계를 구축하고 신고 의무를 두되, 제재 수위는 상대적으로 낮은 연성 규제에 가깝다.
채 파트너는 “기업들이 가장 두려워하는 것은 규제 자체보다 불확실성”이라며 “국내에서 먼저 신뢰 기반 관리 체계를 갖추면 EU 등 해외 규제에도 대응할 수 있는 체질을 만들 수 있다”고 말했다.
AI 기본법 제정 배경으로는 기술의 질적 변화를 꼽았다. 생성형 AI를 넘어 로봇과 결합한 ‘피지컬 AI’가 확산하면서 AI가 인간의 생명과 안전에 직접 영향을 미치는 단계에 접어들었다는 설명이다.
그는 “AI가 미치는 영향은 산업혁명 수준”이라며 “AI가 판단하고 행동하는 수준에 이르렀다는 것은 그만큼 위험 관리의 중요성이 커졌다는 의미”라고 지적했다.
“AI 관리, 이제는 거버넌스 문제”
기업들이 가장 혼란스러워하는 지점은 ‘무엇을 어떻게 준비해야 하느냐’다. 채 파트너는 대응의 출발점을 기술이 아니라 거버넌스로 봤다. 그는 “AI는 IT 부서의 문제가 아니라 이사회와 경영진이 책임져야 할 사안”이라며 “AI 윤리위원회나 이사회 산하 감독 기구를 중심으로 관리 체계가 재편될 것”이라고 말했다.AI 리스크 관리를 기존 내부통제의 확장으로 접근해야 한다는 설명도 내놨다. 재무보고 중심의 내부회계관리제도를 넘어 운영·컴플라이언스 영역까지 AI가 포함될 것이라는 관측이다. 최고 정보 책임자(CIO)와 최고 데이터 책임자(CDO)에 이어 최고AI책임자(CAIO)의 중요도도 높아질 것으로 봤다.
EY한영도 최근 기업들의 AI 거버넌스 수요가 빠르게 늘고 있다고 보고 있다. EY한영은 각 부문에서 분산돼 운영되던 AI 조직을 하나로 통합한 전사 차원의 AI 전문조직인 'EY AI 허브'를 운영하고 있다. AI 인벤토리 구축, 고영향 AI 분류, 내부통제 연계 설계 등을 중심으로 기업 자문을 확대하고 있다. 각 기업이 AI를 활용하는 시스템과 서비스 목록을 정리한 뒤, 고영향 AI 여부를 분류하고 관리 체계를 마련할 수 있도록 돕는다.
채 파트너는 “법 시행 이후 기업 문의가 급증했지만, 여전히 많은 기업이 AI 활용 현황을 체계적으로 파악하지 못하고 있다”며 “첫 단계는 AI 인벤토리를 정리하고 생애주기 관리 체계를 갖추는 것”이라고 강조했다. 핵심 과제로는 △활용 목적 명확화 △투명성 확보 △편향성 관리 △책임 주체 설정 △개인·기밀정보 보호를 꼽았다.
AI 기본법의 영향은 개별 기업을 넘어 공급망 전반으로 확산될 가능성도 크다. 그는 “글로벌 기업들이 하위 공급망에 AI 리스크 관리 체계를 요구하는 흐름이 본격화될 것”이라며 “관리 체계가 없으면 거래 자체가 거절될 수 있다”고 말했다.
향후에는 ‘책임 있는 AI’를 인증하는 시장도 형성될 것으로 봤다. 이미 국제표준(ISO/IEC 42001)이 도입된 만큼, 인증 여부가 프리미엄 서비스의 기준이 될 수 있다는 전망이다.
채 파트너는 “단기적으로는 국내 기준에 맞춘 신뢰 기반 관리 체계를 구축하고, 중장기적으로는 EU의 위험 기반 규제를 기준으로 삼아야 한다”며 “지속 가능한 AI 생태계를 위해 정부의 후속 입법과 지원도 병행돼야 한다”고 강조했다.
최석철 기자 dolsoi@hankyung.com