올 1월 22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’이 시행에 들어갔다. AI기본법은 AI 산업을 육성하고 기술로 인해 발생할 수 있는 위험을 사전에 예방하기 위해 마련된 법안이다. 한국은 세계에서 처음으로 AI기본법을 시행하는 국가가 됐다.
AI기본법은 유럽연합(EU)의 AI 규제안(AI법)을 벤치마킹해 법안을 만들었다. 하지만 EU집행위원회는 지난해 11월 19일 세계 최초의 포괄적 규제인 ‘AI법’의 핵심 조항 적용을 연기했다. 2027년 12월 시행 예정이다. 한국이 세계 최초로 이 법을 시행하는 국가가 된 배경이다.
이용자 아닌 사업자만 규제 대상
AI기본법은 AI 서비스를 이용하는 이용자가 아닌 사업자를 대상으로 한 법이다. AI 자체를 개발하는 개발 사업자와 이를 이용해 사업을 하는 사업자가 대상이다. AI 프로그램을 이용하는 이용자와 그로 인해 영향을 받는 이들은 대상자가 아니다. 예를 들어 영상 생성 AI를 이용하여 영화를 제작·배급하는 제작사는 AI 제품·서비스를 제공하는 것이 아니라 AI를 업무에 활용한 ‘이용자’에 해당해 의무 대상이 아니다.
AI기본법에서는 AI를 ‘고영향 AI’, ‘생성형 AI’, ‘고성능 AI’로 구분한다. 세 가지 AI에 대해서만 의무가 발생한다.
고영향 AI는 의료·에너지·채용·대출심사 등 국민의 생명이나 권리에 중대한 영향을 주는 분야를 칭한다. 고영향 AI를 이용한 제품과 서비스를 제공할 때에는 이용자에게 사전 고지가 필요하다. 판단이나 결과가 개인의 권리·의무 또는 사회적 기회에 중대한 영향을 미칠 수 있기 때문이다.
생성형 AI는 텍스트, 이미지, 음성, 영상 등 새로운 콘텐츠를 만들어내는 AI다. 대화형 챗봇, 그림 생성 AI, 음성 합성 AI 등이 생성형 AI다.
고성능 AI는 학습 과정에서 사용된 누적 연산량이 일정 기준 이상인 시스템이다. 활용 분야 및 용도를 구분하지 않고 규제 대상에 포함된다.
AI의 워터마크 표시가 의무화된다. AI의 투명성을 확보하기 위해서다. 생성형 AI를 활용한 결과물에 이용자가 AI 제작물임을 알 수 있도록 가시적, 비가시적 워터마크를 부착해 표시한다. 예를 들어 인공지능을 활용해 특정 인물의 얼굴을 모방한 영상 콘텐츠를 제공할 경우 이용자들이 해당 영상이 인공지능에 의해 만들어진 영상임을 분명하게 알 수 있도록 표시해야 한다. 이는 이용자들이 인공지능이 만들어낸 결과를 무비판적으로 받아들이는 것을 막기 위한 장치다.
우려가 나오는 이유는
관련 업계에서는 모호한 규정에 대해 우려하고 있다. 고영향 AI의 기준이 불분명하다는 비판이 있다. AI기본법에서는 고영향 AI를 국민의 생명이나 권리에 중대한 영향을 주는 분야의 AI로 규정했다. 여기서 ‘중대한 영향’에 대한 기준이 불분명하다는 것이다. 수치화된 명확한 가이드라인이 없어 사업자는 자사 서비스가 고영향 AI에 해당하는지 모호하다. 이는 기업들을 위축시킬 수 있으며 기술개발을 저해하는 요인이 될 가능성이 높다. 업계 관계자는 “AI에 대해 전체적인 틀을 짜야 한다는 데는 동의한다. 그러나 시행령이 모호할 경우 큰 기업들은 어떻게 대응해야 하는지에 대해 준비할 수 있지만 스타트업의 경우 고영향 AI의 대상이 되는지 판단하기 어려울 수 있다”고 말했다. 스타트업얼라이언스가 지난해 12월 국내 AI 스타트업 101곳을 대상으로 실시한 조사에 따르면 응답 기업 가운데 실질적인 대응 체계를 수립한 기업은 단 2%였다. <!-- notionvc: 1daed19f-367c-41df-8575-58847462e35d -->
한국이 벤치마킹한 EU의 AI법과도 비교된다. AI법은 AI의 위험을 4단계로 세분화하고 특정 유형의 AI를 명시적으로 금지했다. AI법처럼 국내에서도 구체적인 유형을 명시해 모호성을 줄여야 하는 것 아니냐는 의견도 있다. 고려대 휴먼인스파이어드 AI연구원 최병호 연구교수는 “EU의 법안은 사용자, 이용자 중심으로 만들다보니 디테일한 법안이 나올 수 있었다”며 “산업 육성보다는 악용될 가능성에 초점을 맞춘 법이다. 한국은 AI 산업 성장을 최대한 위축시키지 않는 선에서 하려다 보니 상세한 내용이 없는 것”이라고 분석했다. 향후 가이드라인과 지표들을 만들어야 하며 지금 나온 AI기본법은 시작 수준이고 단계별 접근이 필요하다는 의견이다.
1월 20일 ‘AI기본법 시행 대비 설명회’에서 김경만 과기정통부 AI 정책실장도 과도한 규제를 하지 않기 위한 조치라고 밝혔다. 김경만 AI정책실장은 현재 기준에선 고영향 AI의 적용 대상이 없다고 덧붙였다. 그는 AI기본법이 규제를 위한 법이 아닌 AI 산업 진흥을 위해 설계된 법률이라는 점도 강조했다. 그는 “AI기본법 전체 조항 중 약 80% 이상이 AI 산업 진흥을 위한 내용으로 구성됐다”고 말했다.
법무법인 태평양 강정희 변호사는 AI기본법에 대해 “AI가 사회 전반에 미치는 영향이 커질수록 신뢰 없이 속도만 앞선 혁신은 지속되기 어렵다. 이런 법 시행은 장기적으로 시장 수용성과 투자 안정성을 높여 AI 산업의 지속적인 성장을 가능하게 하는 발판이 될 수 있다”고 평가했다.
강정희 변호사는 “다만 그 과정에서 기업이 과도한 위축을 겪지 않도록, 초기 단계에서는 규제 집행보다 충분한 설명과 소통, 사전적 안내에 무게를 두는 행정 운영이 중요하다. 특히 고영향 AI 판단, 투명성 의무의 적용 범위와 방식 등에 대해 현장의 이해를 돕는 구체적 사례 중심의 가이드가 필요하다”고 덧붙였다. 세심한 행정적 지원이 병행된다면, AI 기본법은 초기의 애로사항을 최소화하면서 장기적인 산업 성장과 신뢰 확보라는 본래의 취지에 보다 부합하게 작동할 수 있을 것으로 내다봤다.
AI 기본법이 처음으로 시행되면서 업계의 여러 우려가 쏟아지고 있다. 정부는 이런 우려를 고려해 사실 조사권 발동, 과태료 부과를 1년 이상 유예하겠다고 밝혔다. <!-- notionvc: 39a223cb-051d-4e6d-9519-9b11f34741b3 --> <!-- notionvc: 21564f86-8497-4218-8381-f3d275b424a2 -->
배현의 인턴기자 baehyeonui@hankyung.com