이 법은 AI 활용 위험도를 크게 네 단계로 나눠 부정적인 영향을 줄 위험이 높을수록 더 엄격한 규제를 적용한다. 의료, 교육, 선거, 핵심 인프라 등에 활용되는 AI 기술은 가장 높은 ‘고위험 등급’으로 분류된다. 이 분야에서 AI를 사용하려면 반드시 사람이 감독하고 위험 관리 시스템을 구축해야 한다. 인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천 금지된다. 법 집행기관에서 실시간 원격 생체인식 시스템을 사용하는 것도 극히 예외적인 경우를 제외하고는 허용하지 않는다. 챗GPT를 비롯한 범용 AI에 대해서는 AI 학습 과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무를 부여하기로 했다. 만약 금지된 AI 앱 사용으로 법을 위반하면 과징금이 최대 7%까지 상승할 수 있다.
발효일을 기점으로 기술 원천 금지 규정은 6개월 뒤, 범용 AI에 대한 의무 규정은 12개월 뒤부터 적용한다. 전면 시행은 2년 뒤인 2026년 8월부터다. 미국 경제방송 CNBC는 “빅테크들은 AI 시스템을 적극적으로 개발 및 활용하기 때문에 규제의 주요 대상이 될 것”이라고 보도했다.
한경제 기자 hankyung@hankyung.com
