정부가 인공지능(AI)을 개발하는 기업과 이용자가 지켜야 할 범정부 차원의 AI 윤리원칙을 마련했다. AI에 지나치게 의존하지 않고 필요한 경우 인간이 AI 작동에 개입할 수 있도록 하는 내용을 포함했다.
과학기술정보통신부와 정보통신정책연구원(KISDI)은 제12회 과학기술관계장관회의에서 ‘대한민국 인공지능 윤리원칙’이 심의·의결을 거쳐 확정됐다고 24일 발표했다.
윤리원칙은 ‘인간의 존엄성’ ‘사회의 공공선’ ‘인류의 지속가능성’을 3대 가치를 기반으로 한다. 이를 실현하기 위한 7대 원칙으로는 △인간 중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성을 정했다.
인간 중심성은 AI가 인간의 판단과 창의성, 문제 해결 능력을 지원하는 방향으로 활용돼야 한다는 내용이다. AI의 역할 범위를 구체적으로 정하고 필요한 경우 인간이 작동을 확인하거나 제한·중단할 수 있는 수단을 마련하도록 권고했다. 이용자에게도 AI 산출물을 무비판적으로 따르지 말고 스스로 검토하도록 했다.
AI 기업의 책임 범위도 구체화했다. 개인정보는 정해진 목적에 필요한 범위에서 처리하고 AI가 부당한 감시와 사생활 침해에 활용되지 않도록 해야 한다. AI를 사용하는 개인과 기업도 윤리의 주체로 명시했다. 다른 인간의 사적인 대화나 사진, 음성, 위치정보 등을 프라이버시를 침해하는 방식으로 AI에 입력해서는 안 된다는 내용 등이 담겼다.
이번 원칙은 법적 구속력이 없는 자율 규범이다. 올해 시행된 인공지능기본법 제27조에 따라 마련했다. 개별 사안에서 원칙끼리 충돌할 때도 정부가 우선순위를 미리 정하지 않고 관련 주체가 상황과 맥락에 맞춰 균형점을 찾도록 했다.
라현진 기자 raraland@hankyung.com