로이터·NBC 뉴스 등에 따르면 레오 14세 교황은 이날 바티칸에서 발표한 즉위 후 첫 사회회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)를 통해 이같이 밝혔다.
교황은 회칙에서 정부의 통제를 벗어난 소수의 강력한 민간 세력이 AI 권력을 독점하고, 무인 무기 체계를 통해 전쟁을 일상화할 수 있는 역량을 갖추게 되는 것에 대해 깊은 우려를 표명했다.
교황은 "기술의 도덕적 기준이 소수 기업에 의해 독단적으로 결정된다면 기술적으로 진화한 AI 시스템만으로는 인류 안전을 보장할 수 없다"며 "최근 자율 무기 시스템이 점점 더 쉽게 전장에 배치되면서 전쟁 결정을 용이하게 만들고 인간의 종국적 통제권을 이탈하게 된다"고 지적했다.
이에 따라 "인간 존엄과 생명의 신성함에 대한 존중을 보장하기 위해 전쟁에서 AI를 사용할 때는 가장 엄격한 윤리적 제약이 필요하다"고 제언했다.
교황은 인류 사회가 이미 AI 생태계에 깊숙이 편입되어 피할 수 없는 강력한 세력이 되었다고 진단했다.
교황은 "단순히 사후 처방식 법률로 묶어두는 규제 거버넌스만으로는 한계가 명확하다"며 "AI 기술 자체를 무장해제 시켜 모든 인류가 안전하고 쉽게 다가갈 수 있도록 만들어야 한다"고 역설했다.
이어 "여기서 언급한 무장해제란 첨단 기술 자체를 거부하는 것이 아니라, AI가 인간성을 지배하지 못하도록 막는 것을 의미한다"고 부연했다.
특히 교황은 AI 경제를 '새로운 형태의 노예제'에 비유하기도 했다.
그는 "현재의 디지털 세계는 인공지능 데이터 라벨링, 알고리즘 모델 훈련, 콘텐츠 검열 작업 등에 종사하는 수백만명에 달하는 노동자들의 침묵 속에 유지되고 있다"며 "이들은 종종 열악한 환경에서 낮은 임금을 받으며 일한다"고 지적했다.
그러면서 가장 취약한 이들의 부담을 줄이고, 더 많은 자원을 가진 이들에게 더 큰 책임을 요구하는 세금 제도 등을 포함해 불평등 확대를 막기 위한 노력이 없다면 "기술 진보는 필연적으로 구조적 불평등을 초래할 것"이라고 경고했다.
그는 "더 많은 이윤을 추구하는 행위가 구조적으로 일자리를 희생시키는 선택을 정당화할 수는 없다"며 "인간은 목적 그 자체이지 결코 수단이 아니며, 경제 질서는 언제나 인간의 존엄성과 공동선 아래에 있어야 하기 때문"이라고 말했다.
그는 가진 자와 가지지 못한 자 사이 격차를 확대하지 않도록 사회가 개인 역량 개발에 투자해야 한다며 노동계는 노동자를 대변하고 방어할 의무가 있을 뿐만 아니라 새로운 형태의 고용 구조와 그에 따른 노동자들의 필요에도 귀를 기울여야 한다고 덧붙였다.
마지막으로 교황은 AI 기술이 양산해내는 정밀한 허위 정보가 민주주의 근간을 훼손하고 있다고 비판했다.
교황은 "구성원 사회가 진실하지 않을 때 민주적 삶의 토대는 급격히 약화된다"며 "진실에 무관심해지기 시작하면 느리지만 확실하게 전체주의로 전락하게 될 것"이라고 말했다.
박상경 한경닷컴 기자 highseoul@hankyung.com