2049년. 영국 록밴드 롤링스톤스 멤버들은 세상에 없다. 하지만 복제 알고리즘을 통해 여전히 그들이 만드는 새로운 음악을 감상한다. 가족과 재산, 취향에 따라 자신에게 최적화된 배우자를 쉽게 만날 수 있다. 인공지능(AI)은 데이터에서 패턴을 읽고 변칙을 발견한다. 가짜를 가려내고 예산을 짜고 인력을 관리하는 것을 돕는다. 누구나 자신의 게놈 지도를 확인하고 유전적 변형을 감지할 수 있다. 뇌와 기계 사이 인터페이스로 뇌졸중 환자를 치료하고 잃어버린 기억을 되살린다.
또 다른 2049년. 사람들은 건강을 위해 자발적으로 자신의 몸에 유기 나노봇을 주입한다. 스스로 발전한 AI는 우리가 의도한 것보다 많은 것을 결정한다. 임신하면 프로그램이 자동으로 태아의 조직에 이상이 있는지 검사하고 문제가 발견되면 바로 유산시키는 식이다. 당신이 삶을 지속하는 것이 죽음보다 고통스러운지도 계산하고 판단한다. 시스템은 삶을 편하게 해줬지만 인간의 생산성과 목적의식을 약화시켰다. 선택의 폭은 좁아졌고 결정은 시스템에 의존하게 된다.30년 후 우리는 어떤 미래를 맞게 될까. AI의 도움으로 더 나은 삶을 영위할 수 있을까. 아니면 AI로 둘러싸인 감옥에 갇혀 살게 될까. 《빅 나인》은 AI의 진화로 유토피아와 디스토피아의 갈림길에 서 있는 오늘의 현실을 보여준다. 저자인 에이미 웹은 뉴욕대 스턴스쿨(경영대학원) 전략예측 교수로, AI를 비롯한 새로운 기술이 우리 삶에 미칠 변화를 연구하는 미래학자다.
‘빅 나인’이란 미국의 구글과 아마존, 애플, IBM, 마이크로소프트, 페이스북, 중국의 바이두, 알리바바, 텐센트 등 기술 기업 9곳을 의미한다. 책의 절반가량을 차지하는 1부는 AI를 개괄적으로 설명하고, AI 발전에서 ‘빅 나인’이 하는 역할과 개발 진척 정도를 서술한다. 미국과 중국을 대표하는 기술 기업들의 현 상황을 깊이 있게 파고든다. AI가 단순 업무를 실행하는 시스템에서 스스로 훈련하고 전략을 짜는 기계로 진화하고 있음을 보여준다. 저자는 “AI는 완벽한 결정을 내리도록 교육받는 것이 아니라 최적화하도록 교육받고 있다”며 “가치는 불변하는 게 아닌 만큼 우리의 대응이 매우 중요하다”고 강조한다.
다른 미래전략서들과 차별화되는 지점은 2부부터다. 책은 약(弱)인공지능에서 강(强)인공지능으로 전환하면서 어떤 변화가 생기게 될지, 인류가 통제력을 ‘생각하는 기계’에 넘기면서 어떤 삶을 살게 될지 그려본다. 빅 나인이 주도해 최선의 결정을 내리는 낙관적인 경우, 잘못된 경로임을 인지하지만 변화를 위한 협력은 하지 않는 경우, 모든 위험 신호를 무시한 채 경쟁에만 몰두해 파국으로 치닫는 경우로 나눠 10년, 30년, 50년 후의 미래를 예측한다. 저자는 “AI의 미래를 계획하려면 현실의 데이터를 이용해 새로운 서사를 구축해야 한다”고 말한다. 그가 상황별로 시나리오를 쓴 이유다.
저자는 빅 나인을 중심으로 한 주요 기업이 단기적인 기술 성과에 집중해 그에 따른 책임과 장기적인 전략엔 소홀하다는 점을 우려한다. 더 큰 문제는 거대 기술 기업을 압박하는 외부의 압력이다. 특히 14억 명이란 인구를 앞세워 AI시대에 가장 큰 천연자원인 ‘인간 데이터’를 통제할 수 있는 중국을 경계한다. 저자는 “중국의 AI 개발 진척 정도는 정부의 야심과 일맥상통한다”며 “상장기업이라도 국가와 국익을 위해 운영되고 개인정보 보호와 보안 제약이 없다”고 지적한다.
책은 빅 나인이 인류의 공익을 위해 협력하고 AI가 인류를 지배하는 세상을 피할 수 있는 미래를 모색한다. 저자가 제안하는 것은 국제 인공지능 증진 연맹인 GAIA(Global Alliance on Intelligence Augmentation)의 설립이다. 미국과 중국 양강 구도가 더 뚜렷해질 AI시대에 기본적인 인권 보장과 AI 윤리에 대한 합의를 이끌어갈 조직이다. GAIA의 주도로 빅 나인은 시민과 신뢰와 협력을 기반으로 한 새로운 사회적 계약을 맺어갈 수 있다. 안전하고 유익한 기술은 우연의 결실이 아니라 ‘지속적인 협력과 리더십, 그리고 헌신의 결정체’라는 게 저자의 생각이다.
큰 그림을 그리고 먼 미래를 내다보기에 앞서 책은 AI를 우리의 일상으로 받아들이고 그 발전의 궤적에 몸을 실을 것을 촉구한다. 저자는 말한다. “AI는 당신 삶의 일부분이고 당신은 AI 발달 과정의 일부다.”
윤정현 기자 hit@hankyung.com
