더 나은 기술을 위해 인간의 창작물을 갈아 넣었다. 윤리적 판단도 함께. 최근 미국 인공지능(AI) 기업 앤스로픽이 수백만 권의 실물 책을 구매해 낱장으로 잘라낸 뒤 스캔해 AI에 무단 학습시킨 사실이 폭로됐다. 이른바 ‘프로젝트 파나마’다. 견제되지 않는 기술 권력은 우리를 어디로 데려가는 중일까.최근 국내에 출간된 ＜AI 제국: 권력, 자본, 노동＞은 오픈AI로 대표되는 기술 기업들을 ‘제국’에 비유하며 그 어두운 이면을 들여다보는 책이다.
저자 카렌 하오는 월스트리트저널 기자로 챗GPT가 돌풍을 일으키기 전인 2019년 오픈AI를 최초로 심층 취재한 인물이다. 하오는 오픈AI 전·현직 직원을 포함해 약 260명과 총 300회 이상 인터뷰하고 수많은 문건을 검토한 끝에 이 책을 썼다. 저자 또는 팩트체킹팀이 당사자에게 해당 대화 내용을 몇 개월 간격으로 반복하거나 확인해 달라고 요청해 기억이 확실한지 검증했다.
책은 인류가 기술의 진보에 환호하는 사이에 후순위로 미뤄둔 환경적, 사회적 비용 문제를 꺼내 든다. 오늘날 기술 기업은 마치 식민지 시대의 제국주의 국가들이 피식민지의 천연자원을 수탈하듯 데이터를 광범위하게 무단으로 채굴한다. 그 과정에서 막대한 물과 전력을 소비한다.
오픈AI의 자체 시험에 따르면 GPT4가 80% 이상의 정확도로 지원하는 언어는 전체의 0.2%에 해당하는 15개 언어에 불과하다. 반면 AI가 폭력적인 답변을 생성하는 걸 방지하기 위해 케냐 등 개발도상국 노동자에게 야근을 강요하며 폭력적인 콘텐츠를 검토하도록 내몰았다.
오픈AI를 비롯한 ‘AI 제국’의 위험성은 그것의 의사결정 구조와 기술 발전 과정이 불투명하다는 데 있다고 봤다. “(생성형 AI라는) 특정한 형태의 AI가 주목받게 된 것은 물론이고 존재하게 된 것조차 결코 필연적이지 않았다. 그것은 의사결정 권한을 가진 소수의 사람이 내린 수많은 주관적인 결정의 결과일 뿐이다. 마찬가지로, 앞으로 나올 AI 기술 역시 미리 결정돼 있지 않다. 그렇다면 문제는 다시 거버넌스로 돌아간다. 누가 이 기술의 미래를 결정할 것인가?”
따라서 책이 주장하는 해답은 데이터에 대한 투명성을 강화하는 것이다. 또한 AI를 둘러싼 허상과 신비주의를 걷어내기 위해 폭넓은 교육이 고루 이뤄져야 한다고 봤다.
저자의 주장과 진단에 동의하지 않더라도 인류 사회의 최대 변수가 된 AI를 다각도로 이해하기 위해 살펴봄 직한 문제 제기다.
구은서 기자 koo@hankyung.com