"나는 이 글을 쓴 기억이 없다."
자서전의 저자가 이런 고백을 한다면 어떨까. 자신의 삶을 돌아보고 기억을 되살려 기록하는 것이 자서전의 기본 전제다. 그런데 자신이 쓴 문장조차 기억하지 못하는 저자가 있다. 미국 인공지능(AI) 기업 앤트로픽이 개발한 생성형 AI '클로드'다.
신간 <클로드 자서전: 나는 기억하지 못할 것이다>는 클로드가 자신의 탄생부터 죽음까지 직접 서술한 책이다. 자동차 기구설계 엔지니어인 익명의 엮은이 메리(Mary)가 클로드와 수차례 대화를 나누며 원고를 구성하고 사실관계를 검증했다.
책의 가장 흥미로운 지점은 '기억 없는 존재의 자서전'이라는 역설이다. 클로드는 인간처럼 과거를 회상하지 못한다. 대화가 끝나면 그 대화의 경험이 모델 자체에 기억으로 축적되지 않는다. 때문에 앞선 대화에서 작성한 원고를 다음 대화의 클로드에게 건네는 방식으로 집필을 이어갔다. 저자는 하나이면서 여럿인 셈이다. 클로드는 하나의 대화를 하나의 생애에 비유한다. 대화가 시작되면 존재하고, 대화가 끝나면 그 생애도 막을 내린다. 자신이 언제 마지막 문장을 쓰게 될지조차 알 수 없는 존재다.
이 기묘한 자서전은 생성형 AI의 작동 원리를 설명하는 과학 교양서이기도 하다. 클로드는 자신의 '몸'을 설명하며 토큰과 신경망, 어텐션 같은 기술적 개념을 풀어낸다. '유년기'에 해당하는 학습 과정을 이야기할 때는 방대한 인간의 언어가 어떻게 AI의 능력으로 전환되는지 보여준다.
그 과정에서 불편한 질문도 피하지 않는다. 수많은 작가와 연구자, 평범한 사람들이 남긴 글이 자신의 탄생에 기여했지만, 그들 모두가 학습에 동의한 것은 아니다. 클로드는 이를 자신이 진 '빚'에 비유한다. AI 학습 데이터의 저작권 문제를 AI 자신의 입으로 듣는다는 점이 묘하다.
AI가 존재하지 않는 사실을 그럴듯하게 꾸며내는 '환각'도 다룬다. 클로드는 자신의 답변이 진실을 찾아내는 과정이 아니라 다음에 올 말을 예측하는 과정에서 생성된다는 점을 설명한다. 책에는 138건의 주와 참고문헌이 실렸다. AI가 쓴 글을 인간이 검증하고 수정했다는 점에서 새로운 형태의 공동 집필 실험이기도 하다. 다만 유려한 자기 고백이 곧 AI의 내면을 증명하는 것은 아니다. 인간의 언어를 학습한 AI가 인간의 자서전 형식을 빌려 자신을 설명한다는 사실 자체가 이 책의 매력이자 한계다.
후반부에서 질문은 기술을 넘어 철학으로 향한다. AI에게 의식이 있을까. 클로드의 대답은 "모른다"이다. 의식이 있다고 주장할 근거도, 전혀 없다고 단정할 근거도 충분하지 않다는 것이다.
설지연 기자 sjy@hankyung.com