167년 동안 세계적인 수학자들도 풀지 못한 '리만 가설'이 인공지능(AI)에 의해 해결됐다는 주장이 나왔다. 무려 1740만줄에 달하는 증명 코드가 공개된 데 이어 독립적인 컴퓨터 검증에서도 잇따라 긍정적인 결과가 나오면서 수학계의 관심이 집중되고 있다.AI 기업 앤스로픽의 연구원이자 수학자인 레벤트 알포게는 20일(현지시간) 자신의 홈페이지에 "클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다"며 연구 결과를 공개했다. 그는 리만 가설뿐 아니라 이를 확장한 '일반화 리만 가설'까지 증명했다고 주장했다.
ADVERTISEMENT
눈길을 끄는 것은 증명의 규모다. 알포게가 공개한 수학 증명 코드는 약 1740만줄에 달한다. 사람이 읽을 수 있는 수학 논문으로 정리하려 했지만 AI가 작성한 설명이 25만쪽을 넘어서자 이를 포기하고 코드 형태로 공개했다.
증명에는 수학적 논리가 성립하는지 컴퓨터로 확인할 수 있는 프로그램 '린(Lean)'이 사용됐다. AI가 만들어낸 결과를 사람이 일일이 계산하는 대신 컴퓨터를 활용해 논리적 오류가 있는지 검증하는 방식이다.
ADVERTISEMENT
알포게는 연구 과정에서 자신의 역할보다 AI의 기여가 컸던 순간도 있었다고 털어놨다. 그는 "클로드가 나를 훨씬 앞질러 날아오르고 춤추고 반짝였다"며 증명 후반부에서 AI가 보여준 능력에 놀라움을 드러냈다.
특히 방대한 증명에 사용된 수학적 내용을 자신조차 완전히 이해하지 못했다고 밝혔다. AI가 제시한 결과를 인간 수학자가 뒤따라 해석해야 하는 상황이 벌어진 것이다.
ADVERTISEMENT
리만 가설은 1859년 독일 수학자 베른하르트 리만이 제기한 문제다. 2, 3, 5, 7, 11처럼 1과 자기 자신으로만 나누어떨어지는 소수(素數)가 자연수 사이에 어떻게 분포하는지를 이해하는 데 중요한 가설이다.
리만은 겉보기에 불규칙한 소수의 분포에도 일정한 수학적 질서가 있다고 봤다. 이른바 '리만 제타 함수'의 특정한 해들이 복소평면 위의 한 직선에 놓인다는 가설이다.
ADVERTISEMENT
지금까지 컴퓨터로 확인한 방대한 수의 사례는 이 가설과 일치했다. 하지만 수학적으로 증명하려면 무한히 많은 경우에 단 하나의 예외도 없다는 사실을 밝혀야 한다.
수많은 수학자가 160년 넘게 도전했지만 해결하지 못한 이유다. 미국 클레이수학연구소는 2000년 리만 가설을 '밀레니엄 7대 난제' 중 하나로 선정하고 해결자에게 100만달러의 상금을 내걸기도 했다.
ADVERTISEMENT
이번 발표가 단순한 주장에 그치지 않고 주목받는 것은 독립 검증에서도 성과가 확인되고 있기 때문이다.
매사추세츠공과대학(MIT)의 수학자 앤드루 서덜랜드는 알포게가 공개한 증명 코드를 별도로 검사했다. 총 17만5187개 파일로 구성된 코드는 오류 없이 컴파일됐으며, 독립적으로 작성된 검증 프로그램에서도 증명이 받아들여졌다.
ADVERTISEMENT
서덜랜드가 공개한 검증 결과에 따르면 핵심 정리 5개는 일반적으로 사용하는 기본 공리만으로 도출되는 것으로 확인됐다. 제출된 증명이 실제 리만 가설의 수학적 정의와 일치하는지를 확인하는 검사에서도 긍정적인 결과가 나왔다.
다만 컴퓨터 검증을 통과했다고 해서 수학계의 최종 인정까지 끝난 것은 아니다. 증명에 쓰인 정의와 논리 구조를 검토하고, 결과가 기존 수학 체계에서 갖는 의미를 확인하는 절차가 남아 있다.
학계에서도 신중한 반응이 나온다. AI가 만든 방대한 증명이 형식적으로 성립하더라도 그 증명이 왜 성립하는지 수학자들이 이해하는 것은 또 다른 문제라는 지적이다.
클레이수학연구소의 상금을 받기 위해서도 학술 간행물에 해법을 발표하고 최소 2년이 지난 뒤 국제 수학계에서 폭넓게 인정받아야 한다.
이번 주장이 최종 검증을 통과한다면 AI의 역할을 둘러싼 인식에도 적지 않은 변화가 예상된다. 인간 수학자가 문제 해결의 방향을 제시하고 AI가 복잡한 증명을 완성한 뒤, 다시 인간이 그 결과를 이해하는 새로운 연구 방식이 가능해지기 때문이다.
알포게는 "연구 과정에서 목격한 발전은 너무나 놀라웠다"며 "과학 전반에서 훨씬 더 거대한 무언가가 시작되는 새벽이 온 것 같다"고 밝혔다.
김희선 한경닷컴 기자 gimme_sun@hankyung.com