오픈AI가 90년 넘게 풀리지 않은 수학계 최고 난제의 해법을 88시간 만에 도출해냈다. 국제 수학계의 검증을 통과하면 AI가 '밀레니엄 문제'를 해결한 첫 번째 사례가 된다.
AI가 이같이 진화하면서 인류가 오랜 시간 풀지 못한 문제를 해결할 수 있다는 기대가 커지는 한편 인간의 사고 훈련 기회 축소와 연구 데이터 유출을 둘러싼 우려도 나온다.
오픈AI는 8일(현지 시간) 미공개 AI 모델을 활용해 세계 7대 수학 난제 중 하나인 '나비에-스토크스 방정식' 문제의 해법을 도출했다고 밝혔다.
나비에-스토크스 방정식은 물과 공기 등 유체가 어느 방향으로 얼마나 빠르게 움직이는지를 설명하는 수학식으로 항공기 설계와 일기 예보, 혈류 연구 등 다양한 분야에 활용된다.
그러나 학계는 90년 동안 이 방정식에서 3차원 유체의 해가 시간이 지나도 항상 매끄럽게 유지되는지, 아니면 특정 시점에 속도가 무한대로 치솟는 일이 발생할 수 있는지를 수학적으로 증명하지 못했다. 미국 클레이수학연구소(CMI)는 이를 밀레니엄 문제 중 하나로 선정하고 해결자에게 100만달러 상금을 내걸기도 했다.
오픈AI는 최근 공개한 'GPT-6 아스트라'보다 성능이 높은 비공개 모델을 활용해 난제를 풀었다고 설명했다. 회사는 약 1만 개의 AI 에이전트를 투입해 그룹별로 서로 다른 방식으로 변형된 문제를 풀도록 했다.
각 에이전트 그룹은 독립적으로 다양한 증명 경로를 탐색한 뒤 중간 결과를 공유하고 이 가운데 유망한 아이디어를 골라 발전시켰다.
이 같은 병렬 탐색을 88시간 동안 진행한 결과 오픈AI는 유한한 시간 안에 특이점이 발생할 수 있음을 보이는 해법에 도달했다. 이 과정에서 AI 에이전트들이 주고받은 메시지는 270만 건이며 사용한 출력 토큰은 약 1300억 개다. 막대한 연산 자원이 투입된 가상 연구실에서 수천~수만 명의 AI 연구원이 동시에 서로 다른 가설과 증명 경로를 탐색한 것과 같다.
학계와 산업계에서는 이번 사례가 AI를 활용해 인간이 오랫동안 풀지 못한 수학·과학 난제를 해결할 가능성을 보여줬다는 평가가 나온다. 마크 첸 오픈AI 최고연구책임자는 이번 해결이 앞으로 AI 연구에서 중요한 이정표가 될 것이라며 전 세계에 큰 가능성을 제시할 것이라고 말했다.
실제로 최근 오픈AI·앤트로픽을 중심으로 AI 프런티어 모델의 성능이 빠르게 개선되면서 각종 수학·과학 난제에서 새로운 결과가 잇달아 제시됐다. 올해 6월 앤트로픽은 미공개 연구용 '클로드'를 활용해 160년 넘게 풀리지 않은 수학 난제 '리만 가설'과 관련해 진전된 결과를 제시하기도 했다.
한편, 연구자의 아이디어와 미공개 데이터가 AI 모델을 통해 외부로 유출될 수 있다는 연구 윤리 문제도 과제다. 오픈AI보다 앞서 나비에-스토크스 방정식을 연구해온 뉴욕대 수학자 트리스탄 벅마스터는 오픈AI가 자신들의 미공개 연구를 직·간접적으로 참고했을 가능성을 제기했다. 벅마스터는 연구 과정에서 오픈AI의 코딩 '코덱스'에 연구 초안, 아이디어 등을 입력했다고 주장했다.
현재 오픈AI·앤트로픽 등 AI 기업은 전 세계 연구기관과 대학에 프런티어 AI 모델을 무료로 제공하는 프로그램을 운영하고 있다. 김경훈 오픈AI 코리아 총괄 대표는 "오픈AI는 가장 좋은 AI 모델이 나올 때마다 출시 전부터 수학과 과학 연구를 이어가고 있다. AI가 내놓은 연구 결과를 학계와 함께 검증하는 것으로 외부와의 협력도 이어갈 것"이라고 설명했다.
장지민 한경닷컴 객원기자 newsinfo@hankyung.com