오픈AI의 인공지능 모델이 수학계에서 약 80년간 풀리지 않았던 ‘평면 단위 거리 문제’를 해결했다. 이는 AI가 수학 연구에서 인간을 보조하는 수준을 넘어 독자적으로 새로운 결과를 낼 수 있음을 보여주는 사건으로 평가된다.
월스트리트저널(WSJ)에 따르면 오픈AI의 AI 모델 가운데 하나가 헝가리 출신 유명 수학자 폴 에르되시의 미해결 문제를 해결했다. 이는 평면 위에 n개의 점을 찍을 때, 단위거리만큼 떨어져 있는 점들의 쌍을 최대 몇 개 만들 수 있느냐를 묻는 것으로, ‘이산 기하학’ 분야에서 중요한 미해결 문제로 꼽혀왔다.
에르되시는 점이 n개로 늘어날 경우 1만큼 떨어진 쌍이 가장 많이 나오려면 바둑판 모양(격자 구조)으로 정교하게 배열해야 할 것으로 추측했다. 수학자들은 지난 80년 동안 격자 구조가 최선임을 증명하는 데 매달렸다. 그러나 AI는 격자 구조가 아닌 완전히 새로운 방식으로 점들을 배열하는 규칙을 찾아냈다. 에르되시의 예측 보다 더 많은 수의 '단위 거리 쌍'이 만들어진다는 점을 수학적으로 입증한 것이다. AI는 2차원 평면 격자가 아니라 고차원의 복잡한대칭 격자를 구성한 뒤, 이를 2차원 평면으로 투사하는 방식으로 반증에 성공한 것으로 전해졌다.
오픈AI는 소속 수학자와 외부 전문가에게 검증을 맡겨 AI가 내놓은 풀이가 올바르다는 사실을 확인했다. 이후 회사는 인간 수학자들에게 AI가 내놓은 풀이를 정리하고 설명하는 작업을 맡겨, 참고문헌 목록을 포함해 총 18쪽의 논문으로 깔끔하게 정리한 후 홈페이지에 공개했다. 이 논문에는 AI에 입력한 20여줄 분량의 프롬프트와 AI가 출력한 원래 형태의 풀이도 실려 있다.
AI가 인간이 놓친 길을 찾은 이유로는 세 가지가 제시됐다. 먼저 해법이 매우 직관에 반하는 방향에 있었다. 많은 연구자들은 에르되시의 추측을 증명하려 했지만, AI는 기존 통념을 거슬러 반례를 찾는 방식으로 접근했다. 둘째로 인간 수학자는 특정 분야에 전문화되는 반면 AI는 방대한 지식을 바탕으로 서로 멀리 떨어진 분야의 연결을 포착할 수 있다. 이번 경우에도 대수론과 이산기하가 결합됐다.
셋째로 AI는 시간이 오래 걸리고 성공 가능성이 낮아 보이는 방법도 포기하지 않았다. 오픈AI 연구원인 마크 셀키는 "인간이라면 조금 시도하다가 안 되면 지나치게 낙관적이었다고 생각하고 포기할 종류의 아이디어였다"고 말했다. WSJ은 "이번 모델의 사고 과정을 줄인 버전만 해도 7만5000단어가 넘었고, 이는 첫 해리포터 책 분량에 해당한다"고 전했다.
김동현 기자 3code@hankyung.com