"오직 바둑을 위한 최고의 AI를 만들고 싶었다. 신진서 9단이 카타고에 승리한다면, 인간이 얼마나 뛰어난 존재인지를 증명하게 될 것이다."
세계 최강 바둑 인공지능(AI)으로 평가받는 '카타고(KataGo)' 개발자 데이비드 우가 신진서 9단과의 대국을 앞두고 한국경제TV와의 단독 인터뷰에서 이같이 말했다. 데이비드 우가 국내 언론과 인터뷰한 것은 이번이 처음이다.
알파고와 이세돌 9단의 대국 이후 10년. 다시 한번 인간과 AI의 승부가 성사됐다. 하지만 카타고 개발자가 바라본 이번 대결의 의미는 달랐다. 데이비드 우는 승패보다 인간이 AI에 얼마나 맞설 수 있는지를 보여주는 무대라는 점에 주목했다.
◆알파고에서 시작된 카타고
데이비드 우는 지난 2019년 오픈소스 바둑 AI '카타고'를 개발한 미국 프로그래머다.
카타고는 구글 딥마인드의 '알파제로'의 학습 방식을 바탕으로 발전한 바둑 특화 AI다. 다양한 분야에 적용할 수 있는 범용성을 목표로 한 알파고와 달리 바둑 자체에 집중해 성능을 끌어올린 것이 특징이다. 승률뿐만 아니라 집 차이까지 계산해 프로기사들의 연구와 복기 도구로 활용되고 있다.
카타고 개발의 출발점은 알파고였다. 데이비드 우는 "지난 2016년 공개된 알파고 연구 논문과 중국 프로기사 판 후이, 이 9단과의 대국을 보며 큰 흥미를 느꼈다"며 "머신러닝이 실제로 어떻게 작동하는지 배우고 싶었다"고 회상했다.
이후 그는 구글의 머신러닝 플랫폼인 '텐서플로'를 활용해 심층 신경망 훈련 과정을 탐구하기 시작했다. 이 과정이 카타고 개발 프로젝트로 이어진 것이다.
소프트웨어 개발자 경험도 기반이 됐다. 데이비드 우는 "형식 수학과 알고리즘 연구 경험이 있었고, 컴퓨터 보드게임 AI를 다뤄본 적도 있다"며 "아마추어 단급 바둑 기사였던 점도 도움이 됐다"고 설명했다.
◆"돈이 아닌 AI 발전 위해 개발"
카타고의 가장 큰 특징 중 하나는 '오픈소스'라는 점이다. 데이비드 우는 카타고를 누구나 자유롭게 활용하고 연구할 수 있도록 공개했다.
그는 "오픈소스가 가능한 많은 사람에게 유용하게 쓰이는 가장 좋은 방법이라고 생각했다"며 "방법론과 아이디어를 공개하면 이 분야 전체가 발전할 수 있다"고 밝혔다.
이어 "사람들이 원하는 방식으로 직접 실행할 수 있고, 그 위에 다양한 도구를 만들거나 연구에 활용할 수 있다"고 덧붙였다. 카타고를 수익 창출의 수단으로 보지 않은 이유이기도 하다.
특히 카타고가 현존하는 최고 수준의 바둑 AI로 평가받는 배경에는 바둑에 최적화된 설계가 있다.
예를 들어 알파제로와 릴라제로가 AI 연구에 초점을 맞췄다면, 카타고는 실제 활용도를 높이는 데 집중했다.
데이비드 우는 "카타고의 목표는 오직 바둑만을 위한 최고의 프로그램을 만드는 것이었다"고 강조했다.
◆"신진서 승리, 인간의 위대함 증명"
데이비드 우는 이번 신 9단과 카타고의 대결을 단순한 AI와 인간의 승부로 보지 않았다.
카타고는 인간을 이기기 위한 전략을 학습한 AI가 아니라, 바둑에서 이론적으로 최적의 수를 찾도록 개발된 AI라는 설명이다.
그는 "이번 대국은 카타고의 기술력을 확인하는 것보다 인간의 실력과 성취를 보여주는 의미가 더 크다"고 분석했다.
인간을 뛰어넘는 실력을 갖춘 AI라고 해서 완벽한 존재는 아니라는 점도 짚었다.
데이비드 우는 "최고 수준의 바둑 AI들은 매우 정확하게 두지만, 여전히 약점과 사각지대가 있을 수 있다"며 "우리는 아직 완벽한 바둑이 실제로 어떤 모습인지 알지 못한다"고 말했다.
그는 "신진서 9단이 승리한다면, 인간이 바둑에서 얼마나 뛰어난지 증명하는 일이 될 것"이라며 "인간과 최고 수준 AI 사이의 거리가 생각보다 가까울 수 있다는 점도 보여줄 것"이라고 평가했다.
반대로 카타고가 승리하더라도 인간의 가능성이 사라지는 것은 아니라고 봤다.
그는 "인간이 AI와 불과 한두 점 차이까지 접근할 수 있다는 사실 자체가 놀라운 일"이라며 "한 점만 더 있으면 승부가 달라질 수 있다는 점도 의미 있다"고 덧붙였다.
다음은 데이비드 우와의 일문일답.
▶카타고를 개발하게 된 동기는 무엇인가.
"지난 2016년 알파고의 첫 연구 논문이 공개되고, 판 후이와의 대국 결과가 발표되는 것을 전 세계 사람들과 함께 지켜보는 일이 매우 흥미로웠다. 이후 알파고가 이세돌 9단과 역사적인 대국을 펼쳤고, 구글 딥마인드는 간단하면서도 효과적인 학습 알고리즘과 구조를 설명하는 추가 논문들을 공개했다.
그 직후인 지난 2017년에는 릴라제로 커뮤니티 프로젝트가 등장했고, 알파제로의 알고리즘을 공개적으로 재현할 수 있다는 것을 증명했다. 중요한 알고리즘이나 새로운 패러다임이 공개되면, 누구나 시도해 볼 수 있는 연구 방향이 생긴다. 당시에는 아직 많은 사람이 잘 알지 못한 흥미로운 영역이 열렸고, 나도 그 탐구에 기여할 수 있겠다고 생각했다.
나는 오래전부터 소프트웨어 개발자로 일했고, 형식 수학과 알고리즘, 연구 경험도 있었다. 취미로 컴퓨터 보드게임 AI를 다루는 프로젝트를 진행한 적도 있었다. 또한, 아마추어 단급 바둑 기사였기 때문에 바둑에 대해서도 이해하고 있었다.
머신러닝 분야의 최근 연구 논문들을 많이 읽었지만, 실제로 머신러닝 프로젝트를 해본 경험은 없었다. 그래서 머신러닝이 실제로 어떻게 작동하는지 배우고 싶었다. 지난 2017년에 처음으로 텐서플로를 내려받았고, 심층 신경망 훈련이 어떻게 이뤄지는지 튜토리얼을 보며 탐구하기 시작했다. 그렇게 시작한 프로젝트가 결국 카타고가 됐다."
▶카타고가 전 세계 프로기사, 연구자, 바둑 팬들에게 널리 사용되는 것을 개발자로서 어떻게 느끼는가.
"정말 멋진 일이다. 오래전에는 학술 연구자의 길을 고민한 적도 있었지만, 코딩하고, 무언가를 만들며 엔지니어링 하는 일을 매우 좋아했다. 설령 내가 만든 프로젝트들이 아무 관심도 받지 못했어도 아마 계속해서 여러 코딩 프로젝트를 하고 새로운 것을 만들었을 것이다. 그런데 그중 하나가 사람들에게 유용한 도구가 됐다는 점은 매우 기쁘다."
▶카타고를 오픈소스 프로젝트로 개발하고 유지하는 이유는 무엇인가.
"카타고가 오픈소스인 이유는, 가능한 많은 사람에게 유용하게 쓰일 수 있는 가장 좋은 방법이라고 생각했기 때문이다.
오픈소스면 사람들이 원하는 방식으로 직접 실행할 수 있고, 그 위에 다양한 도구를 만들 수 있으며, 자신의 연구에도 활용할 수 있다. 또한, 방법론과 아이디어를 공개함으로써 이 분야 전체가 발전할 수도 있다. 간단히 말하자면, 나는 돈을 벌기 위해 카타고를 만든 것이 아니다. 개발 과정 자체가 즐거웠고, 그 결과물을 공유하고 싶어서 카타고를 만들고 공개했다."
▶다른 바둑 AI와 구별되는 카타고의 기술적 특징은 무엇인가.
"하나의 독특한 기능을 꼽기는 어렵다. 개별 기능만 놓고 보면 대부분은 다른 프로그램에도 이미 등장했던 것들이기 때문이다. 특히 알파제로 이전 프로그램들인 젠이나 크레이지스톤 등까지 범위를 넓혀 보면 더욱 그렇다. 다만, 알파제로 이후 프로그램들과 비교하면, 접근 방식이나 철학적인 측면에서는 차이가 있을 수 있다.
과학계는 일반성을 매우 중요하게 여긴다. 다양한 문제를 해결할 수 있는 단순하고 효과적인 방법을 찾는 데 관심이 많다. 다만, 그런 방법은 특정 문제에 최적화되지 않을 수 있고, 특정 사용자 집단의 요구에 완벽하게 맞지 않을 수도 있다.
알파제로와 릴라제로 등 프로젝트들은 연구 목적으로 개발됐다. 알파제로는 하나의 알고리즘이 다양한 게임에서 인간을 뛰어넘는 수준에 도달할 수 있다는 중요한 과학적 발견이자 증명이었다. 릴라제로는 그 연구 결과를 오픈소스 커뮤니티 방식으로 재현하려는 시도였다.
하지만 두 프로젝트는 순수한 과학적 실험을 위해, 또 단순성과 범용성을 추구하기 위해 바둑 자체에 특화된 성능 개선은 의도적으로 제한했다.
반면, 카타고의 목표는 처음부터 '오직 바둑만을 위해 만들 수 있는 최고의 프로그램은 어디까지 갈 수 있을까'를 확인하는 것이었다. 다른 게임과 비교 가능한 범용적인 연구 결과를 만드는 데 집중하기보다는, 바둑 선수와 바둑 커뮤니티에 가장 강력하고 유연한 도구를 제공하는 것을 목표로 했다.
그 결과 카타고는 더 많은 규칙과 바둑판 크기를 지원하고, 더 많은 기능과 분석 정보를 제공하게 됐다. 또 다른 웹사이트나 도구에서 분석에 활용할 수 있도록 프로그래밍 인터페이스도 제공하고 있다."
▶처음 개발 목표와 비교했을 때 현재 카타고의 성취 수준을 어떻게 평가하는가.
"카타고는 탐구 프로젝트로 시작했다. 당시 나는 실전적인 머신러닝을 처음 배우고 있었고, 논문을 통해 얻은 머신러닝 연구에 대한 직관을 실제 프로젝트에서 시험해 보고 있었다. 아직 직접적인 개발 경험은 부족했기 때문이다. 기본적인 접근 방식은 '여러 가지를 시도해 보고 무엇이 효과가 있는지 확인해 보자'는 것이었다. 처음부터 특정한 수준에 도달하겠다는 목표를 세운 것은 아니었다.
가장 의미 있는 기술적 돌파구가 무엇인지 하나만 꼽기는 어렵다. 하나의 큰 혁신이 있었다기보다는 수많은 작은 개선이 쌓인 것이다. 예를 들면, 가치 데이터와 정책 데이터의 균형, 소유권 목표, 소프트 정책 목표, 그래프 탐색, 불확실성 예측, 중첩 병목 신경망, 정책 소프트맥스 온도 등이 있었다.
개인적으로 가장 어려운 점은 카타고에 계속 시간을 투자하는 일이었다. 여전히 실험하거나, 코드를 다시 작성하거나, 개선할 수 있는 부분은 많다. 하지만 카타고는 여전히 취미 프로젝트이고, 나도 별도의 직업과 개인 생활이 있기 때문에 아직 시도하지 못한 부분들이 많이 남아 있다.
또한, 데이터를 더 많이 생성하고 더 큰 모델을 훈련한다면 성능은 계속 점진적으로 향상될 가능성이 있다고 본다. 하지만 수천 명의 사용자가 참여하는 프로젝트와 비교하면, 현재 카타고는 한 번에 수십 명 정도의 사람들이 자신의 그래픽처리장치(GPU) 자원을 제공하는 방식으로만 지원되고 있다.
만약 지금보다 10배 많은 연산 자원이 있고, 더 많은 기여자가 지연이나 장애 없이 참여할 수 있도록 웹사이트 인프라를 확장할 시간과 개발 여력이 있다면, 병렬 실험과 다양한 시도를 통해 더 많은 가능성을 확인할 수 있을 것이다."
▶신진서 9단과 카타고의 대국은 단순히 인간과 AI의 대결이 아니라 AI 시대의 영향을 깊이 받은 기사와 카타고 자체의 대결로도 볼 수 있다. 개발자의 관점에서 두 바둑 스타일의 가장 중요한 차이는 무엇인가.
"나는 그저 아마추어 단급 기사에 불과하기 때문에 신 9단의 스타일, 최고 수준 AI의 스타일, 그리고 다른 기사들의 스타일이 어떻게 다른지 깊이 이해할 만큼 뛰어난 실력을 갖추고 있지는 않다. 안타깝게도 많은 프로기사의 기보를 깊게 연구하는 유형의 선수도 아니었다.
하지만 새로운 세대의 프로기사들이 때때로 최고 수준 AI가 보여주는 직관이나 판단을 재현할 수 있게 됐다는 이야기를 들은 적이 있다. 그것은 매우 놀라운 일이다."
▶신 9단이 승리한다면, 그것은 카타고의 한계를 드러내는 결과일까 아니면 인간의 고유한 능력을 보여주는 결과일까.
"이러한 이벤트 대국은 카타고의 기술적 세부 사항보다는 인간의 실력과 성취라는 측면에서 더 큰 의미가 있다.
현재 최고 수준 바둑 봇들 사이의 실력 차이는 인간 기준으로 보면 그렇게 크지 않다. 물론 봇들에도 여전히 약점이나 사각지대가 있을 수 있고, 우리는 아직 완벽한 바둑, 즉 '신의 한 수'가 실제로 어떤 모습인지 정확히 알지 못한다. 그럼에도 바둑 봇들은 매우 높은 정확도로 대국을 펼친다. 최고 수준 봇들 사이에서는 몇 집 차이도 승패를 가르는 결정적인 요소가 되며, 2점 접바둑에서는 그 차이가 더욱 중요하다.
물론 최고 수준 봇끼리의 대결에서도 전투가 크게 확산하거나, 뒤처진 쪽이 따라잡기 위해 위험한 승부수를 선택하는 상황에서는 큰 차이로 패할 수도 있다. 하지만 대부분의 2점 접바둑에서 카타고가 백을 잡는다면, 나는 카타고가 몇 집 이내의 오차로 정확하게 둘 것으로 예상한다. 결국 승부는 흑을 잡은 쪽이 얼마나 정확하게 바둑을 두느냐에 달려 있다고 본다.
많은 바둑 기사도 비슷한 경험을 했을 것이다. 접바둑이나 지도 대국에서 더 강한 선수가 백을 잡으면, 그는 보통 평소와 다름없이 바둑을 둔다. 그리고 승패는 흑이 큰 실수 없이 필요한 수준의 일관성과 완성도를 유지할 수 있느냐에 따라 결정된다. 흑이 충분히 잘 둔다면, 백은 어떤 시도를 해도 이길 방법이 없다. 반대로 흑이 충분히 많은 실수를 해야만 백에 기회가 생긴다.
최고 수준의 봇들은 자신들이 '올바르다'고 판단하는 수, 즉 게임 이론적으로 최선에 가까운 수를 두도록 학습되는 경향이 있다. 알파제로 알고리즘은 특정 상대를 어렵게 만들기보다는 게임에서 최적에 가까운 플레이로 수렴하는 것을 목표로 한다. 카타고에는 '플레이아웃 증가 보정값(Playout Doubling Advantage)'이라는 특정 파라미터가 있다. 이를 접바둑 상황에 맞게 설정하고 조정하면 상대에게 조금 더 까다롭게 대응하도록 영향을 줄 수 있다. 다만, 그 효과는 비교적 제한적이다.
최근 릴라 체스 제로 커뮤니티에서는 인간 상대의 약점을 공략하기 위해 의도적으로 까다롭고 때로는 다소 무리해 보이는 플레이를 하는 봇을 훈련하는 연구와 성공 사례가 있었다. 'LeelaKnightOdds'와 'LeelaQueenOdds'가 대표적인 사례다. 하지만 카타고에서는 그런 방향의 연구를 많이 진행하지 않았다.
현재 카타고는 선수들에게 가장 강하고, 가장 정확하며, 가장 객관적인 분석을 제공하는 것이 목표다. 이는 카타고가 대체로 자신이 옳다고 판단하는 수를 두려 한다는 의미다. 결국 승부는 흑이 얼마나 정확하게 둘 수 있는지, 또는 백이 따라잡을 기회를 얻을 만큼 흑이 실수를 하는지에 달려 있다.
알파제로 알고리즘은 바둑 같은 게임에서 거의 완벽한 플레이에 가까워지는 데 매우 뛰어나다. 지난 2016년 이후 발견된 수많은 개선 사항을 통해 최적화되고 조정됐기 때문이다. 그래서 만약 카타고가 승리한다면, 그것은 카타고만의 특정한 기술 때문이라기보다는 인간이 유리한 조건에서 시작하더라도 그 수준의 플레이에 맞추는 것이 얼마나 어려운지를 보여주는 결과라고 생각한다.
반대로 신 9단이 승리할 수 있다면, 그것은 인간이 바둑에서 얼마나 놀라울 정도로 뛰어난지를 보여주는 증명이 될 것이다. 또한, 인간과 최고 수준 AI 사이의 격차가 생각보다 가깝다는 점을 보여주는 장면이 될 것이다.
수백 수에 걸쳐 진행되는 대국에서 인간이 AI 선수들과 불과 한두 집 차이까지 경쟁할 수 있다는 사실은 매우 멋진 일이다. AI는 덤이 반집만 바뀌어도 전체 승률이 크게 변할 정도로 바둑을 정확하게 둔다.
물론 신 9단이 이기지 못하더라도 인간이 이 정도 수준까지 AI에 가까워졌다는 점, 한 점만 더 주어진다면 아마 결과가 달라질 수 있다는 사실 자체도 의미 있는 일이다."
▶신 9단에게 어떤 메시지를 전하고 싶은가. 또 카타고를 사용하거나 연구해 온 한국 프로기사들과 바둑 팬들, 시청자들에게 전하고 싶은 메시지는 무엇인가.
"나는 신 9단을 만난 적은 없다. 하지만 이번 대국에서 신 9단이 최선을 다해 승리하기를 응원한다고 말하고 싶다.
이번 대국이 봇 자체보다는 인간에 대한 의미가 더 크다고 생각한다. 결과와 관계없이 신 9단 같은 프로기사들이 더 넓은 바둑 커뮤니티에 영감을 준다는 사실은 훌륭하다고 생각한다.
카타고는 언제나 선수들에게 유용한 도구가 되는 것을 목표로 해왔다. 그리고 카타고를 즐기고 지원해 준 커뮤니티 구성원들에게 감사하다."
