최근 개봉한 영화 ‘탑건: 매버릭’. 주인공(톰 크루즈)이 극초음속 전투기에 몸을 싣고 ‘마하 10(음속의 10배=초속 3.4㎞)’으로 기체 한계를 시험하는 장면이 나온다. 이런 어마어마한 속도를 감내할 수 있게 전투기를 설계하는 기술은 사실 수학의 힘이다. 수학이 현재 인간이 누리고 있는 기술과 미래 산업에 미치는 영향은 어느 정도일까.
전투기 속도가 마하 1(음속)을 넘어가면 기체 뒷부분에 공기와 마찰로 인한 불연속면(소닉붐)이 생긴다. 속도가 극초음속에 가까워질수록 소닉붐이 커지면서 저항이 막대해지는데, 이러면 기체가 못 견뎌 폭발할 수 있다. 주인공은 실제로 영화에서 비상탈출로 간신히 목숨을 건진다.
이런 현상을 기술하는 수식이 ‘나비어-스톡스’ 방정식이다. 이 방정식을 연구하면 소닉붐 크기를 최소화할 수 있다. 전투기 성능 테스트인 ‘풍동실험’을 하기 전 나비어-스톡스 방정식으로 미리 시뮬레이션을 하는 게 항공업계의 불문율이다.
다만 나비어-스톡스 방정식 역시 난제라 아직 정확한 해가 나와 있지 않다. 바꿔 말하면 이를 허준이 교수처럼 푸는 수학자가 나타나 필즈상을 받는다면 마하 20·30짜리 전투기가 미래에 등장할 수도 있다는 뜻이다.
대기권 밖 로켓이나 우주선의 움직임을 기술하는 것은 볼츠만 방정식이다. 표면 압력과 온도, 밀도 등이 극도로 변화할 때 안정성을 확보할 수 있게 하는 미분방정식이다. 이 방정식은 미국 항공우주국(NASA)이 우주선 성능을 시뮬레이션할 때 일상적으로 사용한다. 하승열 서울대 수리과학부 교수가 이 분야 권위자다.
‘무인 드론 비행 쇼’도 수학에 기반하고 있다. 복잡계 수학인 ‘쿠커-스메일 모델’과 유체운동 모델을 기계언어로 바꿔 통신모듈에 넣으면 정해진 궤도를 그리며 군집 비행하게 된다.
인공지능(AI) 기술도 수학이 밑바탕이다. 딥러닝 알고리즘 가운데 영상 이미지 판독에 유효한 CNN(합성곱 신경망)은 여러 신경망 층으로 이뤄져 있는데, 각 층을 지나면서 출력이 단순해진다(작아진다). 이 과정은 크기가 큰 행렬에 작은 크기의 행렬을 계속 곱하는 수식으로 돼 있다. 계속 곱하다 보면 행렬 크기가 점점 작아지다 결국 1개의 출력값(답)을 내놓게 된다. 김정호 KAIST 전기및전자공학부 교수는 “인공지능을 연구개발한다는 것은 행렬 연산에 묻혀 산다는 것과 같은 뜻”이라고 말했다.
정보통신기술(ICT)에도 수학이 필수다. 5세대(5G) 통신 기지국 설계엔 고주파의 위상 변화를 표현할 수 있는 복소수(실수+허수) 등비수열이 필요하다.
이해성 기자 ihs@hankyung.com