현재 위치:   » 미디어 » 조용민 교수의 7대 수학 난제 해결 논란, 어떻게 볼 것인가

조용민 교수의 7대 수학 난제 해결 논란, 어떻게 볼 것인가

얼마 전 여러 매체에서 ‘7대 수학 난제’ 혹은 ‘100만 달러 현상금이 걸린 수학 문제’ 중의 하나가 한국인 물리학자들에 의해 해결되었다는 소식을 전하였다. 지난 2000년 미국의 클레이 수학연구소에서 밀레니엄 문제라는 이름으로 상과 함께 제시한 미해결 수학 문제의 하나가 풀렸다는 것이었다. ‘7대’ 라는 단어가 들어가는 보도에서 본능적인 불안감을 느끼고, 상황을 살펴보니 역시나 몇 가지 바로잡아야 할 것이 있다고 판단하게 되었다.

먼저 나는 수학자이며 물리학의 일부 특정한 좁은 영역에 관심이 있다고 말할 수는 있지만, 이 글에서 등장하는 수학과 물리학의 영역에 전문가라고 할 수는 없다. 따라서 이 글은 많은 오류의 가능성을 가지고 있는 것이 사실이다. 그러나 하얀 것은 종이고 까만 것은 글씨인 시험지를 받아든 절망적인 상황에서도, 잘 보면 수학 문제라서 답이 을사늑약일 수 없는 것은 알 수 있는 경우가 있다. 이러한 입장에서 불필요한 혼란은 가능한 줄이고, 논의가 더 나은 방향으로 흘러갔으면 좋겠다는 바람에서 이 글을 쓰게 되었다.

이 글 전반부에는 이야기의 넓은 배경이라 할 수 있는 물리학과 수학에 대한 약간의 설명을 담았고, 후반부에 이슈가 되었던 문제를 둘러싼 생각들을 담았다. 결론을 먼저 보고 싶은 사람들은 후반부로 건너뛰면 될 것이다.

1. 20세기 물리학의 진전

상대성 이론과 양자역학

20세기 초 물리학에서는 기존의 물리학을 뒤엎는 큰 사건들이 일어난다. 상대성 이론과 양자역학이라는 너무도 새로운 이론이 등장한 것이었다. 특수 상대성 이론의 핵심적인 교훈은 자연을 이해하는 데 있어 시간과 공간을 분리할 수 없다는 것이었는데, 바로 이로부터 4차원 시공간이라는 개념이 등장하였다. 이로 인하여 기존에 인류가 가지고 있던 시간과 공간에 대한 관념은 크게 바뀌게 되었다. 양자역학은 우리가 눈으로 경험하지 못하는 원자와 같은 작은 세계에서 일어나는 현상을 이해하려는 노력에서 탄생하였다. 불확정성 원리와 같은 내용을 담고 있던 양자역학은 자연법칙의 성격에 대한 큰 의문을 가져오는 것이었다.

자연계의 네 가지 힘

원자와 그보다 작은 세계를 탐구하기 시작한 물리학자들은 자연계에 네 가지의 근본적인 힘이 존재한다는 것을 밝혀냈다. 전자기력, 중력, 약한 핵력, 강한 핵력이 그것이다. 그리고 힘이라는 것은 물질을 구성하는 입자들이 ‘게이지 보존'(gauge boson) 이라는 입자를 주고받는 상호작용이라는 이해에 도달하게 된다. 가령 음의 전하를 띄는 전자와 전자가 서로를 밀게 되는 현상은 그 둘이 서로 게이지 보존을 주고받는 것으로 묘사되는데, 이때 주고받는 게이지 보존이 다름 아닌 빛이다.

파인만 다이어그램

파인만 다이어그램 (출처: 위키백과)

양-밀스 이론

자연계에 존재하는 힘, 즉 입자들 사이의 상호작용을 수학적으로 표현하기 위한 이론을 양-밀스 또는 게이지 이론이 라 한다. 양과 밀스의 논문은 1954년에 나온 것으로, 이는 맥스웰에 의해 성립한 전자기학을 일반화한 것으로 볼 수 있다. 빛이라는 게이지 보존이 전자기적인 상호작용을 매개하듯이, 다른 형태의 상호작용들도 이를 모방하여 이해할 수 있다는 이론적 틀이 만들어지게 되었다. 이 이론은 “국소적 게이지 대칭성으로부터 입자들 사이의 상호작용이 생겨난다”는 슬로건으로 요약된다. 수학적으로는 19세기 초에 근의 공식에 대한 연구로부터 그 체계가 성립한 군론이라 불리는 대칭의 이론과 비유클리드 기하학의 연장선상에서 발전해 온 미분기하학의 주요 개념들이 양-밀스 이론의 전개에 사용된다. 그러면 여기서 수학과 물리학의 관계를 몇 가지 측면에서 잠시 살펴보자.

2. 수학과 물리학

미적분학의 사례

많은 자연과학, 좁게는 물리학에서는 자연에서 일어나는 일을 묘사하는 수단으로 수학이라는 언어를 사용한다. 수학과 물리학의 긴밀한 관계는 오랜 역사를 가지고 있는데, 역사에서 대표적인 사례로는 뉴턴이 17세기에 만유인력의 문제를 비롯한 여러 물리학의 문제를 해결하기 위한 도구로 미적분학을 개발한 것을 들 수 있을 것이다. 이는 수학의 이론이 물리학의 문제에서 시작되어 발전할 수 있다는 것을 보여주기도 하는 사례이다.

그런데 그 이후에 미적분학이 의심의 여지가 없는 ‘합법적인’ 수학으로 정립되어 가는 과정은 매우 험난한 것이었다. 뉴턴 이후의 수학자와 물리학자들은 미적분학이 유용하다는 것을 분명하게 이해하였고, 이를 자신들의 문제를 풀기 위해 사용하는 일에 주저함이 없었다. 그러나 미적분학의 근본에는 무한소나 극한같이 명확하게 다루기 힘든 미묘한 개념들이 놓여 있었다.

오늘날에도 수많은 이공계학과의 대학생들이 미적분학이라는 도구를 조자룡 헌칼 쓰듯 사용하면서도, 일명 ‘엡실론-델타’라 불리는 극한의 정의에 들어 있는 개념 앞에서는 영화 속 엑스트라처럼 쉽게 쓰러지고 만다. 이러한 까다로운 개념들이 하나하나 수학적 엄밀성을 갖추게 되는 것은 17세기 이후 2백여 년 이상의 시간이 흐르는 동안, 아벨, 코시, 바이어슈트라스, 데데킨트같은 수많은 꼼꼼한 수학자들의 손을 거친 이후였다.

언제나 긴밀한 관계

앞서 이야기했듯이 양-밀스 이론은 수학의 군론과 미분기하학을 그 이론의 중요한 구성 요소로 가지고 있다. 하지만 군론과 미분기하학을 개척한 19세기의 수학자들이 이러한 이론들이 언젠가는 입자물리학의 근본 문제에 활용되리라는 것을 염두에 두었을 리는 없다. 그럼에도 불구하고 수학자들은 양-밀스 이론에 필요한 수학을 준비해 놓은 것이다. 이는 수학자들이 개척한 수학의 영역들이 시간이 흐른 뒤에 전혀 기대하지 않았던 곳에서 놀라운 응용을 찾는 하나의 사례로 볼 수 있을 것이다. 이러한 방식으로 때로 수학은 물리학자들에게 예상치 못한 유용한 도구를 제공해 준다.

1950년대에 등장한 양-밀스 이론은 60~70년대를 거쳐 많은 물리학자의 손에 의해 다듬어졌으며, 그러한 과정을 거치며 입자의 상호작용을 표현하는 훌륭한 틀로 자리 잡게 되었다. 흥미로운 사실은 이렇게 물리학자들에 의해서 발전한 양-밀스 이론으로부터 수학자들이 다시 영향을 받았다는 데 있다. 1980년대에 양-밀스 이론은 수학에서 4차원 다양체라 불리는 대상을 연구하는데 활용되었고, 여기에서 얻어진 업적으로 영국의 수학자 도날드슨은 수학의 큰 영예라 할 수 있는 필즈메달을 수상하게 되는 것이다. 이러한 사례들이 수학과 물리학의 끝없는 대화를 장려하는 이유가 된다.

여전히 서로 다른 세계

수학과 물리학이 이렇게 서로 앞서거니 뒤서거니 하며 영향을 주고받는 것은 오랜 전통이라는 것을 이야기했다. 그러나 물리학과 수학이 이렇게 가까운 관계를 유지해왔다는 사실에도 불구하고, 여전히 그 둘은 엄연히 다른 학문이며 이 둘을 구분 짓는 커다란 차이가 있다. 하나는 두 학문이 서로 다른 세계에 속하는 대상들을 다루고 있다는 것이고, 또 다른 하나는 두 학문은 어떠한 것을 진리라고 판단하는 서로 다른 기준을 가지고 있다는 것이다.

현실 또는 자연의 세계와 수학의 세계는 분리되어 있다. 물리학은 현실에 있는 대상들에 관해 연구하지만, 수학자들은 수학의 세계에 속하는 것들에 대해 관심이 있다. 수학의 주요 대상이라 할 수 있는 수, 도형, 함수와 같은 것들은 현실 세계에 속하는 것들이 아니다. 이들은 현실 세계와 관계가 있을 필요도 없고 유용할 필요도 없이 그저 수학이라는 자연과 분리된 독립된 세계에 존재하고 있는 것이다.

물리학은 실험을 통해 자연과 이론을 비교하고, 실험과 이론이 일치하는지가 궁극적인 판단 기준이 된다. 수학에서 진리성을 판단하는 기준의 뼈대는 형식화와 증명이라는 것에 있다. 물리학자에게는 그들의 이론이 맞는지 확인하기 위해 입자가속기가 필요하지만, 수학의 어떤 증명도 입자가속기를 필요로 하지 않는다.

PvsM

‘ATLAS’ 실험에 사용된 입자가속기 LHC (왼쪽)(출처: CERN(유럽 입자 물리학 연구소))
‘미적분학의 기본정리’가 수학자에게 만족스럽게 표현된 수식 (오른쪽)

양자장론의 문제들

20세기 초에 특수 상대성 이론과 양자역학이 등장한 이후, 물리학자들은 양자역학과 특수 상대성 이론을 함께 고려해야만 설명할 수 있는 자연계의 현상들이 있다는 것을 알게 되었다. 이는 두 이론이 통합되어야 한다는 것을 의미했는데, 바로 이러한 통합의 시도에서 양자장론이라 불리는 새로운 이론이 탄생하게 되었다.

양자장론에서 나타나는 계산들은 빈번하게 무한대의 양들을 드러내는데, 물리학자들은 20세기에 이러한 무한대를 어떻게 의미 있는 양으로 바꾸고 해석할 것인지의 문제를 심각하게 고민해왔고, 큰 성공을 거두었다. 그러나 이러한 이론에서 등장하는 계산들을 수학적으로 엄밀하게 정당화하기 매우 어렵다는 것은, 수학자들에게는 심각한 두통의 원인이 되고 있다.

이는 미적분학이 17세기에 개발된 이후, 수학자와 물리학자들이 무한히 작은 값이나 극한의 개념에서 오는 어려운 문제의 해결을 미래 세대에게 맡겨둔 채 전진해 나간 것과 비슷하다고 할 수 있다. 양자장론이 수학에 던져주는 도전들은 미적분학이 그 후 오랜 시간을 거쳐 수학적 엄밀함을 확보해가는 과정에 비유될 수 있을 것이다.

3. 클레이 연구소의 밀레니엄 문제

클레이 문제

수학과 물리학에 대한 약간의 배경지식을 살폈으므로, 이제 우리의 본래의 관심사로 돌아가자. 클레이 연구소에서 밀레니엄 문제로 제시한 양-밀스 이론에 대한 문제를 여기서는 클레이 문제로 부르자. 이 문제는 다음과 같이 서술되어 있다.

양자 양-밀스 이론의 존재성과 질량 간극 : 임의의 컴팩트 단순 게이지 군 G에 대하여, 4차원 시공간에서 정의된 자명하지 않은 양자 양-밀스 이론이 존재하며, 질량 간극 ∆>0을 가짐을 증명하라.

Yang-Mills Existence and Mass Gap: Prove that for any compact simple gauge group G, a non-trivial quantum Yang-Mills theory exists on R4 and has a mass gap ∆>0.

출처: Clay Mathematics Institute – Official Problem Description — Arthur Jaffe and Edward Witten

앞서 잠깐씩 모습을 드러낸 ‘군’, ‘4차원 시공간’, ‘양자’, ‘양-밀스 이론’같은 단어가 등장한다. 서술된 문제를 뜯어보면, 이것이 두 부분으로 이루어져 있음을 알 수 있다. 하나는 4차원 시공간의 양자 양-밀스 이론을 구성하는 것이고, 다른 하나는 그 이론에 질량 간극이라 불리는 어떤 양수가 있다는 것을 보이는 것이다.

1. 4차원 시공간의 양자 양-밀스 이론을 엄밀하게 구성하라.
2. 여기에 질량 간극이 존재함을 증명하라

양자 양-밀스 이론과 질량 간극

먼저 양자 양-밀스 이론을 구성하라는 말을 좀 더 자세히 살펴보자. 물리학에서 ‘양자’의 상대어는 ‘고전’이라는 것을 기억하면, 많은 생소한 단어로 인한 혼란을 줄이는데 약간의 도움을 얻을 수도 있다. 글루온과 같은 입자들이 참여하는 상호작용을 수학적으로 그려내기 위해, 밑그림으로서의 양-밀스 이론을 전개할 수 있을 것이다. 이 때 밑그림으로서의 양-밀스 이론이란 고전 양-밀스 이론을 말한다. 이 고전 양-밀스 이론은 현재 인류가 도달한 수학의 수준에서 합법적인 영역에 있는 문제가 없는 수학이다. 그러나 이것으로는 자연에서 나타나는 중요한 현상들을 올바로 그려낼 수 없다는 문제가 있다. 이는 이 현상들이 양자역학적이기 때문이다.

따라서 고전 양-밀스 이론이 주는 스케치를 자연에 대한 바른 그림으로 만들기 위해서는 이 고전 이론을 양자 이론으로 업그레이드할 필요가 생겨난다. 그런데 지금 도달한 수학 수준으로는 이 양자 양-밀스 이론을 올바로 정당화할 수가 없다. 이는 양자장론의 하나인 양자 양-밀스 이론의 여기저기서 등장하는 무한대의 난관을 넘는데 어려움이 있기 때문이다. 클레이 문제가 요구하고 있는 첫 번째 부분은 이러한 양자 양-밀스 이론을 엄밀한 수학적 체계 위에 쌓아 올리라는 것이다. 좀 더 정확하게는 구성적 양자장론(constructive quantum field theory)이라 불리는 분야의 규칙과 기준에 맞게, 수학적 구조물을 만들어 내라는 요구이다.

클레이 문제가 요구하고 있는 두 번째 부분은 이렇게 수학적으로 엄밀하게 구성된 양자 양-밀스 이론이, 고전 양-밀스 이론으로는 얻을 수 없었던 질량 간극이라는 성질을 실제로 갖고 있는지를 증명하라는 것이다. 질량 간극이란 이론에 나타나는 가장 가벼운 입자가 0보다 큰 질량을 갖는다는 것을 말한다.

4. 핵심적인 질문: 문제는 풀렸는가?

조용민 교수가 한 일

조용민 교수의 인터뷰가 한국일보에 나와 있으므로, 클레이 문제의 해법을 담았다는 논문이 어떤 내용을 다루고 있는지 파악하는데 길잡이로 삼을 수 있을 것이다.

“자기홀극 응집이 원자핵을 구성하는 쿼크와 글루온을 묶어서 질량을 갖는다”

“이번 새천년문제에서 중요한 것은 강력에서 나오는 우-양 자기홀극이에요. 이건 응집형태로만 존재합니다. 도토리로 만들었지만 도토리는 보이지 않고 묵의 형태로만 존재하는 것과 같아요. 묵 상태로 존재하면서 색을, 쿼크를 감금시키는 거에요. 그러면서 질량이 생기는 거에요.”

출처: 한국일보 – [서화숙의 만남] 현상금 100만불 수학 난제 해답 제시한 조용민 건국대학교 석학교수

조용민 교수는 이 논문에서 색감금이라는 양자색역학의 중요한 현상이 자기홀극 응집때문에 일어난다고 주장한다. 그리고 이 자기홀극 응집이 바로 양자색역학의 입자들이 질량을 갖는데 필요한 차원 변환 (dimensional transmutation)을 가져온다고 주장한다. 또한, 마그네틱 글루볼이라는 입자의 존재를 예측했고, 이것이 실험적으로 확인될 필요가 있음도 논문에 언급하고 있다.

조용민 교수는 클레이 문제를 해결했는가?

인터뷰에 나오는 “이 문제는 엄밀히 말하면 수학이 아니라 물리 문제입니다”라는 조용민 교수의 말은 의문을 일으킨다. 조용민 교수가 논문에서 다룬 문제는 물리 문제이지만, 조용민 교수의 말과 달리 클레이 문제는 수학 문제이다. 이는 특정한 조건과 성질들을 만족시키는 양자장론의 예를 수학의 세계에 속하는 ‘합법적’인 구조물로 만들라는 것이기 때문이다. 클레이 문제의 해법은 입자가속기나 컴퓨터 시뮬레이션으로 검증할 것이 남지 않는 순수한 수학 문제이다. 조용민 교수의 말은 클레이 문제의 공식적인 서술을 읽은 적이 있는 것인지 여부에 의문을 갖게 한다.

그의 논문을 살펴보면, 4차원 시공간에서 양자 양-밀스 이론을 수학적으로 엄밀하게 구성한 부분은 들어 있지 않다. 이 부분에 대한 관련 문헌이 제시되어 있지도 않다. 다시 말하면, 조용민 교수의 논문은 클레이 문제가 제시하고 있는 구성적 양자장론의 문제를 다루고 있지 않다. 이미 이것만으로도 이 논문의 내용을 클레이 문제의 답으로 진지하게 검토할 필요성이 거의 없다고 판단된다.

질량 간극이 있다는 것도 증명되었다고 볼 수 없다. 조용민 교수는 색감금의 메커니즘으로 도입한 자기홀극 응집이 차원 변환의 원인이며, 이것을 통해 질량 매개변수가 생성되므로 질량 간극의 존재도 이것으로 충분히 설명된다고 여기는 것으로 보인다. 그러나 이것은 문제가 실질적으로 요구하고 있는 이론의 비섭동적인 계산 방법을 찾으라는 요구(Edward Witten, 클레이 문제의 서술자 중 한 명)를 건드리지 않은 것으로 질량 간극의 존재 증명이라 보기 어렵다. (참고. The Problem Of Gauge Theory [math.DG])

양자 양-밀스 이론의 차원 변환에 대해 설명하고 있는 물리학자 파데예프의 말을 빌자면 ‘진짜 일은 이제부터 시작이다’.

결(結): 원칙과 기본의 문제들

‘수학 7대 난제’ 또는 ‘백만불 문제’ 해결이라는 제목의 보도가 쏟아진 이후의 후속 보도로는 조용민 교수의 인터뷰, 클레이 문제의 증명이 아니라는 수학자의 견해가 표현된 기사, 그리고 클레이 연구소의 입장을 취재한 기사가 있었다.

클레이 연구소가 내놓은 입장은 매우 간결한 것이었다. 앞으로 2년여의 시간동안 클레이 문제가 해결되었다는 수학계의 일반적인 동의가 생긴다면 그때 가서 문제의 해결 여부를 연구소가 판단할 것이라는 원론적이고 상식적인 수준의 입장이었다. 이것이 현재 우리가 완전히 믿고 받아들일 수 있는 ‘사실’에 해당하고, 그 이외의 것들은 ‘의견’과 ‘기대’의 영역에 놓여있다.

클레이 문제가 해결되었다는 보도자료를 언론에 제공한 건국대는 사회에 책임 있는 기관으로서 지켜야 할 원칙을 저버렸다. 대학이라는 곳은 이러한 문제에 대하여 객관적이고 세밀한 검토를 할 수 있는 전문가들과 그런 전문가들의 네트워크를 가진 기관이다. 어려운 이론물리 또는 수학 문제에 대한 전문적인 판단을 할 수 있는 곳은 대학이나 연구소와 같은 학술기관 말고는 없는 것이다. 클레이 문제의 해결은 사실이라면 크게 보도될 가치가 있는 일이지만, 바로 그렇게 가치가 있는 일이기 때문에 문제가 정말로 해결되었는지에 대한 판단은 더 신중했어야 한다.

대학이 신중함의 미덕을 버리고 크게 보도자료를 만들어 돌렸으니, 사실 여부를 대학에 확인해야 하는 언론이 이 문제에 취약해졌음은 분명하다. 그러나 그렇다고 해서 언론의 책임이 작다고 말할 수는 없다. 아무리 좋게 보아도 현 상황에서 ‘클레이 문제를 풀었다’는 것은 확정적인 사실이 아니다. 문제는 지금 이렇게 대대적이며 확정적으로 보도된 기사는 사실과 다른 것으로 판명될 경우 바로잡기가 어렵다는 것이다. 시간이 흐른 뒤에 사실로 밝혀진다면 그나마 다행일 것이나, 그렇지 않은 경우는 어떻게 되는 것일까?

‘클레이 문제를 풀지 않았다’는 것은 일시적인 순간에 대대적으로 보도될 기삿거리가 되기 어렵다. 시간이 어느 정도 지난 후에, ‘아무 일도 일어나지 않았다’고 보도를 할 가능성은 희박하기 때문이다. 보도자료를 옮기는 데 급급하며 사실관계를 정확히 하는데 민감하지 않은 언론에 대하여 과학에 관련된 보도의 질을 어떻게 높일 것인지 논하는 것은 지금 상황에선 사치스럽게 여겨진다.

나는 조용민 교수의 논문이 물리학적으로 중요한 업적일 수도 있다는 가능성을 배제하지 않는다.  그러나 그 논문이  ‘수학 7대 난제의 해결’이라는 키워드로 화제가 된 이상, 그 부분에 초점을 맞출 수 밖에 없게 되었다. 사실관계에 대한 사람들의 이해가 좀 더 분명해지고 화제의 초점이 옮겨진 이후에, 이 논문의 중요성을 정당하게 평가하고 그 의미를 더 많은 사람들이 쉽게 이해할 수 있도록 설명하는 글이 나올 수 있기를 기대한다.

좋은 기사 공유하고 알리기
슬로우뉴스에 커피 한잔의 여유를 후원해주세요. 필자 원고료와 최소한의 경비로 이용됩니다.

필자 소개

이철희
초대필자, 수학자

수학자. 취미는 수학노트 만들기

작성 기사 수 : 3개

©슬로우뉴스 | 개인정보취급방침 | 청소년보호정책 | 슬로우뉴스 안내 | 제보/기고하기 | 제휴/광고문의
(유)슬로우미디어 | 전화: 070-4320-3690 | 등록번호: 경기, 아51089 | 등록일자 : 2014. 10. 27 | 제호: 슬로우뉴스 | 발행인: 김상인 | 편집인: 강성모
발행소: 경기 부천시 소사로 700번길 47 1동 506호 (원종동, 삼신) | 발행일자: 2012. 3. 26 | 개인정보관리/청소년보호책임자: 강성모

Scroll to top