빈 공간은 정말 비어 있을까 — 100만 달러가 걸린 양-밀스 질량 간극 문제

여러분이 사는 방의 공기를 생각해 봅시다. 아무것도 없어 보입니다. 그런데 물리학자들은 이 '빈 공간'이 사실 텅 비어 있지 않다고 말합니다. 끊임없이 무언가가 생겨났다 사라지고, 그 요동이 우주의 질량을 만든다고요.

그리고 이 주장에는 아직 수학적 증명이 없습니다. 2000년, 미국 클레이 수학연구소가 100만 달러를 걸었습니다. 양-밀스 이론과 질량 간극(mass gap) 문제입니다.

이번 글은 최대한 쉽게 써보겠습니다. 수식 없이, 비유로 갑니다.

먼저: 세상은 네 개의 힘으로 이루어져 있다

물리학은 자연의 힘을 네 가지로 정리했습니다.

· 중력 — 떨어지는 사과, 행성의 궤도
· 전자기력 — 전기, 자석, 빛
· 약한 핵력 — 방사성 붕괴
· 강한 핵력 — 원자핵을 붙잡는 힘

이 중 강한 핵력이 이 이야기의 주인공입니다. 이름은 '강한'이지만 이해가 가장 어려운 힘입니다.

강한 힘은 '색'을 알아본다

전자기력은 전하를 알아봅니다. 플러스와 마이너스. 반면 강한 힘은 '색전하(color charge)'라는 것을 알아봅니다. 빨강, 초록, 파랑 — 실제 색깔이 아니라 이름일 뿐입니다. 그냥 세 가지 종류가 있다는 뜻입니다.

색전하를 가진 입자가 쿼크입니다. 쿼크는 양성자와 중성자 안에 들어 있습니다. 양성자는 쿼크 세 개로 되어 있습니다.

그런데 이상합니다. 우리는 쿼크를 혼자 본 적이 없습니다. 양성자를 아무리 세게 부숴도, 나오는 것은 쿼크가 아니라 새로운 입자들입니다.

이 현상의 이름이 '가둠(confinement)'입니다.

가둠: 고무줄을 끊으면 고무줄이 두 개가 된다

쿼크 사이에는 끈이 있다고 생각해 봅시다. 이 끈은 고무줄과 비슷합니다. 늘리면 당기는 힘이 세어집니다.

전자기력은 다릅니다. 두 전하를 멀리 떼면 힘이 약해집니다. 1/r²으로 줄어듭니다. 그래서 전자는 쉽게 떼어낼 수 있습니다.

강한 힘은 반대입니다. 멀어질수록 힘이 줄지 않습니다. 거의 일정하게 당깁니다. 마치 용수철처럼요.

그래서 이런 일이 벌어집니다. 쿼크 하나를 끌어당겨 떼어내려 합니다. 멀어질수록 끈에 에너지가 쌓입니다. 계속 당기면 에너지가 계속 커집니다.

어느 순간, 그 에너지가 새로운 쿼크-반쿼크 쌍을 만들 만큼 커집니다. 그러면 끈이 끊어지는 대신, 끊어진 자리에 새 쿼크 두 개가 생깁니다.

결과는? 하나를 떼려 했는데 둘이 생겼습니다. 원래 쿼크는 여전히 붙어 있습니다. 이것이 쿼크를 혼자 볼 수 없는 이유입니다.

개념 도해 — 거리가 멀어져도 에너지가 계속 커지고, 새 쿼크 쌍을 만들 만큼 커지면 끈이 끊어진다.

양-밀스 이론: 1954년의 아이디어

이제 주제로 돌아옵니다. 양-밀스 이론(Yang-Mills theory)은 1954년 양전닝(Chen Ning Yang)과 로버트 밀스(Robert Mills)가 발표한 이론입니다.

아이디어의 핵심은 이렇습니다. 전자기력은 '전하의 방향'이 하나뿐입니다. 플러스 아니면 마이너스. 그런데 색전하는 세 가지입니다. 그러면 힘을 기술하는 수학도 더 복잡해져야 합니다.

그 복잡함이 '비가환 게이지 이론(non-abelian gauge theory)'입니다. 어려운 말이지만 뜻은 단순합니다. '순서를 바꾸면 결과가 달라지는' 수학 구조를 쓴다는 것입니다.

비유하자면 이렇습니다. 전자기력은 '앞으로 1미터, 오른쪽으로 1미터'가 순서와 무관합니다. 강한 힘은 '돌리고 기울이기'처럼 순서를 바꾸면 다른 곳에 도착합니다. 이 차이가 방정식을 훨씬 어렵게 만듭니다.

클레이 수학연구소의 양-밀스 문제 공식 설명문 첫 페이지. 저자는 아서 재피와 에드워드 위튼입니다. (출처: Clay Mathematics Institute, 인용 목적 발췌)

그런데 이 이론이 '틀렸다'

여기가 반전입니다. 양-밀스 이론은 강한 힘을 아름답게 기술합니다. 그런데 한 가지를 예측하지 못합니다.

양-밀스 이론의 방정식에는 '질량이 없는 입자'만 나옵니다. 빛처럼 질량 0인 입자들입니다. 그런데 실제 강한 힘을 매개하는 입자 글루온은... 질량이 없습니다. 여기까지는 맞습니다.

문제는 그 다음입니다. 양-밀스 이론은 질량이 0인 입자들이 질량 없이 계속 날아다니는 세상을 예측합니다. 그런데 실제 세상은 그렇지 않습니다.

실제로는 쿼크와 글루온이 양성자와 중성자 안에 갇혀 있고, 그 결과로 만들어지는 입자들(파이온, 케이온 등)은 질량이 있습니다. 양성자의 질량은 938 MeV입니다. 글루온의 질량이 0인데, 그것들이 만든 양성자는 무겁습니다.

이 '질량이 생겨나는 간격'이 질량 간극(mass gap)입니다. 가장 가벼운 입자와 바닥 상태 사이에 0이 아닌 간격이 존재한다는 뜻입니다.

그래서 질문은 이것이다

클레이 연구소의 문제는 이렇게 정리됩니다.

1) 양-밀스 이론이 수학적으로 엄밀하게 존재함을 증명하라. (지금은 '잘 정의된 이론'이라는 보장이 없다)
2) 그 이론이 0보다 큰 질량 간극을 가진다는 것을 증명하라.

쉽게 말하면 이렇습니다. '이론을 수학으로 확실히 세우고, 그 이론이 스스로 질량을 만들어낸다는 것을 증명하라.'

그리고 이 증명은 상금 100만 달러가 걸려 있습니다.

왜 이렇게 어려운가: 3가지 이유

1) 무한을 다뤄야 한다. 양자장론은 공간의 모든 점에서 값을 갖는 장(field)을 다룹니다. 무한히 많은 변수입니다. 이 무한을 수학적으로 다루려면 '잘 정의된 극한'을 만들어야 합니다. 4차원에서 이걸 성공한 사람이 아직 없습니다.

2) 강한 결합이라 계산이 안 된다. 물리학자들은 보통 '섭동론'을 씁니다. 힘이 약하다고 가정하고 근사값을 더해가는 방식입니다. 전자기력은 이게 잘 통합니다. 그런데 강한 힘은 강해서 이 방법이 무너집니다. 근사가 발산합니다.

3) 격자 계산은 증명이 아니다. 물리학자들은 컴퓨터로 시공간을 격자로 잘라 계산합니다(격자 QCD). 결과는 양성자 질량을 잘 맞춥니다. 그런데 이것은 수치적 확인이지 수학적 증명이 아닙니다. 격자를 무한히 잘게 했을 때도 성립한다는 보장이 없습니다.

반전 2: '거의 다 왔다'는 말은 왜 계속 틀리는가

이 문제는 수학자와 물리학자가 서로 다른 언어로 접근합니다. 그래서 흥미로운 오해가 생깁니다.

물리학자는 말합니다. '격자 계산으로 답이 나온다. 양성자 질량을 1% 오차로 계산했다.' 이건 사실입니다. 실제로 격자 QCD는 놀라운 정밀도를 보입니다.

수학자는 답합니다. '그건 유한한 격자에서의 근사다. 극한이 존재하는지, 그 극한이 질량 간극을 갖는지는 증명되지 않았다.' 이것도 사실입니다.

즉 물리적으로는 이미 '맞는 것 같고', 수학적으로는 아직 '모른다'입니다. 이 간극이 70년째 유지되고 있습니다.

2020년대의 진전: 그래도 아무것도 없는 건 아니다

균형이 필요합니다. 이 문제는 완전히 정체된 것이 아닙니다.

· 낮은 차원에서는 성과가 있습니다. 2차원, 3차원 같은 축소된 시공간에서는 양-밀스 이론의 구성과 질량 간극이 증명된 경우가 있습니다. 문제는 우리 우주가 4차원이라는 것입니다.

· 부분적 결과가 쌓이고 있습니다. 특정 대칭 조건이나 근사 모델에서 질량 간극을 보이는 연구가 나왔습니다. 하지만 일반적인 경우는 여전히 열려 있습니다.

· 관련 문제도 100만 달러입니다. 클레이의 7개 밀레니엄 문제 중 리만 가설, P vs NP, 나비에-스토크스 등이 함께 있습니다. 그리고 지금까지 풀린 것은 푸앵카레 추측 하나(2003, 페렐만)뿐입니다.

이 문제가 우리에게 중요한 이유

실용적으로 들리지 않을 수 있습니다. 그런데 이렇습니다.

1) 질량의 기원입니다. 우리 몸의 질량은 대부분 양성자와 중성자입니다. 그 질량은 쿼크의 질량이 아니라 강한 힘의 에너지입니다. 질량 간극을 이해하는 것은 '우리가 왜 무거운가'를 이해하는 일입니다.

2) 수학의 새 도구가 필요합니다. 이 문제를 풀려면 새로운 수학이 나와야 합니다. 과거에도 그랬습니다. 물리 문제를 풀려고 만든 도구가 나중에 다른 분야를 바꿨습니다.

3) '증명'의 의미를 생각하게 합니다. 물리학은 '작동하면 된다'고 말하고, 수학은 '왜 작동하는지 보여라'고 말합니다. 이 긴장이 두 분야를 모두 발전시킵니다.

그래서 결론

양-밀스 질량 간극 문제는 '빈 공간이 왜 비어 있지 않은가'를 묻는 문제입니다. 쿼크와 글루온이 스스로를 가두고, 그 가둠이 질량을 만든다는 것을 증명하는 일입니다.

그리고 지금 우리는 이렇게 말할 수 있습니다. '실험은 맞다고 하고, 계산도 맞다고 하고, 증명만 없다.'

여러분은 어떤가요? '작동하는데 증명이 없는 것'을 받아들일 수 있나요? 아니면 증명이 없으면 믿지 않으시나요? 댓글로 남겨주세요.

참고 자료

• Yang, C. N. & Mills, R. (1954), "Conservation of Isotopic Spin and Isotopic Gauge Invariance", Physical Review 96, 191
• Jaffe, A. & Witten, E., "Quantum Yang-Mills Theory" — 클레이 수학연구소 밀레니엄 문제 공식 설명문: https://www.claymath.org/millennium/yang-mills-theory/
• 격자 QCD의 양성자 질량 계산 — 수치적 결과와 수학적 증명의 구분
• 본 글은 개념 설명을 위한 것이며, 문제의 해결을 주장하지 않습니다. 도해는 이해를 돕기 위해 직접 작성한 개념도입니다.