계수 합이 0이면 해는 반드시 남는다 — 초유한 세계에서 다항식을 푸는 법

1933년, 리하르트 라도는 논문 「Studien zur Kombinatorik」에서 이상하게 단순한 판정법 하나를 내놓는다. 자연수를 몇 가지 색으로 칠하든, x+y=2z를 만족하는 세 수가 같은 색으로 반드시 나타난다. 계수 1, 1, −2의 합이 0이기 때문이다. 반면 x+y=3z는 아무리 많은 색을 써도 피해 갈 수 있다. 계수의 합이 2이기 때문이다. 방정식이 가진 성질이 아니라, 계수 몇 개를 더한 값 하나가 운명을 갈랐다.

2026년 11월 5일 arXiv에 올라온 15쪽짜리 논문 「Solving polynomials in large pseudo-finite sets」는 이 판정법을 훨씬 낯선 무대에서 다시 증명한다. 저자는 밀라노 대학과 프라이부르크 대학의 알레산드로 베뉴티(Alessandro Vegnuti) 한 사람이다. 무대는 정수가 아니라, 유한체와 유한군을 무한히 확대해 만든 초유한 구조(pseudo-finite structure)다. 여기서 "큰 집합"은 원소 개수가 아니라 측도로 정의된다.

라도의 정리는 원래 유한 색칠에 관한 것이다. 자연수를 유한 개 색으로 어떻게 칠해도 단색인 해가 나오는 선형방정식을 분할 정칙(partition regular)이라 부르고, 라도는 이것이 계수 합이 0인 경우와 정확히 일치한다는 것을 보였다. x+y=2z는 1+1−2=0이라 통과하고, x+y=3z는 1+1−3=−1이라 탈락한다. 산술평균이 있는 자리에는 반드시 같은 색 세 수가 몰린다는 뜻이다.

그런데 색칠 대신 "얼마나 촘촘한가"를 물으면 이야기가 달라진다. 세메레디는 1975년에 자연수의 양의 밀도 부분집합이 임의로 긴 등차수열을 품는다는 것을 증명해 에르되시·투란의 추측을 해결했고, 사르코지는 1978년에 조밀한 집합 안에서 두 수의 차가 완전제곱수가 되는 쌍이 반드시 존재함을 보였다. 밀도 판본의 라도 정리는 오랫동안 명시적으로 쓰이지 않은 채 남아 있었다. 이 논문이 메우려는 빈틈이 바로 그 자리다.

리하르트 라도(1906–1989). 1933년 계수 합 조건으로 분할 정칙성을 판정했다. — Konrad Jacobs / MFO, CC BY-SA 2.0 de (Wikimedia Commons)

유한한 문제를 무한한 괴물로 바꾸는 기술

초유한 구조는 유한 구조들의 초곱(ultraproduct)이다. 유한군 G₁, G₂, G₃, …를 비주류 초필터로 이어 붙이면, 각각은 유한한데 전체는 무한한 대상이 나온다. 이 대상은 유한 구조들이 공유한 1차 논리 성질을 전부 물려받는다(Łoś 정리). 여기에 각 차원의 내부 집합에 뢰브 측도(Loeb measure)를 얹으면, "원소 개수의 비율"이 그대로 확률측도가 된다.

그러면 증명 구도가 뒤집힌다. 유한한 세계에서 반례가 끝없이 나온다고 가정하고, 그 반례들을 초곱으로 묶어 무한한 세계의 반례 하나를 만든다. 그런데 무한한 세계에서는 정리가 이미 참이다. 모순이다. 그러므로 충분히 큰 유한 구조에서는 반례가 존재할 수 없다. 유한한 명제를, 존재하지 않는 무한한 대상으로 증명하는 셈이다.

정리 A: 조밀한 집합을 평행이동해도 해는 남는다

논문의 첫 결과는 군(group)에서의 라도 정리다. 정의 가능한 군 G에 평행이동과 역원에 불변인 케이슬러 측도가 주어지고, X가 양의 측도를 가진 정의 가능 집합이라 하자. 그러면 계수 합이 0인 선형식 L=n₁x₁+…+nₛxₛ에 대해, 어떤 m∈G이 존재해 (X+m) 안에서 L=0의 해 집합이 양의 측도를 갖는다.

주의할 점은 m이 공짜가 아니라는 것이다. X 자체가 아니라 X를 한 번 평행이동한 집합에서 해를 찾는다. 조밀한 집합이라도 그 자체로는 해를 보장하지 않는 군이 있기 때문이고, 이동량 m은 X와 방정식에 따라 달라진다. 증명의 핵심 부품은 두 가지다. 하나는 마르틴-피사로와 팔라신이 정리한 측도론적 근사 주기성, 다른 하나는 흐루쇼프스키의 안정자 정리 — 넓은 타입의 측도적 안정자가 군의 연결 성분 G⁰⁰와 일치한다는 2012년의 결과다.

체에서는 곱셈까지 동원해야 한다

덧셈만 있으면 선형방정식까지다. 비선형을 건드리려면 측도가 곱셈 이동에도 불변해야 하고, 논문은 그 대가를 정직하게 치른다. 체 F의 곱셈군에서 유한 지수 부분군 T를 잡으면, T와 덧셈 연결 성분 (F⁺)⁰⁰가 넓은 원소에서 만난다는 보조정리(Lemma 4.1)가 필요하다. 필레이·스캔런·바그너의 1998년 보조정리를 측도가 있는 상황으로 옮긴 것이다.

이 교차가 있으면 xⁿ−yⁿ이 m제곱인 쌍을 조밀한 집합 안에서 찾을 수 있다. 유한체 판본은 더 구체적이다. 양의 정수 n, m과 ε에 대해 상수 c와 δ가 존재해, 크기가 c보다 큰 임의의 유한체 K와 밀도 ε 이상인 부분집합 X에 대해 {x₁, x₂∈X : x₁ⁿ−x₂ⁿ ∈ K^×m}의 밀도가 δ 이상이 된다. δ는 K의 크기에 의존하지 않는다. 체를 키워도 이 패턴은 사라지지 않는다는 뜻이다.

반전: 정리는 "있다"고만 말하고 "얼마나"는 말하지 않는다

여기서 독자가 기대하는 것을 배반하는 지점이 온다. 상수 c와 δ의 존재는 증명되지만, 값은 어디에도 없다. 증명이 모순에 의존하기 때문이다. "만약 그런 c가 없다면 모든 크기에서 반례가 나온다"는 가정을 세우고 초곱으로 모순을 끌어내므로, c는 귀류법의 그림자로만 존재한다. 논문 스스로 이 결과를 비정량적(non-qualitative) 점근 결과라고 부른다.

세메레디 정리의 초기 증명이 그랬고, 이 논문도 같은 계열이다. 밀도가 ε인 집합에서 패턴이 나온다는 사실은 확실하지만, 유한체 크기가 얼마나 커야 하는지는 알려주지 않는다. 실용적인 관점에서는 뼈아프고, 구조적인 관점에서는 오히려 이 논문의 요점이다. 정리의 참됨이 유한한 계산이 아니라 무한한 대상의 성질에서 나온다는 것을 보여주기 때문이다.

경쟁 가설: 푸리에 없이도 되는가

밀도 판본 정리의 표준 도구는 푸리에 해석과 밀도 증가 논법이다. 로스의 3항 등차수열 정리에서 시작해 가워스의 정리로 이어지는 계보가 그것이고, 유한체 판본에서는 베르겔슨-되버-힌드먼의 라도 정리, 매커천의 사르코지 정리가 같은 계열에 있다. 이들은 대개 구체적 구조 — 정수나 소수체 — 를 전제로 하고, 대신 때로는 정량적이다.

모형이론 진영의 반론은 이렇다. 푸리에 논법은 군이 아벨 군이고 지표(character)가 풍부해야 작동하지만, 논문의 정리는 임의의 정의 가능한 군과 체, 그 위의 잘 behaved 측도에서 성립한다. 대신 가정이 무겁다. 측도의 평행이동 불변성, 역원 불변성, 푸비니 조건, 그리고 x↦xⁿ이 넓음과 무작위성을 보존한다는 조건이 모두 필요하다. 즉 "더 일반적이지만 더 많은 것을 가정한다"는 교환이다. 어느 쪽이 더 근본적인지는 취향이 아니라, 어떤 구조를 실제로 다루느냐의 문제다.

저자도 인정한 빈 곳

논문은 스스로 열린 문제를 하나 남긴다(Question 4.4). 정리 4.3에서 F^×m, 즉 m제곱수 전체라는 집합을, 상수항이 없는 임의의 정수계수 다항식 P에 대한 P(F)로 바꿀 수 있는가. 정수에서는 n=1인 경우를 베르겔슨과 라이프만이 1996년에 증명했지만, 측도가 얹힌 정의 가능한 체에서는 아직 모른다. 저자는 이 물음을 논문의 결론부에 명시적으로 남겨 둔다.

또 하나의 한계는 앞서 말한 가정들 자체다. 곱셈 이동 불변 측도는 체에서는 자연스럽지만, 일반 군에서는 그렇지 않다. 유한군 판본도 x↦Nx의 올(fiber) 크기가 유계라는 조건을 요구한다. 이 조건이 깨지면 밀도가 측도로 잘 옮겨가지 않는다. 초유한 구조라는 무대가 강력한 만큼, 그 무대에 오르지 못하는 대상은 이 방법의 사정거리 밖에 남는다.

원소 25개짜리 유한체 F₂₅를 원 위에 배치한 그림. 빨간 사각형이 부분체 F₅다. 유한체의 원소를 곱셈으로 옮겨 다니면 이렇게 순환 구조가 드러난다. — Jacksonwalters, CC0 (Wikimedia Commons)

독자에게

이 논문이 흥미로운 이유는 결과의 새로움보다 방법의 방향에 있다. "충분히 큰 유한 구조에서는 반드시 이런 패턴이 나온다"는 명제를, 그 구조보다 더 큰 무한한 구조에서 먼저 증명하고 되돌려 받는다. 유한과 무한을 오가는 이 왕복이 21세기 조합론과 모형이론이 만나는 지점이다.

다만 질문이 남는다. 정리가 보장하는 c와 δ가 계산 불가능하다면, 그 정리는 유한한 세계에 대해 무엇을 알려주는가. 존재만 알고 값은 모르는 정리도 수학인가, 아니면 수학이 미처 닿지 못한 곳을 가리키는 표지판인가. 그리고 "정의 가능한 집합"이라는 조건이 빠지면 이 이야기가 어디까지 버티는지 — 독자라면 어느 쪽이 더 궁금한가.

참고 자료

Alessandro Vegnuti, Solving polynomials in large pseudo-finite sets, arXiv:2611.08211v1 [math.LO], 2026-11-05, 15쪽. https://arxiv.org/abs/2611.08211v1

핵심 인용: R. Rado, Studien zur Kombinatorik, Math. Z. 36 (1933) 424–470 · E. Szemerédi, Acta Arith. 27 (1975) 199–245 · A. Sárközy, Acta Math. Acad. Sci. Hungar. 31 (1978) 125–149 · E. Hrushovski, J. Amer. Math. Soc. 25 (2012) 189–243 · A. Martin-Pizarro, D. Palacín, Model Theory 3 (2024) 1–37.

논문은 LaTeX 서식에만 AI를 사용했고 수학적 내용은 모두 사람이 만들었다고 밝힌다. 이미지 출처: 리하르트 라도 사진 — Konrad Jacobs / MFO, CC BY-SA 2.0 de; 유한체 F₂₅ 도해 — Jacksonwalters, CC0. 모두 Wikimedia Commons.