같은 군인데 한쪽만 에르고딕하다 — 나무 같은 동치관계가 이긴 이유 (arXiv 2610.40237)

12쪽. 저자는 한 명, 소속은 중국 톈진의 난카이대학교 수리과학부, 각주에는 이 원고가 카네기멜런대학교에서 클린턴 콜리가 지도한 박사논문의 일부라고 적혀 있다. 2026년 10월 29일 arXiv에 올라온 이 짧은 논문이 다루는 대상은 입자가 아니라 관계(relation)다. 정확히는 확률측도 보존 가산 보렐 동치관계, 줄여서 p.m.p. CBER. 측도공간 위에 점들이 있고, 각 점마다 '같은 무리'에 속한 점들이 가산 개 붙어 있는 구조를 상상하면 된다. 이 논문은 그 무리 나누는 방식 자체를 모아 놓은 공간을 들여다본다.

1. 관계를 점으로 바꿔 놓는 공간, 그리고 일반적인 부분관계

출발점은 케클리스(Kechris)가 만든 구성이다. 측도보존 동치관계 E가 주어지면, 그 부분동치관계 F들을 전부 모아 집합 S(E)를 만든다. 그리고 F를 그 '전체군(full group)' [F]에 대응시키면 S(E)가 닫힌 부분군들의 공간 안에 들어앉는데, 여기에 위상을 주면 폴란드 공간이 된다. 논문이 인용하는 케클리스의 거리 공식은 이렇다. E에 속한 측도보존 변환 T와 부분관계 F에 대해서 d_u(T, [F]) = 1 − µ({x : (x, T(x)) ∈ F}). 즉 'T가 F 안에 얼마나 들어 있는가'를 측도로 재고, 그 여집합의 크기를 거리로 삼는다.

이 한 줄이 논문 전체의 무대를 만든다. 관계들 사이의 '가까움'이 측도의 숫자 하나로 환원되기 때문에, '거의 모든 부분관계가 어떤 성질을 갖는가'라는 질문이 위상수학의 전형적인 문제, 곧 조밀성과 조밀집합의 존재 문제로 바뀐다. 해석학도 확률론도 아닌, 측도와 위상이 만나는 지점이다. 그리고 이 무대 위에서 논문이 던지는 질문은 아주 짧다. 어떤 관계들이 '풍부하게 에르고딕'한가.

에르고딕하다는 말은 이 문맥에서 이렇게 작동한다. 관계 E 아래에서 변하지 않는 집합이 측도 0이거나 1뿐이면, 그 관계는 공간을 더 쪼갤 수 없다. 논문은 E의 에르고딕 부분관계들을 모은 집합 ERG_E가 S(E)에서 조밀하면 E를 '풍부하게 에르고딕(richly ergodic)'하다고 정의한다. 케클리스의 정리에 따르면 ERG_E는 G_δ 집합이므로, 조밀성은 곧 '조밀한 G_δ', 다시 말해 위상적으로 '거의 모든' 부분관계가 에르고딕하다는 뜻이 된다.

이 정의를 처음 보면 이상하게 들린다. 부분관계는 원래 관계보다 작은데, 작은 관계가 더 잘게 쪼개지지 않는다니. 그러나 에르고딕성은 '크기'가 아니라 '불변집합이 없다'는 성질이다. 아주 작은 부분관계라도 그 궤도가 공간 전체를 한 덩어리로 섞어 버릴 수 있다. 논문이 흥미롭게 보는 지점이 여기다. 부분관계를 조금만 건드려도 에르고딕성이 깨질 것 같지만, 실제로는 대부분의 부분관계가 에르고딕 쪽에 몰려 있다는 것이다.

2. 정리 1.1 — 나무 하나면 충분하다

논문의 첫 번째 주 결과는 조건 하나로 끝난다. 모든 에르고딕 p.m.p. 가산 보렐 동치관계가 나무 같으면(treeable), 그 관계는 풍부하게 에르고딕하다. 나무 같다는 것은 관계를 생성하는 그래프 가운데 닫힌 고리가 없는 것, 즉 '나무짓기(treeing)'가 존재한다는 뜻이다. 따라서 2 ≤ r < ∞인 모든 r에 대해, 자유 에르고딕 p.m.p. F_r-작용의 궤도관계는 섞임(mixing) 여부와 무관하게 풍부하게 에르고딕하다. 군 작용으로 주어졌는지조차 필요 없다. 관계 자체가 나무 같기만 하면 된다.

F₂(생성원 두 개인 자유군)의 케일리 그래프. 정점마다 네 개의 간선이 뻗어 나가고 닫힌 고리는 없다 — 이 무한 4가 정규 나무가 이 논문이 말하는 '나무 같은(treeable)' 구조의 원형이다. — Jim.belk, Public domain (Wikimedia Commons)

왜 나무 같음이 결정적인가. 논문은 비용(cost)이라는 도구를 쓴다. p.m.p. 그래프 G의 비용은 C_µ(G) = ½ ∫ deg_G(x) dµ(x), 즉 점당 평균 차수의 절반이다. 관계의 비용은 그것을 그리는 모든 그래프의 비용 가운데 하한이고, 가보리오(Gaboriau)의 정리에 따르면 나무짓기는 이 하한을 실제로 달성한다. 나무는 '고리가 없어서 낭비가 없는' 그래프이므로, 비용이 곧 그 관계의 고유한 값이 된다.

여기에 압축 공식이 붙는다. E가 p.m.p. 관계이고 S가 완전단면집합이면 C_µ(E) = C_µ↾S(E↾S) + µ(X∖S)가 성립한다. 에르고딕할 때 이를 정규화하면, 작은 측도의 집합 S 위에서 E를 다시 본 비용은 1 + (C_µ(E) − 1)/µ(S)가 된다. 분모가 0으로 가면 이 값은 무한대로 발산한다. 논문은 이 발산을 일부러 만들어 낸다. 아주 작은 조각 위로 관계를 밀어 넣어 비용을 부풀린 다음, 그 위에서 새 에르고딕 변환을 뽑아내는 것이다.

3. 반전 — 같은 군, 정반대 결과

두 번째 정리가 이 글의 진짜 반전이다. 논문은 군 Z × F_r이 두 가지 자유 에르고딕 작용을 동시에 가진다고 보인다. (i) 궤도관계가 풍부하게 에르고딕한 작용, 그리고 (ii) 궤도관계가 풍부하게 에르고딕하지 않은 작용. 작용하는 군이 같으므로, 풍부한 에르고딕성은 군만으로 결정되지 않는다. 같은 배우가 같은 대본을 들고도 전혀 다른 연극을 하는 셈이다.

(ii)는 베르누이 작용이다. Z × F_r의 베르누이 작용은 자유롭고 에르고딕하지만, F_r로 제한하면 비가환군의 베르누이 작용이라 강하게 에르고딕하고, Z로 제한하면 베르누이 변환이라 역시 에르고딕하다. 가보리오와 터커-드롭의 정리에 따르면 이런 곱은 '비근사적'이 되고, 케클리스의 정리에 따라 풍부하게 에르고딕할 수 없다. 여기까지는 기존 결과의 조합이다.

(i)이 새롭다. 논문은 2진 오도미터 작용과 F_r의 베르누이 작용을 좌표를 따로따로 곱한다. α(m, γ)(x, y) = (T^mx, γ·y). 여기서 T는 이진수에 1을 더하는 오도미터다. 핵심은 이 궤도관계를 에르고딕 나무 같은 부분관계들의 증가 합집합으로 표현할 수 있다는 것이다. 논문은 Y를 양의 측도를 가진 조각들 Y_n로 나누고, y가 어느 조각에 속하는지에 따라 x의 앞쪽 n개 좌표를 뒤집는 σ_n을 붙여 β₀를 만든다. 이어 (Z₂)ⁿ × F_r의 작용 β_n을 쌓아 올리면 E_β0 ⊆ E_β1 ⊆ … 이고 합집합이 정확히 E_α가 된다.

각 β_n은 자유롭고 에르고딕하며, 군 (Z₂)ⁿ × F_r은 강하게 나무 같다. 유한 커널에 의한 확장은 강한 나무 같음성을 보존하고 F_r은 강하게 나무 같기 때문이다. 따라서 각 E_βn은 나무 같고, 정리 1.1에 의해 풍부하게 에르고딕하다. 풍부한 에르고딕성은 증가 합집합에서 보존되므로, 극한 E_α도 풍부하게 에르고딕하다.

라이프니츠가 1697년 「De Dyadicis」에 남긴 손글씨 표. 왼쪽 열이 1, 10, 100, 1000…으로 이어지는 이진 표기이고 가운데 열이 그 값을 10진수로 적은 것이다. 논문의 반례 아닌 반례, 즉 2진 오도미터는 바로 이 열을 1씩 더해 올리는 조작이다. — Gottfried Wilhelm Leibniz, Public domain (Wikimedia Commons)

4. 왜 한쪽은 막히고 다른 쪽은 뚫리는가

막는 쪽의 열쇠는 '비근사성'이다. 관계 E가 비근사적이라는 것은, E를 유한 단계로 늘려 가는 어떤 증가 소진 E = ∪_nE_n을 잡아도, 어느 단계에서는 양의 측도를 가진 집합 B 위에서 E_n이 이미 E와 똑같아져 버린다는 뜻이다. 즉 단계를 아무리 잘게 쪼개도 어느 순간 '더 이상 새것이 없는' 정체 구간이 생긴다. 케클리스는 에르고딕 비근사 관계가 풍부하게 에르고딕할 수 없음을 보였다. 근사가 막히면 조밀성도 막힌다.

베르누이 작용이 여기 걸린다. H × K 꼴 곱에서 두 군이 모두 무한이고 유한 생성이며, H로 제한한 작용이 강하게 에르고딕하고 K로 제한한 작용이 에르고딕하면 그 곱은 비근사적이라는 것이 가보리오-터커-드롭의 정리다. Z × F_r의 베르누이 작용은 이 조건을 정확히 만족한다. 반면 (i)의 오도미터 곱은 조건을 피해 간다. 논문이 직접 짚는 이유는, 이 '좌표 분리' 곱에서는 어느 인자도 전체 곱공간 위에서 에르고딕하게 작용하지 않는다는 것이다. 같은 곱 구조인데 인자가 공간 전체를 섞느냐 마느냐가 근사 가능성과 풍부한 에르고딕성을 갈랐다.

5. 증명의 뼈대 — 강하게 증가하는 소진

정리 1.1의 증명은 케클리스의 판정법을 목표로 삼는다. E₀ ⊆ E₁ ⊆ … 이고 합집합이 E일 때, 각 n마다 E_n과 '수직'인 에르고딕 변환 T가 존재하면 그 소진은 '강하게 증가'하고, 그런 소진이 있으면 E는 풍부하게 에르고딕하다. 수직(⊥)은 두 관계를 합쳐도 자유곱이 되는, 곧 두 관계를 오가는 축소 교대 순환이 존재하지 않는 강한 조건이다. 교차(transversal)보다 엄격하다.

증명의 기술적 요점은 두 가지다. 첫째, 나무짓기를 '잘 반복된 간선 미끄러뜨리기(well-iterated edge slide)'로 바꿔 에르고딕 초유한 부분그래프를 품게 만든다. 미끄러뜨리기는 연결성과 비순환성을 보존하므로 여전히 나무짓기다. 둘째, 밀러-체루냔의 상대적 분해 정리를 쓴다. 이미 정해 둔 에르고딕 기저를 고정한 채 나머지를 에르고딕 초유한 인자들로 쪼개는 정리다. 이 두 도구를 겹치면, 각 단계에서 '아직 쓰지 않은 간선'을 양의 측도만큼 남겨 두고 그 간선들로 다음 에르고딕 변환을 만들어 낼 수 있다. 조각 위로 밀어 넣어 비용을 무한대로 부풀린 뒤 새 변환을 뽑는 3절의 계산이 바로 여기서 쓰인다.

6. 저자가 스스로 인정한 한계

논문은 12쪽이고, 각주에 밝히듯 저자의 박사논문 일부를 자기완결적으로 다시 쓴 것이다. 주 결과 자체는 조건 하나로 깔끔하게 끝나지만, 저자는 마지막 절에서 두 개의 열린 질문을 남긴다. 질문 5.5는 강하게 증가하는 소진을 갖지 않으면서도 풍부하게 에르고딕한, 비초유한 에르고딕 관계가 존재하는지 묻는다. 다시 말해 6절의 판정법이 필요조건인지 충분조건인지가 비초유한 영역에서 아직 열려 있다. 질문 5.6은 그 반대쪽이다. 풍부하게 에르고딕하지 않으면서 비자명한 근사를 갖는 관계가 있는지.

범위의 한계도 분명하다. 정리 1.1은 '에르고딕'하고 '나무 같은' 관계로 못 박혀 있고, 정리 1.2의 두 예는 Z × F_r이라는 특정 군 곱 위에서 만들어진다. 논문은 풍부한 에르고딕성이 작용군만으로 결정되지 않는다는 것을 보였지만, 그렇다면 무엇이 결정하는지에 대한 일반적인 판정 기준을 제시하지는 않는다. 비근사성이 막는 쪽의 충분한 이유로 등장하지만, 근사 가능성 자체가 풍부한 에르고딕성을 보장하지는 않는다. 그 간극이 두 질문으로 남아 있는 셈이다.

7. 독자에게 던지는 질문

이 논문이 재미있는 이유는 결론의 모양 때문이다. '관계가 나무 같으면 된다'는 한 문장과, '같은 군이 두 가지 답을 낸다'는 반례 한 쌍. 고리가 하나도 없는 구조가 오히려 가장 잘 섞이는 구조라는 것, 그리고 배우가 아니라 배우가 서 있는 무대의 배열이 결과를 가른다는 것. "대부분의 부분관계는 에르고딕하다"는 말은, 관계를 조금 어긋나게 흔들어도 섞임이 깨지지 않는다는 뜻이기도 하다.

그렇다면 질문을 하나 남겨 두자. 여러분이 어떤 시스템을 '충분히 섞였다'고 부를 때, 그 판단은 시스템 자체에서 오는가, 아니면 그것을 나눠 본 방식에서 오는가. 같은 데이터, 같은 군, 같은 곱인데 좌표를 어떻게 묶느냐만 바꿔도 결론이 뒤집힌다면 — 우리가 흔히 '무작위하다'고 부르는 성질은 대상의 속성일까, 아니면 우리가 대상을 자르는 방식의 속성일까.

참고 자료

Wei Dai, Ergodic treeable equivalence relations are richly ergodic, arXiv:2610.40237v1 [math.DS], 2026년 10월 29일 제출, 12쪽. https://arxiv.org/abs/2610.40237

주요 인용: A. S. Kechris, The Spaces of Measure Preserving Equivalence Relations and Graphs (2024, Problem 11.1 및 11.3–11.7); D. Gaboriau, Coût des relations d'équivalence et des groupes, Invent. Math. 139 (2000); D. Gaboriau · R. Tucker-Drob, C. R. Math. Acad. Sci. Paris 354 (2016); B. D. Miller · A. Tserunyan, Edge sliding and ergodic hyperfinite decomposition, arXiv:1704.06019. 이미지: F₂ 케일리 그래프(Jim.belk, Public domain), 라이프니츠의 이진 표 원고(Public domain) — 모두 Wikimedia Commons.