무한히 던진 동전은 왜 분류할 수 없나 — 에르고다시티라는 장애물 (arXiv:2610.40440)

동전을 무한 번 던져 앞뒷면을 적은 기록 두 장이 있다고 하자. 두 기록이 처음 몇 칸에서 어긋나더라도 어느 시점부터 완전히 같아지면, 수학자들은 그 둘을 같은 것으로 묶는다. 이 관계를 E0라고 부르고, 무한 이진수열 전체의 공간 2^N 위에 정의한다. 정의는 한 줄이지만, 2026년 10월 29일 arXiv에 올라온 아사프 샤니(Assaf Shani)의 논문 「Ergodicity as an obstruction to classification by higher-rank invariants」(arXiv:2610.40440v1)는 이 한 줄에서 출발해 “분류란 무엇이며 언제 불가능한가”라는 질문 전체를 다시 세운다.

논문이 다루는 것은 수학의 오래된 야심이다. 어떤 대상들의 모음과 자연스러운 동치 관계가 주어졌을 때, 그 관계를 완전히 결정하는 ‘분류 불변량’을 찾는 일. 유한 차원 벡터공간은 차원 하나로, 유한 집합은 원소 개수 하나로 분류된다. 그런데 무한한 대상에서는 그런 희망이 어디서 꺾이는지를 증명해야 하고, 이 논문은 그 꺾이는 지점을 ‘에르고다시티’라는 한 단어로 요약한다.

무한히 던진 동전 두 개가 ‘같다’는 것

2^N은 0과 1의 무한수열 전체이고, 칸토어 집합과 자연스럽게 대응하므로 크기는 실수 전체와 같다. E0는 “유한 개의 자리만 다르다”는 관계다. 두 수열 x, y가 유한한 자리에서만 어긋나면 x E0 y. 각 수열의 동치류는 셀 수 있고, 류의 총 개수는 실수만큼 많다. 즉 E0는 ‘셀 수 있는 류가 실수 개수만큼 있는’ 가장 단순한 예다.

이 관계는 군 작용으로도 쓸 수 있다. 유한 개의 좌표만 뒤집는 조작들의 군이 2^N에 작용하고, 그 궤도가 정확히 E0-류다. 논문은 이 작용이 범주적으로도, 동전 던지기 확률 측도에 대해서도 에르고딕하다는 고전적 사실에서 출발한다. 뒤집을 수 있는 자리가 유한 개뿐인데도 전체 공간 어디든 도달한다는 것, 이것이 뒤에 나올 장애물의 원형이다.

분류란 무엇이며, 무엇을 분류라고 세지 않는가

동치 관계 E에 대한 완전 분류는 x E y일 때와 그렇지 않을 때를 정확히 구분하는 함수 c: X → I다. 문제는 이런 함수가 얼마든지 있다는 점이다. 선택공리를 쓰면 각 류에서 대표를 하나씩 뽑아 그 대표로 보내는 함수가 완전 분류가 되고, x를 자기 류 [x]로 보내는 함수도 완전 분류다. 둘 다 아무것도 알려주지 않는다. 그래서 논문은 ‘절대적 완전 분류(absolute complete classification)’라는 조건을 건다. 집합론적 논리식으로 정의되고, ZF의 확장에서도 같은 방식으로 분류로 남고, 더 큰 모형에서도 값이 변하지 않는 분류만 인정한다. 모형을 키워도 흔들리지 않는 분류라야 분류라고 부르겠다는 뜻이다.

칸토어 집합의 점들과 이진수열의 대응 — 논문이 무대로 삼는 공간 2^N의 구조. — Sam Derbyshire, CC BY-SA 4.0 (Wikimedia Commons)

비교의 잣대는 보렐 환원가능성이다. E가 실수 전체의 등호 관계 =_R로 보렐 환원되면 ‘구체적으로 분류 가능’하다 하고, 기호로 E ≤_B =_R라 쓴다. 한 단계 위가 프리드먼–스탠리 점프다. E의 점프 E⁺는 수열 (x(n)) 전체를 하나의 대상으로 보고, 두 수열의 항들이 이루는 E-류의 집합이 같을 때 같은 것으로 묶는다. 그 결과 =_R⁺의 불변량은 ‘실수의 가산집합’이 되고, 점프를 반복하면 가산집합의 가산집합, 그 다음 층이 차례로 나온다. 계수 가능한 구조로 분류되는 관계는 어떤 가산 서수 α에 대해 =_R^+α로 환원된다는 것이 프리드먼의 정리다. 즉 ‘몇 겹짜리 불변량으로 분류되는가’가 난이도의 사다리가 된다.

장애물의 이름: 에르고다시티

실수를 불변량으로 쓰는 분류가 왜 막히는지는 이미 정리되어 있다. 가산군 Γ가 폴란드 공간 X에 연속으로 작용하고, 공집합이 아닌 열린집합 U, V마다 어떤 γ가 있어 γ·U가 V와 만난다면 그 작용은 ‘범주적 에르고딕’이다. 이때 불변 보렐집합은 제1범주이거나 그 여집합이 제1범주다. 측도 판본도 같은 형태다. 불변 보렐집합의 측도가 0이거나 1이면 μ-에르고딕이다.

이 성질이 분류를 죽이는 방식은 짧다. 궤도 동치관계 E_a에서 실수값 불변 보렐함수는 조밀한 어딘가에서 상수가 되어야 하고, 각 류는 가산이므로 서로 다른 류를 구별하지 못한다. 그래서 E_a ≤_B =_R인 보렐 환원은 존재하지 않는다. 논문 1.1절의 이 사실이 이후 모든 논의의 원형이다.

논문은 같은 이야기를 강제법(forcing)의 언어로 다시 쓴다. 코헨 강제법의 조건 집합은 ‘약한 동질성’을 갖고, 그 결과 일반적 실수는 지상 모형의 매개변수만으로는 정의할 수 없다. 페퍼만과 레비의 초기 결과가 여기 걸린다. 일반적 실수 x를 추가해도, 지상 모형의 매개변수로 정의되는 부분집합은 여전히 지상 모형 안에 있다. 그래서 서수 집합은 분류 불변량이 될 수 없다. 강제법은 서수를 바꾸지 않으니까.

반전 — 실수 한 겹 위로 올라가도 소용없다

여기서 자연스러운 다음 수가 있다. 불변량이 ‘실수의 집합’이라면, 실수를 하나도 추가하지 않는 강제법을 쓰면 되지 않을까. 실수를 추가하지 않으면 새 실수 집합도 생기지 않으니, 그런 집합은 지상 모형 안에 머문다. 문제는 그렇게 하면 새로운 동치류 자체를 추가할 수 없다는 것이다. 류를 새로 만들려면 그 류의 원소, 즉 새 실수가 필요하다. 이 딜레마가 논문의 핵심이며, 저자는 ‘가상 류(virtual class)’로 빠져나간다.

가상 류는 라슨–자프레탈의 개념이다. 강제법 포셋 P와 P-이름 τ의 짝 (P, τ)가, P×P가 τ의 왼쪽 사본과 오른쪽 사본을 E-동치로 강제할 때 ‘안정’하다고 한다. 실제 원소 x 하나는 언제나 안정한 가상 류가 되므로, 가상 류의 세계는 원래 공간 X를 확장한 것으로 볼 수 있다. 그리고 절대적 불변 사상은 이 확장 세계로 자동으로 뻗는다.

논문의 주정리(정리 1.4)는 이렇게 말한다. P가 강제법 포셋이고 τ가 가상 E-류의 이름이며, τ가 ‘불안정’하고 (P, E)-에르고딕하면, P-일반 확장에서 불변량이 지상 모형의 부분집합인 절대적 완전 분류는 존재하지 않는다. 여기서 (P, E)-에르고딕이란, 임의의 두 조건 p, q에 대해 P의 자기동형 γ가 있어 γ·p가 q와 양립하고 γ가 (E, τ)를 존중하는 성질이다. 고전적 에르고다시티의 자기동형 판본을 가상 류로 옮긴 셈이다. 정리 1.5는 여기에 “P가 P^α(N)의 새 원소를 추가하지 않는다”는 조건을 더해, 실수의 가산집합(α=1)을 불변량으로 쓰는 분류의 불가능, 즉 E ≰_B =_R⁺를 얻는다.

선택공리가 무너진 세계에서 오히려 선명해진다

정리들이 ZF에서 증명된다는 점이 이 논문의 성격을 결정한다. 선택공리가 없는 모형에서는 ‘고를 수 없다’는 사실 자체가 강제법의 재료가 되기 때문이다. 기본 코헨 모형 V(A)를 보자. A는 실수들의 집합인데 데데킨트-유한이다. 다시 말해 A의 서로 다른 원소를 늘어놓는 수열이 존재하지 않는다. 그래서 A를 2로 보내는 유한 부분함수들의 포셋 P를 잡으면, 문로의 정리에 따라 P는 지상 모형의 부분집합을 하나도 추가하지 않는다. 그런데 P-일반 필터는 A의 새 부분집합 G를 만든다. 새 실수는 없는데 새 ‘류’는 생기는 것이다.

동전 네 번 던지기의 16가지 결과 — 유한 곱공간을 눈으로 본 그림. 논문의 두 번째 코헨 모형은 이런 ‘짝’을 셀 수 없이 늘어놓고, 각 짝에서 하나씩 고르는 선택함수가 없음을 이용한다. — Birdlover1234, CC0 (Wikimedia Commons)

이 위에서 저자는 =_R⁺⁺가 실수의 집합을 불변량으로 쓸 수 없음을, 그것도 서수 집합의 집합을 불변량으로 써도 안 된다는 더 강한 형태로 보인다(따름정리 5.4). 이어 두 번째 코헨 모형이 나온다. 각 Z_n이 E0-류 두 개로 이루어진 짝이고, 그 짝들의 곱 ∏Z_n은 공집합이다. 짝은 있는데 각 짝에서 하나를 고르는 함수가 없다. 여기서 유한 부분 선택함수들의 포셋을 잡으면 같은 결론이 반복된다(명제 5.10). 마지막 예는 소수 p마다 p개짜리 순환 순열의 집합 A_p를 늘어놓고, 중국인 나머지 정리로 서로 다른 소수들에 걸린 조건들을 하나의 정수 k로 동시에 맞춘다. 이 기술은 Z-이동 작용, 즉 클레멘스–코스키의 Z-점프에 대한 기존 결과를 다시 증명한다.

반론 — 이건 분류가 아니라 강제법의 기술이 아닌가

가장 강한 반론은 이렇다. “절대적 완전 분류”라는 제한이 지나치게 좁아서, 애초에 아무도 원하지 않던 분류만 배제하는 것 아니냐는 것이다. 실제로 계수 가능한 구조의 동형류는 스콧 문장으로 분류되고, 이 분류는 논문이 말하는 절대적 분류의 예로 명시된다. 즉 표준적인 분류는 조건을 통과한다. 배제되는 것은 모형을 키우면 값이 바뀌거나, 선택공리에만 기대어 대표를 뽑는 종류의 분류다.

두 번째 반론은 방법론에 관한 것이다. 강제법과 가상 류를 동원한 증명은 ‘분류 불가능’이라는 음성 결과를 낳지만, 그 음성 결과가 대상 자체의 성질인지 증명 기법의 한계인지는 따로 물어야 한다. 이에 대한 논문의 답은 환원 불가능성 자체가 절대적(absoluteness)이라는 점이다. 정리의 결론은 특정 모형에서만 참인 진술이 아니라, 어느 모형에서 적용하든 같은 참을 갖는다. 반면 전제인 “P가 새 실수를 추가하지 않는다”는 지상 모형의 선택공리 실패에 기대므로, 그 부분은 모형 의존적이다. 논문도 정리 1.6에 대해 “선택공리가 지상 모형에서 실패해야 가설이 성립한다”고 명시한다.

논문이 스스로 인정한 한계

저자는 논문이 기존 결과들의 단순한 일반화가 아니냐는 의심을 먼저 꺼낸다. 실제로 논문의 여러 예는 샤니의 2021년·2024년 논문과 공저 논문들에서 이미 알려진 결과를 새 방법으로 다시 증명한 것이다. 저자 본인의 표현으로, 이 정리의 적용 범위는 샤니 2021의 정리 1.9보다 좁고 — =_R^+α로의 환원만 다루기 때문이다 — 2023년 공저 논문의 기법보다는 넓다. 새 분류 정리를 세운 것이 아니라, 알려진 정리들을 훨씬 짧고 적용하기 쉬운 하나의 기준으로 묶었다는 것이 이 논문의 실제 기여다.

두 번째 한계는 적용의 범위다. 제시된 예들은 대부분 ‘이미 환원 불가능성이 알려진’ 관계들이고, 이 기준으로 처음 열리는 문제는 논문에 없다. 저자는 이 제시 방식이 앞으로의 적용에 유용할 것이라고 전망할 뿐, 구체적인 미해결 문제를 지목하지 않는다. 또 하나, 4.2절의 (R, +)의 가산 부분군 분류 문제는 공저 논문의 상·하한 =_R⁺ < ∼_A < =_R⁺⁺ 중 하한만 새로 증명한다. 상한은 인용으로 가져온다. 어느 쪽이 이 논문의 성과이고 어느 쪽이 선행 연구인지 구분해서 읽어야 한다.

참고 자료

Assaf Shani, “Ergodicity as an obstruction to classification by higher-rank invariants”, arXiv:2610.40440v1 [math.LO], 2026년 10월 29일 제출. https://arxiv.org/abs/2610.40440v1

주요 정리: 정리 1.4(절대적 완전 분류의 불가능), 정리 1.5·1.6(P^α(N)·P^α(On) 불변량), 따름정리 4.3(=⁺⁺ ≰_B =⁺), 명제 4.5(가산 아르키메데스 군의 분류 문제), 따름정리 5.4·명제 5.10·5.16(선택공리가 없는 모형 위에서의 응용). 배경 개념은 가오의 『Invariant Descriptive Set Theory』와 칸나모리, 라슨–자프레탈의 가상 류 논문을 인용한다.

한 가지 질문을 남긴다. 우리는 “분류할 수 없다”는 결과를 들을 때 흔히 더 나은 아이디어가 없어서라고 생각한다. 그런데 이 논문은 불가능성이 증명 기법의 부족이 아니라 대상의 대칭성에서 온다고 말한다. 당신이 마지막으로 포기한 분류는 정말 불가능했던 것일까, 아니면 아직 그 대칭을 찾지 못했던 것일까.