자기 자신의 바깥을 안에서 계산하는 집합론 — KP는 왜 "단단하지" 않은가

크립키-플래이트 집합론(KP)의 가장 작은 모형은 L_ω1^CK 라는 이름의 집합이다. 이 모형은 가산이다. 원소의 개수가 자연수만큼이라는 뜻이므로, 바깥에서 보면 그 원소를 하나씩 자연수에 대응시키는 전단사 함수가 존재한다. 그런데 그 함수 자체는 모형 안에 들어 있지 않다. 모형은 자기 원소를 셀 수 없고, 자기가 가산이라는 사실도 모른다. 표준적인 집합론 교과서는 바로 이 지점에서 이야기를 끝낸다. 제네릭 확장은 모형 바깥에서 만들어야 하고, 따라서 상대적 해석(relative interpretation)의 대상이 될 수 없다고 가르친다.

2026년 10월 30일 arXiv에 올라온 엘리엇 글레이저(Elliot Glazer)와 토비 메도스(Toby Meadows)의 논문 「Loose Inductive Set Theories」는 이 교과서적 문장을 정면으로 뒤집는다. 두 사람은 KP에 완전 집합 귀납법(Full Set Induction)을 붙인 이론이 견고(solid)하지도, 조밀(tight)하지도 않다는 것을 증명한다. 더 나아가 KP 계열 이론을 양화사 유계(quantifier bounded) 방식으로 확장한 거의 모든 이론이 같은 방식으로 무너진다는 정리 틀을 제시한다. 요지는 이렇다. 경계가 있는 집합론은 자기 우주 전체를 자연수로 열거하는 정의 가능한 함수를 품을 수 있고, 그 열거를 이용하면 자기 위에서 정의되는 제네릭 확장까지 자기 안에서 구성할 수 있다.

1. 두 개의 근사 범주성: 조밀함과 견고함

먼저 용어를 정리해야 한다. 1차 논리에서는 무한 모형을 가진 이론이 범주적일 수 없다. 콤팩트성 정리가 더 큰 모형을 항상 만들어내기 때문이다. 그래서 최근 논리학은 범주성의 대용물을 찾는다. 그중 하나가 엘리아트 에나야트(Enayat)가 2016년에 정리한 조밀함(tightness) 이다. 이론 T가 조밀하다는 것은, T의 두 확장이 서로 쌍-해석가능(bi-interpretable)하다면 두 확장이 같은 연역적 폐포를 가진다는 뜻이다. 다시 말해 이론을 서로 다른 방식으로, 그러나 서로를 완전히 번역할 수 있는 방식으로 늘려나갈 수 없다는 요구다.

논문은 이해를 돕기 위해 그래프 예시를 든다. 이항 관계 R 하나만 있는 빈 이론을 생각하자. R이 반사적이라고 말하는 확장과, R이 비반사적이라고 말하는 확장은 서로 쌍-해석가능하다. 한쪽에서는 모든 점에 고리를 달고 다른 쪽에서는 고리를 떼면 되기 때문이다. 그러나 두 확장은 명백히 다른 이론이다. 그래서 빈 이론은 조밀하지 않다. 반대로 페아노 산술(PA)은 조밀하다는 것이 비서(Visser) 2006년 결과다. PA의 서로 다른 두 확장이 서로를 완전히 번역할 수 있다면, 표준 자연수 구조에 대해 참인 문장과 거짓인 문장을 가르는 기준이 사라져 버린다는 것이 직관적 설명이다.

게오르크 칸토어, 1894년경 — 저작자 미상, Public domain (Wikimedia Commons)

견고함(solidity)은 조밀함의 모형이론적 핵심으로, 역시 에나야트가 정의했다. 이론 T의 모형 M₀, N, M₁이 있어 M₀이 N을, N이 M₁을 상대적 해석으로 품고, M₀에서 매개변수로 정의 가능한 동형사상 f: M₀ ≅ M₁이 존재한다고 하자. 이때 M₀에서 정의 가능한 동형사상 g: M₀ ≅ N이 반드시 있어야 한다면 T는 견고하다. 견고한 이론은 조밀하다는 것이 알려져 있어서, 조밀함을 증명하는 주된 경로가 바로 견고함이다. 논문이 공격하는 것은 이 두 성질이다.

2. KP, 그리고 가장 작은 모형이라는 함정

KP는 분리, 수집, 치환 스키마를 유계된 형태로만 허용하면서 집합 귀납법은 완전한 형태로 유지하는 이론이다. 이론 자체는 오래되었고, 논문이 쓰는 판본은 완전 집합 귀납법을 포함한다. 저자들은 이 판본을 택한 이유를 분명히 밝힌다. 최근 문헌 다수는 완전 집합 귀납법을 Σ₁-집합 귀납법으로 바꾼 판본을 쓰는데, 그렇게 하면 이론이 유한 공리화 가능해진다는 장점이 있다. 그러나 그 편의를 위해 귀납의 강도를 낮추면, 논문이 겨냥하는 현상이 사라진다. 그래서 두 저자는 귀납을 최대로 유지한 채 분리·수집·치환만 유계로 제한한다.

이 조합이 만드는 첫 번째 결과가 정리 3이다. 완전 집합 귀납법을 가진 KP는 견고하지도 조밀하지도 않다. 증명은 L_ω1^CK 에서 시작한다. 이 모형을 N이라 부르면, 논문은 N이 충분히 제네릭한 코언 실수 c를 정의할 수 있고, 그 c로 만든 제네릭 확장 N[c]까지 정의할 수 있음을 보인다. 그 결과 다음과 같은 사슬이 만들어진다. N이 N[c]를 해석하고, N[c]가 다시 L^N[c] 를 해석한다. 그리고 N은 자기가 만들어낸 L^N[c] 와 동형이라는 동형사상 η를 정의할 수 있다. 그런데 N과 N[c]는 동형이 아니다. 자기 자신으로 되돌아오는 구조 보존 사상이, 자기를 자기와 다른 것으로 바꾸어 놓는 것이다. 이것이 견고함의 정의를 정확히 위반한다.

3. 반전: 모형이 자기 제네릭 확장을 안에서 들여다본다

여기서 독자가 걸려야 할 지점은 '정의 가능한 제네릭'이라는 표현이다. 통상적인 이해에서 제네릭 필터는 모형에 속하지 않는다. 모형의 모든 조밀 집합을 피해가야 하는데, 그 조밀 집합들의 모임이 모형 안에 있으면 자기 자신을 피할 수 없기 때문이다. 그래서 제네릭 확장은 모형 위에 새로 얹히는 대상이고, 상대적 해석의 재료가 되지 못한다. 논문은 이 통상적 교훈이 유계 이론에서는 성립하지 않는다고 말한다.

핵심은 모형이 자기가 가산임을 '볼 수 있는' 경우를 구성할 수 있다는 것이다. 자연수에서 우주 전체로 가는 전사 함수가 모형 안에서 매개변수 없이 정의되면, 모형은 자기 원소를 차례로 늘어놓고 그 목록 위에서 조밀 집합들을 대각선으로 피해가는 필터를 만들 수 있다. 제네릭이 바깥에서 오는 것이 아니라, 열거 가능한 목록 위에서 계산되어 나온다. 저자들도 이 점을 논문 서두에서 '집합론의 정통 교육에 정면으로 어긋난다'고 스스로 표시한다. 비슷한 발상이 프레이레와 윌리엄스(Freire and Williams, 2025)가 쌍-해석가능성을 얻기 위해 정의 가능한 코언 제네릭을 쓴 작업과 가깝다고 밝힌다.

이 반전이 중요한 이유는 결과의 강도 때문이 아니다. 결과의 방향 때문이다. 보통은 큰 이론이 더 많은 것을 결정하고, 작은 이론이 더 많은 자유를 남긴다고 생각한다. 여기서는 반대다. 유계라는 제약이 오히려 모형에게 자기 우주를 통째로 열거할 수 있는 여지를 주고, 그 여지가 이론의 '동일성'을 흔든다. 이론이 약해서 무너지는 것이 아니라, 약한 대신 자기 전체를 손에 넣을 수 있게 되어서 무너진다.

4. 논문에서 가장 독창적인 부분: 정의 가능한 가산 열거 보조정리

저자들은 이 보조정리를 논문에서 가장 독창적인 기여로 꼽고, 가장 많은 지면을 여기에 배분한다. 내용은 이렇다. KPC에 양화사 유계 문장들의 집합을 더해 얻어지는 일관적인 이론은 모두, 자연수에서 우주로 가는 매개변수 없는 정의 가능한 클래스 전사 함수를 갖는 모형을 가진다. 즉 '자기 우주를 셀 수 있는 모형'은 특정 이론의 우연한 성질이 아니라, 유계 확장 전반에 걸친 보편적 현상이다.

유리수의 대각선 열거. 칸토어가 1873년에 쓴 첫 번째 대각선 논법으로, 양의 유리수 전체를 자연수 하나하나에 빠짐없이 대응시킨다 — Cronholm144, CC BY-SA 3.0 (Wikimedia Commons)

이 일반화가 왜 어려운지가 흥미롭다. V = L 과 양립하는 이론이라면 L 의 자연스러운 정렬 순서를 그대로 쓸 수 있다. 실제로 저자들은 L 의 미세구조 정리들을 이 맥락에 맞게 변형하면 열거가 쉽게 나온다고 언급한다. 문제는 V = L 과 양립하지 않는 이론이다. 큰 기수를 허용하거나 강제 공리를 허용하는 이론에서는 그 정렬 순서가 없다. 그래서 저자들은 타블로(tableau) 증명 체계를 변형해 모형을 근사적으로 쌓아 올리고, 그 과정에서 상수 기호에 서수 순위를 부여해 기초가 잘 성립하는 모형을 만든다. 새 상수를 추가할 때마다 서수 배정을 기록하고, 그 배정의 누적이 해석된 모형에서 서수들로 가는 순서 보존 사상을 준다.

결과적으로 이 보조정리는 정리 틀(정리 31)의 엔진이 된다. 유계 확장이 '안정적으로 정의 가능한 기초 모형 성질'을 가지면 그 이론은 조밀할 수 없다는 틀이다. 개별 이론을 하나씩 다루는 대신, 성질 하나를 확인하면 무한히 많은 이론이 한꺼번에 무너진다. 선행 연구와의 거리도 여기서 분명해진다. 에나야트와 웨워크(Łełyk) 2024년 결과는 ZF의 Π_n-귀결들이 견고하지도 조밀하지도 않다는 것이었고, 프레이레와 햄킨스 2020년 결과는 체르멜로 집합론과 멱집합 없는 ZFC가 조밀하지 않다는 것이었다. 이 논문은 여기에 완전 집합 귀납법을 더하고, ZF의 부분이론이라는 울타리도 없앤다.

5. 경쟁 가설과 반론: 그럼 이론을 강화하면 해결되는가

가장 자연스러운 반론은 이렇다. 실패가 유계 이론에서만 일어난다면, 그건 이론이 너무 약해서 생긴 병리이고 분리와 치환을 온전히 허용하면 사라지는 문제 아닌가. 논문은 이 반론에 두 방향으로 답한다. 첫째, 완전한 ZFC와 PA는 실제로 이 성질들을 가진다. 즉 경계선은 실재하고, 논문은 그 경계선 안쪽을 정확히 지도화한 작업이다. 둘째, 그 경계선이 생각보다 넓다. 유계 확장은 하나의 이론이 아니라 열린 집합족이고, 논문은 그 폭을 하나의 정리 틀로 덮는다.

또 하나의 반론은 '정의 가능한 제네릭'이라는 표현 자체를 겨눈다. 정의 가능한 대상은 제네릭일 수 없다는 것이 표준적 직관이다. 여기에 대한 논문의 대응은 용어를 느슨하게 쓰지 않는 것이다. 모형이 보는 것은 자기 자신의 조밀 집합족이며, 그 족은 모형의 크기가 가산적으로 열거될 때 완전하지 않다. 그래서 피해갈 수 있는 여지가 생긴다. 제네릭의 정의를 문자 그대로 유지하면서, 그 정의를 만족하는 대상을 모형 내부에서 구성하는 것이다. 저자들은 이 구성을 '상대적 해석으로 정의된 제네릭 확장'이라 부르고, 그것이 쌍-해석가능성과 모순되지 않음을 보인다.

세 번째 반론은 견고함과 조밀함의 관계를 겨눈다. 견고하면 조밀하다는 함의는 알려져 있지만 역은 일반적으로 성립하지 않는다. 그래서 '조밀하지 않음'만 보이면 충분한데 왜 견고하지 않음까지 증명했는가. 논문은 이 선택을 방법론적 이유로 설명한다. 견고하지 않음의 증명이 하이퍼산술 집합이라는 친숙한 세계에서 이루어지므로, 독자가 직관을 쌓기에 더 낫다는 것이다. 실제로 정리 3의 증명은 견고함 실패를 먼저 상세히 보여주고, 그 다음 같은 논리를 조밀함 실패로 변형한다.

6. 응용: 집합론의 지질학과 기초 공리

논문의 후반부는 이 도구를 집합론의 지질학(set-theoretic geology)으로 옮긴다. 지질학은 강제 확장의 사슬을 거슬러 올라가 '기초 모형(ground model)'을 캐내는 분야다. 여기서 결정적인 도구가 기초 모형 정의 가능성인데, 슐루첸버그(Schlutzenberg) 2022년 결과는 이를 약한 이론 MOST 위에서 확립했다. 저자들은 그 매개변수를 더 작게 만드는 적응을 하고, 그 매개변수를 연속체 함수에 부호화해 매개변수 없이 기초 모형을 되찾는 정리를 세운다. 작은 매개변수 논증은 MOST 위에서, 부호화 구성은 ZFC^Π₃ 위에서 수행된다.

이 준비가 끝나면 응용이 나온다. 큰 기수와 강제 공리를 허용하는 약한 귀납적 집합론들, 그리고 양화사 유계 집합론에서 V = HOD 가 표현 불가능하다는 결과가 따라온다. 마지막 절의 결과는 특히 눈에 띈다. MOST에 완전 집합 귀납법을 붙인 이론의 양화사 유계 확장이 견고하다면, 고정된 유한 단계의 제네릭성으로 정식화한 기초 공리(Ground Axiom)가 따라 나온다. 같은 견고성 가정 아래에서, 완전한 ZFC의 해당 확장은 통상적인 기초 공리를 증명한다.

이 함의의 방향을 정확히 읽어야 한다. 논문이 보인 것은 '견고함이면 기초 공리'이지 그 역이 아니다. 견고성이 기초 공리를 함의한다는 사실은 두 개념이 같은 방향을 가리킨다는 신호다. 기초 공리는 모든 집합이 더 작은 기초 모형에서 왔다는 주장이고, 견고함은 이론이 자기 해석의 사슬에서 자기를 바꾸지 않는다는 주장이다. 유계 이론에서는 그 사슬이 실제로 자기를 바꾸므로, 기초 공리가 힘을 잃는다. 저자들이 '약한 망치로 하는 지질학'이라는 절 제목을 붙인 이유가 여기 있다.

7. 논문이 스스로 인정한 한계

첫째, 정리 틀은 보편 정리가 아니다. 정리 31은 유계 확장이 특정 성질(논문의 정의 29, 안정적으로 정의 가능한 기초 모형 성질)을 가질 때만 작동한다. 모든 유계 집합론이 조밀하지 않다는 주장이 아니라, 그 성질을 확인할 수 있는 넓은 부류가 무너진다는 주장이다. 둘째, 정의 가능한 가산 열거 보조정리는 이론의 일관성을 전제한다. 일관적이지 않은 이론에는 모형이 없으므로 논의 자체가 성립하지 않는다.

셋째, 결과의 성격 자체가 제한적이다. 논문이 말하는 것은 해석과 연역적 폐포의 관계이지, 실제 집합 우주 V 에 대한 존재론적 주장이 아니다. 견고성 실패는 '이론의 모형들이 서로를 비자명하게 해석한다'는 사실이고, 그것이 수학의 실제 대상에 관해 무엇을 함의하는지는 논문의 범위 밖이다. 넷째, 완전한 ZFC가 이 성질들을 가진다는 사실은 그대로 남는다. 따라서 이 논문은 '집합론 전체가 흔들린다'는 이야기가 아니라 '집합론의 아래쪽 경계가 예상보다 넓고 이상하다'는 이야기로 읽어야 한다.

8. 참고 자료

Elliot Glazer, Toby Meadows, "Loose Inductive Set Theories", arXiv:2610.41862v1 [math.LO], 2026년 10월 30일 제출. 논문 PDF: https://arxiv.org/abs/2610.41862v1

관련 선행 연구로는 Enayat & Łełyk (2024)의 ZF의 Π_n-귀결에 관한 결과, Freire & Hamkins (2020)의 체르멜로 집합론 비조밀성, Freire & Williams (2025)의 Kelley-Morse 부분이론 결과, Schlutzenberg (2022)의 MOST 위 기초 모형 정의 가능성 정리가 논문 안에서 직접 인용된다.