원 하나에 답이 셋이던 문제, 137년 만에 “답은 하나인데 그 답이 답이 아니었다”는 결론이 되다

1889년, 프랑스 수학자 조제프 베르트랑은 저서 『확률의 계산(Calcul des probabilités)』에 원 하나를 두고 세 줄의 계산을 나란히 적었다. 질문은 단 하나다. “원 안에 임의로 현(chord)을 하나 그을 때, 그 현이 내접 정삼각형의 한 변보다 길 확률은 얼마인가.” 답도 셋이다. 1/2, 1/3, 1/4. 세 계산 중 어느 것도 산수를 틀리지 않았다. 틀린 것은 산수가 아니라 “임의로”라는 말이었다.

한 원, 세 개의 답, 그리고 하나의 구멍

첫 번째 방식은 현의 두 끝점을 원둘레 위에서 균등하게 고른다. 그러면 두 점 사이의 호가 120도보다 길어야 현이 정삼각형 한 변보다 길어지므로 확률은 1/3이다. 두 번째 방식은 현의 중점을 원판 내부에서 균등하게 고른다. 중점이 반지름의 절반 안쪽에 있어야 하니 넓이비로 1/4이다. 세 번째 방식은 현의 중점을 반지름 하나 위에서 균등하게 고르고, 그 점을 지나 반지름에 수직인 현을 긋는다. 중점이 반지름의 절반보다 바깥에 있어야 하므로 1/2이다.

세 계산은 각각 “임의로”라는 한국어 단어를 서로 다른 수학으로 번역한 결과다. 원둘레에 균등, 원판 넓이에 균등, 반지름 길이에 균등. 137년 동안 이 문제는 확률론 입문의 단골 반례로 살아남았다. 확률을 정의하려면 표본공간과 균등분포를 먼저 정해야 하는데, 그 정하는 일 자체가 확률 계산 밖에 있다는 것을 이 원 하나가 증명처럼 보여주기 때문이다.

원판에 무작위로 그은 현들. 끝점을 원둘레에서 균등하게 고르는 방식(첫 번째 정의)의 분포로, 현의 밀도가 가장자리로 갈수록 성겨진다 — Sakurambo (English Wikipedia), CC BY-SA 3.0, Wikimedia Commons

2014년의 제안: 방식을 고르지 말고, 방식들을 평균내자

2014년 D. Aerts와 M. Sassoli de Bianchi는 이 난점을 정면으로 받아들여 하나의 제안을 내놓았다. 하나의 무작위화 방식을 고르는 대신, 가능한 여러 방식을 위에 또 하나의 확률분포를 얹어 평균내자는 것이다. 이차 확률(second-order probability)이라는 이름이 붙는 구조로, “어떤 방식으로 긋느냐”를 다시 하나의 확률 변수로 만드는 셈이다.

이 제안의 매력은 베르트랑의 구멍을 메우는 방식에 있다. 답이 셋인 이유가 방식이 셋이기 때문이라면, 방식 전체에 무게를 고르게 주면 답도 하나로 모일 것 같다. 이들은 이렇게 얻은 값을 ‘보편 평균(universal average)’이라 불렀고, 베르트랑 문제를 쉬운 문제(주어진 방식을 계산하는 일)와 어려운 문제(어떤 방식이 옳은가를 정하는 일)로 나눠 설명했다. 새 논문이 다루는 것은 그 구분의 사정거리다.

비판: 근사가 조용히 몰래 끼어들었다

N. Shackel은 최근 저서에서 이 해법에 다섯 가지 반론을 걸었다. 세포 밀도(cellular density)에 의한 근사 자체가 문제라는 것, 그 구성에 숨어 있는 제한들, 평균이 자명해 보이는 극한으로 흘러간다는 지적, 이차 확률법칙을 무엇으로 고르느냐는 문제, 그리고 결과가 현에 이름을 붙이는 방식에 의존한다는 비판이다.

가장 아픈 반론은 첫 번째다. 연속적인 확률분포를 다루려면 원판을 잘게 쪼갠 칸(cell) 위에서 균등하게 고르는 이산 근사가 필요한데, 그 근사가 원래 분포로 수렴한다는 보장이 조용히 가정되어 있었다는 것이다. 근사의 정당성이 결론의 정당성과 같은 자리에 서 있는 구조라면, 평균은 계산된 것이 아니라 설정된 것이 된다.

반전: 답은 하나로 모이는데, 그 하나가 스스로를 정당화하지 못한다

2026년 10월 31일 arXiv에 올라온 이 논문은 첫 번째 반론을 “정당하다”고 인정한다. 그리고 근사 논증을 고친다. 길이가 같은 칸들의 재배열에 대해 불변인 이차 선택법칙이라면, 어떤 밀도와 어떤 무게를 쓰든 같은 균일 무게중심(uniform barycenter)에 도달한다는 것을 보인다. 세포 밀도의 경우 이 결론은 유한한 분해능에서 정확히 성립한다. 즉 이차 법칙이 유일하지 않다는 사실이, 그 결과의 유일성을 막지는 못한다.

여기까지 읽으면 해법이 이긴 것처럼 보인다. 반전은 그다음 문장에 있다. 논문은 “이 재배열과 구간 길이의 임의 변경 모두에 대해 불변인 확률측도는 존재하지 않는다”는 것을 증명한다. 길이를 바꾸는 순간 불변성은 깨지고, 길이를 고정하는 순간 그 길이가 어디서 왔는지가 문제로 남는다. 참조 기하학은 평균으로 얻을 수 없고, 무작위화되는 대상의 물리적 모형화가 공급해야 한다는 결론이다.

그래서 이 논문의 결말은 “베르트랑 문제가 풀렸다”가 아니다. 아주 좁은 의미에서는 풀렸고, 그 좁은 의미의 바깥에서 원래의 구멍이 그대로, 아니 더 정확한 형태로 되돌아온다. 평균은 하나로 모이지만, 그 평균이 어느 기하학 위에서 계산되었는지는 평균이 말해주지 않는다.

같은 원, 다른 난수. 중점을 원판 넓이에서 균등하게 고르는 두 번째 정의의 현 분포로, 앞의 그림과 통계적 성질이 다르다 — Sakurambo (English Wikipedia), CC BY-SA 3.0, Wikimedia Commons

경쟁 가설: 그럼 셋 중 하나는 틀린 것인가

이 문제를 둘러싼 입장은 크게 셋으로 갈린다. 첫째, 문제 자체가 잘 정의되지 않았으므로 답은 없다는 입장이다. Shackel의 반론은 이쪽에 가깝다. 둘째, 대칭성 원리로 답을 하나 고를 수 있다는 입장이다. 회전과 축척 같은 변환에 대한 불변성만으로 1/2을 끌어내는 고전적 논증이 여기 속한다. 셋째, 무작위화의 물리적 실체가 답을 정한다는 입장이다. 바늘을 던지는 실험이나 원자충돌에서 실제로 관측되는 분포가 답이라는 것이다.

이 논문이 새로 보태는 것은 둘째와 셋째 사이의 회계다. 대칭성만으로는 부족하다는 것을 정리로 못 박고, 그 부족분을 물리적 모형화라는 항목으로 넘긴다. 셋째 입장을 지지한다고 선언하지는 않지만, 남은 자리가 어디인지는 분명히 표시한다. 셋 중 하나를 고르는 문제가 아니라, 어느 지점에서 계산이 끝나고 모형화가 시작되는지를 정하는 문제로 바뀌는 셈이다.

논문이 스스로 인정한 한계

저자는 근사가 약한 근사(weak approximation)이며 오차 한계가 구간에 대해서만 주어진다는 점을 명시한다. 유일성 결론도 조건부다. 길이가 같은 칸들의 재배열에 대해 불변인 이차 법칙, 즉 ‘무관심 클래스(indifferent class)’ 안에서만 균일 무게중심이 유일하다. 클래스 바깥으로 나가면 이야기가 달라진다는 것을 논문은 숨기지 않는다.

또 하나 분명한 것은 이 글이 실험이나 관측을 제시하지 않는다는 점이다. 순수하게 확률측도와 불변성만으로 진행되는 논증이며, 따라서 “어느 물리적 모형화가 옳은가”라는 마지막 질문에는 답하지 않는다. 그 질문을 남겨두는 것이 결론의 일부다. 베르트랑이 1889년에 남긴 구멍은 메워진 것이 아니라, 메워야 할 자리의 좌표가 정확해졌다.

독자에게: 당신이 현을 긋는다면, 무엇이 당신을 긋게 하는가

원판 위에 무작위로 점을 찍는 프로그램을 생각해 보자. 난수 생성기는 균등분포를 주지만, 그 균등이 원판의 넓이에 대한 것인지, 반지름 길이에 대한 것인지, 아니면 원둘레에 대한 것인지는 프로그래머가 정한다. 논문의 결론을 따른다면 그 선택은 수학이 아니라 모형이 한다. 그렇다면 확률은 세계에 있는 것인가, 우리가 세계를 자르는 방식에 있는 것인가.

같은 질문이 물리학 안에서도 반복된다. 방사성 붕괴의 방향, 산란각의 분포, 양자측정의 결과 — 이 모든 곳에서 “균등”은 계산의 출발점이지 계산의 결과가 아니다. 137년 된 원 하나가 아직 남기는 것은 답이 아니라, 답을 세는 방식에 대한 질문이다.

참고 자료

Massimiliano Sassoli de Bianchi, “Invariant universal averages and Bertrand’s paradox: a response to Shackel”, arXiv:2611.00981v1 (physics.hist-ph), 2026-10-31. https://arxiv.org/abs/2611.00981v1

이미지: Bertrand1-chords.svg, Bertrand2-chords.svg — Sakurambo (English Wikipedia), CC BY-SA 3.0, Wikimedia Commons.