슈뢰딩거가 서랍에 넣은 반박 원고 — 1944년 '결정론의 붕괴' 논쟁과 숨은 변수

1944년 9월, 영국 물리학자 길버트 웨스트는 네이처 편집부에 짧은 편지를 보냈다. 제목은 여섯 달 전 헨리 피아조가 쓴 기사와 똑같은 'Collapse of Determinism(결정론의 붕괴)'. 편지의 첫 문장은 이랬다. '분석 작업에서 가정이 얼마나 쉽게 숨어드는지 아는 사람들이 많기에, 우리 중에는 수학으로 얻어맞기를 거부하는 이들이 많다.' 양자역학이 결정론을 끝장냈다는 선언에 대한 항의였다. 이 짧은 항의가 1년 남짓 이어지는 논쟁의 시작이었고, 그 논쟁의 열두 번째 원고가 지금까지 한 번도 인쇄된 적이 없다는 것이 이 논문의 출발점이다.

네이처 지면에서 벌어진 열한 번의 공방

발단은 두 개의 강연이었다. 1943년 5월 18일 런던 물리학회에서 에드먼드 휘태커가 '확률, 자유의지, 필연성'을 강연했고, 1944년 1월 3일 델리의 인도과학회의에서는 사티엔드라 나스 보스가 '고전적 결정론과 양자론'을 발표했다. 두 사람은 서로 다른 대륙에서 같은 결론에 도달했다. 양자역학은 고전 물리학의 결정론적 교리를 더 이상 믿을 수 없게 만들었다는 것이다. 보스의 표현은 이랬다. '50년 전만 해도 인과성과 결정에 대한 믿음은 절대적이었다. 오늘날 물리학자들은 지식을 얻고 믿음을 잃었다.'

피아조는 이 두 강연을 네이처에 소개했고, 독자들은 곧장 반응했다. 웨스트의 항의, 피아조의 재반박, 바르카스의 질문, 휘태커의 동전 던지기 비유, 기상학자 어니스트 골드와 호르젤스키의 반론이 차례로 실렸다. 1945년 1월에는 표제까지 '인과성인가 비결정론인가'로 바뀌었다. 논문에 따르면 이 공방은 1944년에서 1945년 사이 네이처에 실린 10편의 기고문과 학회지 1편, 도합 11편으로 이어진다.

휘태커의 논증: 편광판 하나면 충분하다?

논쟁의 기술적 핵심은 말루스 법칙이다. 편광판을 각도 φ로 돌렸을 때 빛이 통과할 확률은 cos²φ다. 휘태커는 여기에 숨은 변수가 들어설 자리가 없다고 주장했다. 광자가 편광판에 닿기 전에 이미 통과 여부가 정해져 있다면, 그 정보는 결국 '통과' 또는 '차단' 둘 중 하나, 즉 1비트에 불과하다. 그런데 1비트짜리 변수로는 각도 φ에 따라 연속적으로 변하는 cos²φ 곡선을 만들어낼 수 없다. 그러니 숨은 변수 가설은 불가능하다는 것이다.

당시 이 결론은 폰 노이만의 1932년 증명과 맞물려 있었다. 양자역학은 숨은 변수로 보완될 수 없다는 '증명'이 있었고, 그 권위는 압도적이었다. 그레테 헤르만이 1935년에 이미 그 증명의 일반성에 문제를 제기했지만, 논문은 그 비판이 '젊고, 여성이고, 물리학자 논쟁의 외부인'이었다는 이유로 거의 주목받지 못했다고 적는다. 숨은 변수를 찾는 작업은 10년 넘게 사실상 사라졌다.

슈뢰딩거가 원고에 적어 넣은 실수 하나

이 논문의 핵심은 그가 발굴한 무연대 필사 원고다. 제목은 논쟁의 표제와 같은 'Collapse of Determinism'. 슈뢰딩거는 휘태커의 논증을 요약한 뒤 이렇게 쓴다. '나 역시 이 결론에 당혹했다. 도출된 모순은 두 개의 이산적인 매개변수 값만 가정한 단순화에서 눈에 보이게 만들어진 것이기 때문이다.' 그리고 실제 모델을 제시한다. 광자마다 0과 1 사이에 균등분포하는 실수 λ를 붙이고, 각도 φ의 편광판을 λ ≥ sin²φ일 때 통과시키는 결정론적 규칙을 둔다. 그러면 통과 광자 수는 N∫sin²φ에서 1까지 dλ = Ncos²φ. 말루스 법칙이 그대로 복원된다.

에르빈 슈뢰딩거, 1933년 노벨상 공식 초상 — 노벨 재단, 퍼블릭 도메인 (Wikimedia Commons)

1비트로 안 되던 것을 실수 하나로 해결한 셈이다. 논문은 이 지점에서 참가자들 누구도 놓쳤던 사실을 짚는다. 1비트 변수의 부족함은 결코 양자역학적이지 않다는 것이다. 실험 조건이 완전히 고정되어 있고 결과가 이진적이라면, 고전 물리든 양자 물리든 1비트면 충분하다. 문제는 편광판 각도 φ가 연속적으로 조절 가능한 장치 변수라는 데서 생긴다. 같은 논리는 바닥 높이를 낙하 중에 움직일 수 있는 동전 던지기에도 적용된다. 슈뢰딩거의 실수 변수는 양자역학의 증거가 아니라, 연속적으로 변하는 장치를 가진 실험 일반의 요구사항이다.

두 번째 편광판에서 무너질 뻔한 모델

반전은 여기서 나온다. 첫 편광판 하나만으로는 누구나 모델을 만들 수 있다. 진짜 시험대는 두 번째 편광판이다. 첫 판을 통과한 광자는 λ ≥ sin²φ인 것들만 남으므로, λ의 분포가 더 이상 균등하지 않다. 구간 [sin²φ, 1] 위에서 1/cos²φ로 치우친다. 이 상태로 두 번째 판에 보내면 예측이 어긋난다. 모델이 죽는 지점이다.

슈뢰딩거는 여기서 결정론적 갱신 규칙을 하나 더 붙인다. λ′ = (λ − sin²φ)/cos²φ. 통과한 구간을 다시 [0,1]로 늘려 균등분포로 되돌리는 변환이다. 이 규칙이 있으면 두 번째 판의 상대각 φ′−φ에 대해 다시 cos²(φ′−φ)가 나온다. 논문은 이 갱신 규칙이 결정론적이어야 휘태커 반박이 성립한다는 점을 강조한다. 각 광자마다 정확히 정해진 변환이 있어야 하므로, 확률적으로 '섞는다'는 식의 손쉬운 도피는 허용되지 않는다.

왜 세상에 나오지 못했나: 펠저가 먼저였다

원고에는 날짜가 없다. 다만 본문이 1944년 11월 25일자 바르카스의 편지까지 언급하므로, 그 이후에 쓰였다는 하한선만 잡힌다. 논문은 출판되지 않은 이유로 하인리히 펠저의 1944년 논문을 지목한다. 펠저는 같은 문제를 다뤘고, 각 광자에 연속 매개변수를 주고 분포를 sin2λ dλ로 잡아 cos²φ를 복원했다. 단일 편광판 수준에서는 x = sin²λ로 다시 매개변수화하면 슈뢰딩거의 모델과 수학적으로 동일하다.

결정적 차이는 두 번째 판 이후다. 펠저는 통과 후 숨은 변수를 '재배열해야 한다'고만 말하고, 개별 광자에 대한 명시적 결정론적 변환 법칙을 주지 않았다. 슈뢰딩거는 그것을 줬다. 그런데도 그는 출판하지 않았다. 논문은 슈뢰딩거가 웨스트의 1945년 1월 기고를 통해 펠저의 결과를 알게 되었고, 핵심 논점은 이미 확립되었다고 판단했을 가능성을 제시한다. 다만 이것은 추정이며, 논문도 그렇게 표시한다.

'결정론의 편'이라는 통념에 대한 반박

더 흥미로운 것은 원고의 나머지 절반이다. 슈뢰딩거는 '폰 노이만 같은 정교하고 수학적으로 엄밀한 연역조차 제한된 가치만 갖는다. 실험적 증거와 논리적 연역은 결정론이나 비결정론 어느 쪽도 불가능하다는 것을 결코 증명할 수 없다'고 쓴다. 그리고 비결정론을 지지하는 가장 강력한 근거는 양자역학보다 오래되었다고 덧붙인다. 자연의 법칙성이라는 관념 자체가 통계적 사건들로부터 추상되었다는 것이다.

1927년 제5회 솔베이 회의. 뒷줄 오른쪽에서 두 번째가 슈뢰딩거 — Benjamin Couprie 촬영, 퍼블릭 도메인 (Wikimedia Commons)

이 대목이 논문의 해석을 뒤집는다. 슈뢰딩거는 결정론으로 개종한 것이 아니다. 1920년대 초부터 프란츠 엑스너에게서 물려받은 '자연법칙은 철저히 통계적'이라는 입장을 유지했고, 고전역학 자체가 비결정론적이며 결정론은 '고전물리학의 근본 교리', '철학적 편견'이라고 비판해 왔다. 그러니 이 모델은 신념의 선언이 아니라 반증 사례다. 결정론이 필요하지도 그럴듯하지도 않지만, 불가능하다는 증명이 있다는 주장만은 틀렸다는 것을 보여주는 시범이다. 논문은 아인슈타인과 보름도 같은 항에 놓는다. 셋 다 숨은 변수 모델을 만들었지만, 셋 다 결정론의 신봉자로 규정할 수 없다는 것이다.

이 논문이 스스로 인정하는 한계

논문은 이 원고가 유실된 지 오래된 사료이며 필사본 한 부에 의존한다는 점을 분명히 한다. 연대 추정도 본문에 인용된 편지의 날짜에 근거한 하한선일 뿐이다. 슈뢰딩거가 출판을 염두에 두었는지, 네이처에 보냈는지, 아니면 개인 노트로 남겼는지는 확인되지 않는다. 펠저와의 연결도 정황 증거에 기반한 추정이다.

물리적으로도 한계는 분명하다. 논문은 1964년 벨의 정리와 이후 실험들이 국소적 숨은 변수 모델을 배제했다고 적는다. 즉 슈뢰딩거의 구성은 오늘의 양자역학을 대체하는 이론이 아니다. 그것은 1944년의 특정 논증, 즉 '말루스 법칙에는 숨은 변수가 들어갈 자리가 없다'는 주장이 성립하지 않음을 보여주는 반례다. 그 이상도 그 이하도 아니다.

우리에게 남는 질문

한 편의 미출판 원고가 바꾸는 것은 물리학의 결론이 아니라, 결론에 도달하는 방식이다. 권위 있는 증명 하나가 10년 동안 연구 방향을 닫아버렸고, 그 증명의 빈틈은 '외부인'의 지적과 낯선 각도에서 온 반례로만 드러났다. 슈뢰딩거가 자기 모델을 논문으로 내지 않고 서랍에 넣었다는 사실은 그 자신도 그 반례의 무게를 가볍게 봤다는 뜻일까, 아니면 이미 누군가 말했다는 이유로 충분하다고 여겼다는 뜻일까.

독자에게 묻고 싶다. 지금 우리가 '증명되었다'고 믿는 것들 중 몇 개가, 사실은 그 문제를 그렇게 정식화했을 때만 참인 명제일까. 그리고 그 빈틈을 지적할 사람이 지금은 어떤 이유로 목소리를 내지 못하고 있을까.

참고 자료

Flavio Del Santo, Schrödinger's unpublished hidden-variable model in the 1944-45 debate over the "Collapse of Determinism", arXiv:2610.20752 (physics.hist-ph, quant-ph), 2026년 10월 14일 제출.

https://arxiv.org/abs/2610.20752