초광속 신호 금지는 왜 "더 센 주장"이었나 — POVM과 노시그널링의 동치를 보인 논문

양자역학 교과서에는 "얽힌 입자로도 빛보다 빠른 신호를 보낼 수 없다"는 증명이 수도 없이 실려 있다. 서른 개도 넘는다고 논문은 말한다. 그런데 2026년 10월 16일 arXiv에 올라온 한 편의 논문은 이 익숙한 증명들의 결론이 미묘하게 어긋나 있다고 지적한다. 증명들이 실제로 보여준 것은 "초광속 신호의 금지"가 아니라, 그보다 넓고 강한 무엇이다.

저자는 Will Cavendish 한 사람이다. 분류는 physics.hist-ph, 즉 물리학의 개념사·기초론 쪽이다. 새로운 실험을 제안하는 논문이 아니라, 이미 있는 논증들을 늘어놓고 그 사이의 논리적 화살표를 다시 그리는 논문이다. 제목은 "On the relationship between the POVM framework and the no-signaling hypothesis" — POVM 체계와 노시그널링 가설의 관계에 대하여.

빛보다 빠른 신호, 그보다 센 주장

표준적인 노시그널링 논증의 골격은 이렇다. 두 실험자가 멀리 떨어져 각자 측정을 한다. 한쪽이 어떤 측정을 선택하든, 다른 쪽이 얻는 결과의 확률 분포는 변하지 않는다. 그 분포는 POVM과 보른 규칙으로 계산되기 때문에, 상대방은 자기 쪽 통계만 보고 상대가 무엇을 했는지 알 수 없다. 신호를 읽어낼 수 없으니 신호도 없다.

논문이 파고드는 지점은 여기다. 이 계산이 금지하는 것은 "빛보다 빠른" 신호만이 아니다. 서로 고립된 두 계 사이에서 어떤 속도로든, 심지어 아주 느리게라도 정보를 주고받는 것이 금지된다. 저자는 이 더 넓은 주장을 노시그널링 가설(no-signaling hypothesis)이라고 부르고, 정확한 형태로 정의한다. 초광속이라는 단어를 붙였을 때보다 훨씬 강한 조건이다.

왜 이 구분이 중요한가. 양자역학은 얽힘을 통해 국소적 설명이 깨지는 것을 허용하지만, 그 깨짐을 신호로 바꾸는 것은 허용하지 않는다. 이 둘은 다른 주장인데, 교과서의 증명은 흔히 둘을 뭉뚱그린 채 "빛보다 빠른 신호는 없다"는 결론만 남긴다. 논문은 그 뭉갬을 풀어헤친다.

POVM이라는 언어

POVM은 positive operator-valued measure, 우리말로 양의 연산자값 측정. 측정 결과 하나하나에 양의 연산자를 대응시키고, 그 연산자들의 합이 항등연산자가 되도록 한 묶음이다. 폰 노이만이 쓰던 투영 측정은 이 형식의 특수한 경우다. 즉 POVM은 더 넓은 문법이고, 실제 실험실의 잡음 섞인 검출기·간접 측정·광자 계수는 대개 이 넓은 문법으로 서술된다.

양자정보 이론에서는 "모든 실험 결과의 확률은 POVM으로 서술된다"는 명제가 거의 공리처럼 깔린다. 문제는 그 명제가 왜 참인지에 대한 답이 흔히 "그렇게 계산하면 실험과 맞는다"는 순환으로 끝난다는 점이다. 논문이 던지는 질문은 바로 이 빈자리를 향한다.

1982년 6월, CERN에서 벨 부등식에 대해 설명하는 존 벨. 벨은 국소적 숨은변수 이론이 양자역학과 양립할 수 없음을 보였지만, 그 결과가 곧 신호 가능성을 뜻하지는 않는다 — CERN, CC BY 4.0 (Wikimedia Commons)

질문을 뒤집다

논문의 핵심은 방향을 바꾸는 데 있다. 기존 논증은 "POVM 체계가 옳다 → 신호는 불가능하다"였다. 논문은 반대로 묻는다. "신호가 불가능하다 → POVM 체계가 보편적이다"가 성립하는가. 부정적 제약 하나에서 측정의 문법 전체가 따라 나오는지 묻는 셈이다.

직관적으로는 따라 나올 것 같지 않다. "아무것도 보낼 수 없다"는 조건은 매우 빈약해 보이고, POVM은 매우 구체적인 대수적 구조다. 빈약한 조건에서 구체적 구조가 나온다면, 그 구조는 우연이 아니라 필연이라는 뜻이 된다. 논문은 그 필연성의 값을 계산한다.

가정은 두 개면 충분했다

답부터 말하면, 놀랄 만큼 적다. 논문에 따르면 필요한 것은 세 가지다. 첫째, 복합 실험을 표준적인 비상대론적 양자역학 방식으로 표현한다는 가정. 둘째와 셋째, 주변확률에 관한 교과서적인 주장 두 가지다. 이 셋을 깔고 나면 노시그널링 가설과 POVM 체계의 보편성은 서로를 함의하는 동치 관계가 된다.

저자가 "surprisingly few"라고 표현한 대목이 여기다. 보통 이런 동치를 세우려면 측정 이론의 공리 몇 개, 확률론의 정규성 조건, 복합계의 텐서곱 구조 같은 것들이 줄줄이 필요하다고 여겨진다. 논문은 그 목록이 짧다는 것, 그리고 짧아도 충분하다는 것을 보인다.

다만 초록은 그 두 가지 교과서적 주장이 구체적으로 무엇인지 밝히지 않는다. 주변확률의 정규화와 합의 법칙 정도로 짐작할 수는 있지만, 원문을 확인하지 않은 채 단정할 수는 없다. 이 글은 논문이 주장하는 범위까지만 적는다.

얽힌 두 입자를 멀리 떨어진 두 개의 슈테른-게를라흐 장치로 각각 보내는 EPR-보름 사고실험. 한쪽의 측정 선택은 다른 쪽의 주변확률을 바꾸지 않는다 — ADrobisch (Wikimedia Commons), 퍼블릭 도메인

반직관적 결론: 금지가 구조를 만든다

논문은 여기서 한 걸음 더 간다. 노시그널링 가설만으로 비상대론적 양자역학의 "확률을 만들어내는 부분"의 대부분을 도출할 수 있다고 주장한다. 측정 결과의 확률을 계산하는 규칙, 즉 확률생성 단편의 상당 부분이 신호 불가라는 조건에 얹혀 있다는 것이다.

이것이 반직관적인 이유는 분명하다. 보통 우리는 힐베르트 공간과 연산자를 먼저 세우고, 그 위에서 신호가 불가능함을 확인한다. 논문의 순서는 거꾸로다. 신호가 불가능하다는 관찰 하나에서 힐베르트 공간의 확률 구조가 거의 따라 나온다. 금지가 구조를 낳는다.

단서가 붙는다. "대부분"이지 "전부"가 아니다. 논문은 확률생성 단편 전체가 아니라 그 일부를 남겨 둔다. 무엇이 남는지는 초록에 적혀 있지 않지만, 적어도 저자는 노시그널링만으로 양자역학 전체를 재건할 수 있다고 말하지 않는다. 이 겸손함이 논문의 신뢰도를 높이는 부분이기도 하다.

경쟁 가설과 반론

가장 먼저 나올 반론은 순환성이다. "복합 실험의 표준적 양자역학 표현"을 가정하는 순간, 이미 복합계의 텐서곱 구조와 측정의 연산자 서술이 들어와 있는 것 아니냐는 것이다. 그렇다면 뒤에서 POVM이 나오는 것은 놀랍지 않다. 논문은 이 가정을 숨기지 않고 명시적인 전제로 세운다는 점에서 방어적이지만, 전제의 무게가 결론의 무게를 줄이는 것은 사실이다.

두 번째 반론은 "고립된 계"라는 표현의 조작적 정의에 관한 것이다. 실험적으로 고립을 확인하려면 결국 신호가 없음을 확인해야 하고, 그러면 정의가 결론을 미리 품게 된다. 논문이 이 개념을 어떻게 형식화했는지는 초록만으로 판단할 수 없다.

세 번째는 경쟁 가설의 존재다. 초결정론처럼 노시그널링을 유지하면서도 다른 그림을 그리는 접근이 있고, 정보이론적 재구성이나 글리슨류 정리처럼 확률 구조를 다른 공리에서 끌어내는 계열도 있다. 논문이 그리는 것은 정리의 목록이 아니라 함의의 지도다. 어떤 공리가 서로 얽혀 있고 어떤 것이 독립적으로 바뀔 수 있는지를 표시하는 지도 말이다. 그 지도 위에서 이 논문의 동치는 하나의 좌표가 된다.

논문이 스스로 인정한 한계

저자가 인정하는 한계는 분명하다. 도출되는 것은 확률생성 단편의 "대부분"이며, 동치를 세우려면 표준 표현과 주변확률에 관한 가정이 필요하다. 즉 무가정으로 양자역학을 재건하는 기획이 아니다. 가정을 최소화한 재건이며, 최소가 0은 아니다.

또 하나 분명한 것은 이 논문이 새로운 실험적 예측을 내놓지 않는다는 점이다. 힐베르트 공간을 직접 들여다보는 실험은 없고, 대신 논증들의 의존 관계를 정리한다. 그래서 이 글의 가치는 물리량이 아니라 논리 지도에 있다. 어떤 공리를 건드리면 무엇이 함께 무너지는지를 알려준다는 것, 그것이 기초론에서 실질적인 쓸모다.

그래서 독자에게 묻고 싶다. 만약 "신호를 보낼 수 없다"는 조건 하나가 측정의 문법을 거의 결정한다면, 양자역학의 이상함은 어디에 남는가. 힐베르트 공간에 있는가, 아니면 신호 불가라는 우리 세계의 사실에 이미 들어 있는가. 그리고 그 둘을 구별하는 실험이란 애초에 가능한가.

참고 자료

Will Cavendish, "On the relationship between the POVM framework and the no-signaling hypothesis", arXiv:2610.22823v1 [physics.hist-ph], 2026년 10월 16일 제출.

https://arxiv.org/abs/2610.22823

배경 문헌으로 A. Einstein, B. Podolsky, N. Rosen (1935)의 EPR 논문과 J. S. Bell (1964)의 벨 부등식 논문을 함께 읽으면 이 논문이 다루는 논증 계보가 잡힌다.