힉스 입자를 찾지 못한 20년이 오히려 답을 좁혔다 — LEP와 테바트론의 기록

2000년 11월, CERN의 LEP 가속기는 그해 마지막 주행에서 충돌 에너지를 209 GeV까지 끌어올렸다. 27 km 둘레의 터널 네 곳에 앉은 ALEPH, DELPHI, L3, OPAL 검출기는 그해 여름부터 115 GeV 근처에서 이상하게 무거운 사건들을 몇 개씩 남기고 있었다. 힉스 입자 후보의 질량이 딱 그 언저리일 때 나올 법한 신호였다. 유럽 각국 대표들이 모인 자리에서는 LEP를 몇 달 더 돌릴 것인가를 두고 논쟁이 벌어졌고, 결국 2000년 11월 3일 가속기는 예정대로 멈췄다.

물리학자 John Ellis가 arXiv에 올린 논문 「The search for the Higgs Boson and the EBH mechanism」은 바로 그 지점에서 끊긴다. 1980년부터 2000년까지 LEP와 테바트론이 힉스를 어떻게 찾으려 했고, 무엇을 찾지 못했으며, 그 못 찾음이 2000년 시점에서 무엇을 말해주고 있었는지를 정리한 회고다. 결론은 2012년의 발견이 아니라, 발견 12년 전에 이미 어디까지 좁혀져 있었는가에 대한 기록이다.

1980년, 이론은 이미 완성되어 있었고 입자만 없었다

논문이 놓는 출발점은 검출기가 아니라 이론이다. 1964년 브라우트와 앵글러, 힉스가 각각 제안한 자발 대칭성 깨짐의 메커니즘, 즉 논문이 EBH 메커니즘이라 부르는 틀이 게이지 보손에 질량을 부여한다는 사실은 1970년대 초 재규격화 가능성이 증명되면서 표준모형의 골격이 되었다. 문제는 그 틀이 예측하는 입자가 하나 더 있다는 것이었다. 중성 스칼라 보손, 질량은 이론이 정해주지 않는다.

질량을 모르면 어디를 뒤져야 할지도 모른다. 그래서 1980년대의 초기 현상론 연구들은 힉스가 어떤 방식으로 만들어지고 어떻게 붕괴하는지를 경우별로 계산해 두는 일이었다. 논문은 이 계산들이 훗날 수십 년의 탐색 전략을 사실상 미리 정해 놓았다고 정리한다. 실험은 이론이 그려 둔 지도 위를 따라 걸었고, 지도의 빈칸은 오래도록 비어 있었다.

LEP의 방식 — 깨끗한 전자·양전자 충돌

LEP는 전자와 양전자를 정면으로 부딪히는 기계였다. 양성자를 쓰는 가속기와 달리 충돌 초기 상태가 깨끗해서, 사건 하나하나를 계산과 거의 그대로 견줄 수 있다. 힉스가 Z 보손 한 쌍과 함께 만들어지는 과정이 대표적인 표적이었고, 그래서 Z의 질량 근처에 맞춰진 충돌 에너지를 그 위로 끌어올리는 작업이 곧 탐색의 진척이었다.

논문은 1990년대 후반 LEP가 충돌 에너지를 단계적으로 161, 172, 183, 189, 192, 196, 200, 202, 205, 206, 209 GeV로 밀어 올린 과정을 직접 탐색의 진화로 서술한다. 에너지를 올릴 때마다 열리는 질량 구간이 달라졌고, 각 단계에서 네 검출기의 자료를 합치는 통계 절차가 정교해졌다. 힉스 질량 상한은 어느 날의 발견으로 내려간 것이 아니라, 이런 주행의 누적으로 조금씩 내려갔다.

DELPHI 검출기의 배선. LEP의 네 검출기 가운데 하나로, 힉스 탐색의 직접 하한을 만든 장비다 — Mark Williamson, CC BY-SA 4.0 (Wikimedia Commons)

테바트론 — 에너지는 높지만 배경이 지저분하다

미국 페르미랩의 테바트론은 반대 방향의 길을 택했다. 양성자와 반양성자를 1.8 TeV에서 부딪히면 힉스를 직접 만들 수 있는 에너지 문턱은 훨씬 쉽게 넘는다. 대신 양성자는 쿼크와 글루온의 묶음이라 실제 충돌 에너지는 사건마다 들쭉날쭉하고, 배경 사건이 넘쳐난다. CDF와 D0 두 검출기는 그 잡음 속에서 신호를 골라내는 싸움을 했다.

논문은 두 기계의 역할이 달랐다는 점을 강조한다. LEP는 질량 하한을 밀어 올리는 쪽, 테바트론은 더 무거운 영역과 특정 붕괴 경로를 넓게 훑는 쪽이었다. 어느 한쪽의 결과만으로는 그림이 완성되지 않았고, 2000년의 정리는 두 기계의 서로 다른 빈칸을 겹쳐 놓은 지도였다.

반전 — 보이지 않았다는 사실 자체가 측정값이었다

여기서 이 이야기의 성격이 바뀐다. 힉스를 못 찾았다는 결과는 실패가 아니라 질량 축 위에 그어진 선이었다. 2000년 무렵 LEP의 직접 탐색은 표준모형 힉스의 질량이 대략 114 GeV보다 가볍다면 그 입자가 이미 만들어졌어야 한다는 수준까지 하한을 밀어 올렸다. 그 아래 구간은 사실상 닫힌 셈이다.

논문은 이 하한이 단순한 배제가 아니라 다음 실험의 설계 조건이 되었다고 본다. 어디를 보지 않아도 되는지 알려주었기 때문이다. 2000년 가을의 115 GeV 근처 신호는 그 선 바로 위에서 나왔고, 그래서 더 흥미로웠다. 다만 몇 개의 사건으로는 확정도 부정도 할 수 없었고, 이 애매함이 LEP의 마지막 장을 이렇게 남겼다.

보이지 않는 입자를 재는 또 다른 방법 — 정밀 전기약 데이터

논문에서 가장 흥미로운 갈래는 직접 탐색이 아니라 간접 제약이다. 힉스는 양자 보정을 통해 W와 Z 보손의 질량, 비대칭성, 쿼크 결합 상수 같은 값에 흔적을 남긴다. 그 보정의 크기는 힉스 질량의 로그에 의존하므로, 이미 정밀하게 측정된 값들을 거꾸로 풀면 아직 보지 못한 입자의 질량을 추정할 수 있다.

1990년대 말 LEP와 SLD의 정밀 측정, 그리고 테바트론이 정한 탑 쿼크 질량을 함께 넣으면 표준모형 적합은 가벼운 힉스를 선호했다. 논문은 이 간접 적합이 2000년 시점에서 어느 정도의 상한을 주었는지 정리한다. 요점은 이 방법이 직접 탐색의 하한과 정면으로 부딪히지 않고, 오히려 그 사이의 좁은 구간을 가리켰다는 데 있다. 보이지 않는 입자를 보이지 않는 방식으로 재는 셈이다.

페르미랩 테바트론 링의 항공 사진. 1.8 TeV 양성자·반양성자 충돌로 더 무거운 질량 영역을 훑었다 — formulanone, CC BY-SA 2.0 (Wikimedia Commons)

경쟁 가설과 반론 — 힉스가 없을 수도 있다는 주장

당시에는 힉스 없는 대안도 진지했다. 테크니컬러처럼 대칭성 깨짐을 새로운 강한 상호작용에 맡기는 이론은 스칼라 입자를 요구하지 않는다. 초대칭 이론은 힉스를 하나가 아니라 다섯 개로 늘려, 가장 가벼운 하나만 남기고 나머지를 무거운 영역으로 밀어낸다. 논문은 이 대안들이 2000년의 자료와 어떻게 맞물렸는지도 함께 다룬다.

반론도 만만치 않다. 정밀 전기약 적합은 표준모형을 전제로 한 계산이므로, 전제가 틀리면 가리키는 질량도 의미를 잃는다. 또 하나의 반론은 통계 쪽이다. 여러 질량 구간을 훑는 탐색에서는 어딘가에서 우연히 솟는 신호가 생기기 마련이고, 115 GeV 근처의 excess도 그 가능성을 배제할 수 없었다. 논문은 이 점을 인정하면서도, 간접 제약과 직접 하한이 동시에 가리키는 구간이 좁다는 사실 자체를 2000년의 성과로 남긴다.

논문이 스스로 인정한 한계, 그리고 남는 질문

이 글은 어디까지나 회고다. 논문은 2000년 이후 LHC에서 힉스가 발견된 사실을 알고 쓴 정리이며, 저자 자신이 그 탐색의 오랜 참여자다. 참여자의 회고는 사건의 인과를 매끄럽게 정리하는 경향이 있고, 당시에는 진지하게 검토되던 대안들이 지금의 시선에서는 각주로 밀려나기 쉽다. 논문이 밝히는 범위도 LEP와 테바트론, 그리고 그 사이의 이론 작업에 한정된다.

그래서 남는 질문은 기록의 문제다. 2000년 11월 LEP를 멈춘 결정은 옳았을까. 만약 몇 달을 더 돌렸다면 115 GeV의 신호는 확정되었을까, 아니면 사라졌을까. 그리고 지금 우리가 당연하게 여기는 이론의 지도에는, 아직 아무도 밀어 올리지 않은 하한선이 어디쯤 남아 있을까.

참고 자료

John Ellis, 「The search for the Higgs Boson and the EBH mechanism」, arXiv:2611.03315 (physics.hist-ph), 2026. https://arxiv.org/abs/2611.03315

이미지 출처: DELPHI 검출기 배선 — Mark Williamson, CC BY-SA 4.0 (Wikimedia Commons) / 페르미랩 테바트론 항공 사진 — formulanone, CC BY-SA 2.0 (Wikimedia Commons)