명단의 마지막 칸 — 톱 쿼크는 왜 동생들과 닮지 않았나

1995년 3월, 미국 일리노이주 배너비아의 페르미 국립가속기연구소(페르미랩)에서 두 개의 검출기 팀이 같은 결론을 나란히 내놓았다. 테바트론 충돌기에서 6번째 쿼크, 즉 톱 쿼크의 흔적이 보인다는 발표였다. 폴 D. 그래니스(Paul D. Grannis)가 2025년 11월 CERN에서 열린 제4회 입자물리학사 심포지엄 발표문으로 정리한 이 논문은, 그 발견이 무엇을 끝냈고 무엇을 시작했는지를 한 편의 탐색기로 서술한다.

논문의 출발점은 단순하다. 톱 쿼크의 발견으로 표준모형이 예상한 물질 입자, 즉 쿼크와 렙톤의 명단이 비로소 완성되었다. 그러나 저자가 곧바로 덧붙이는 말은 축하가 아니라 의문이다. 톱 쿼크는 자매 쿼크들이 만들어 놓은 패턴을 따르지 않는다. 명단을 채운 입자가 동시에 명단의 규칙을 깨는 셈이다.

마지막 한 칸이 남아 있던 이유

표준모형의 쿼크는 세 세대, 두 개씩 짝을 이룬다. 위·아래, 참·기묘, 그리고 톱·바텀이다. 앞의 다섯은 1960년대부터 1970년대 후반까지 차례로 검출기 안에서 모습을 드러냈지만, 여섯 번째는 오랫동안 확인되지 않았다. 논문은 이 공백이 단순한 실험 기술의 문제가 아니라, 그 입자의 성질 자체가 만들어낸 난관이었다고 서술한다.

무거운 입자는 만들기가 더 어렵다. 가속기의 에너지가 그 질량을 넘어서야 쌍으로 생성될 수 있고, 생성되더라도 순식간에 붕괴해 버린다. 그래서 톱 쿼크 탐색은 '더 센 가속기를 짓는 일'과 '순간적으로 사라지는 흔적을 재구성하는 일'이 동시에 요구되는 작업이었다. 논문이 이 탐색을 20년 가까운 역사로 다루는 까닭도 여기에 있다.

동생들과 닮지 않은 막내

페르미랩 테바트론 가속기 전경 — formulanone, CC BY-SA 2.0 (Wikimedia Commons)

톱 쿼크가 특이한 첫 번째 이유는 수명이다. 쿼크는 홀로 존재하지 못하고 주변의 쿼크·글루온과 묶여 강입자를 이룬다. 그런데 톱 쿼크는 붕괴가 너무 빨라서, 강입자로 묶일 시간조차 없다고 알려져 있다. 다른 다섯 쿼크는 모두 '간접적으로' 관측된다. 강입자 속에 숨어 있는 상태로 검출기에 흔적을 남기는 것이다. 톱은 그 과정을 건너뛰고 맨몸에 가까운 상태로 붕괴 생성물을 쏟아낸다.

이 차이는 분석 방법 전체를 바꾼다. 다른 쿼크를 찾을 때는 강입자 제트의 모양과 운동량을 재구성하지만, 톱은 붕괴에서 나오는 W 보손과 바텀 쿼크의 조합을 거꾸로 맞춰 넣어야 한다. 논문은 톱이 '자매 쿼크들이 세운 패턴'을 따르지 않는다고 표현하는데, 그 패턴이란 곧 지난 20년간 쌓아온 쿼크 관측의 경험 법칙이다.

질량이라는 반직관

널리 인용되는 표준 값으로 톱 쿼크의 질량은 약 173 GeV다. 양성자 질량의 180배 남짓이고, 바로 아래 세대인 바텀 쿼크보다 40배 이상 무겁다. 같은 세대의 짝으로 묶여 있으면서 질량은 세대를 뛰어넘는 격차를 보이는 것이다. 논문이 강조하는 '패턴의 위반'은 이 지점에서 가장 선명해진다.

질량이 크다는 것은 힉스 장과의 결합이 세다는 뜻이고, 그 결합의 세기는 이론 계산에서 자유 매개변수로 남는다. 다시 말해 톱의 질량은 설명된 값이 아니라 측정해서 넣어야 하는 값이다. 그런데 그 값을 넣고 나면 다른 계산들이 놀랄 만큼 잘 맞아떨어진다. 톱은 표준모형의 가장 어색한 숫자이면서, 동시에 표준모형이 작동하게 만드는 핵심 부품이다.

표준모형의 끝인가, 새로운 물리의 문인가

CDF 검출기 — 퍼블릭 도메인 (Fermilab / Wikimedia Commons)

여기서 논문의 제목이 가리키는 긴장이 드러난다. 톱 쿼크의 발견은 '찾아야 할 것을 다 찾았다'는 완결의 사건이지만, 저자는 그것을 새로운 탐색의 출발점으로 다시 읽는다. 톱 쿼크는 표준모형 너머의 물리를 찾는 실험에서 가장 민감한 표지 가운데 하나로 취급된다. 새 입자가 존재한다면 톱의 생성률이나 붕괴 방식에 미세한 흔적을 남길 수 있기 때문이다.

그래서 톱 연구는 두 방향으로 갈라진다. 하나는 톱 자체를 정밀하게 재는 일, 다른 하나는 톱을 배경으로 깔고 그 너머를 찾는 일이다. 논문은 톱이 '진행 중인 패러다임 너머 탐색의 결정적 구성요소'가 되었다고 적는다. 마지막 퍼즐 조각이 다음 퍼즐의 실마리가 된 셈이다.

경쟁 가설과 반론

첫 번째 반론은 '톱은 그냥 무거운 쿼크일 뿐'이라는 입장이다. 세대 구조와 질량 격차는 표준모형 안에서 매개변수로 흡수되므로, 톱의 특이함을 굳이 새 물리와 연결할 필요가 없다는 것이다. 이 반론은 이론적으로 깔끔하지만, 왜 하필 세 번째 세대에서 질량이 이렇게 뛰는지는 설명하지 못한다.

두 번째는 '톱의 이상한 성질이 측정의 인공물'이라는 반론이다. 붕괴가 빠르고 최종 상태가 복잡하면, 검출기 효과와 배경 사건을 걷어내는 과정에서 편향이 스며들 수 있다. 실제로 단일 톱 쿼크 생성처럼 신호가 희미한 과정은 발견 이후에도 오랜 검증을 거쳐야 했다. 논문은 이 검증의 역사를 함께 다루지만, 저자 자신이 그 시대를 만든 사람 중 하나라는 점은 반론의 여지로 남는다.

논문이 스스로 인정하는 한계

이 글은 회고다. 저자는 심포지엄 발표문이라는 형식을 명시하는데, 그 형식은 두 가지 한계를 동반한다. 첫째, 서술의 초점이 '무엇이 밝혀졌는가'보다 '어떻게 찾아냈는가'에 놓인다. 물리적 해석의 최신 정밀 측정값은 이 글의 주제가 아니다. 둘째, 참여자에 의한 역사 서술은 당시의 경쟁과 우연, 그리고 틀렸던 가설들을 상대적으로 덜 담아내기 쉽다.

또 하나 분명히 해둘 점이 있다. 이 논문은 톱 쿼크의 성질을 새로 주장하는 실험 논문이 아니라, 30년에 걸친 탐색의 궤적을 정리한 역사 서술이다. 따라서 여기서 인용한 물리적 세부, 예컨대 질량 값이나 수명에 관한 서술은 논문의 1차 측정 결과가 아니라 해당 분야에서 널리 받아들여진 배경 지식에 해당한다.

독자에게

표준모형의 명단이 완성된 1995년은 흔히 '입자물리의 종착역'처럼 이야기된다. 그러나 이 논문이 실제로 보여주는 것은 정반대의 풍경이다. 마지막 칸을 채운 입자가, 기존 규칙으로는 설명되지 않는 방식으로 그 칸을 채웠기 때문이다. 완성은 곧 다음 질문의 시작이었다.

여러분에게 묻고 싶다. 만약 어떤 목록의 마지막 항목이 앞의 항목들과 전혀 다른 성질을 갖고 있다면, 그것은 목록이 완성된 증거일까, 아니면 우리가 세운 분류 자체가 틀렸다는 증거일까. 그리고 30년 뒤 이 발견을 회고하는 사람은, 지금 우리가 무엇을 놓치고 있다고 말하게 될까.

참고 자료

Paul D. Grannis, 'The Search for the Top Quark', arXiv:2611.05453 (physics.hist-ph), 2026. 제4회 입자물리학사 심포지엄(CERN, 2025년 11월) 발표문.

논문 초록 및 원문: https://arxiv.org/abs/2611.05453v1

이미지: Wikimedia Commons — Fermilab Tevatron Aerial(formulanone, CC BY-SA 2.0), CDF 검출기(퍼블릭 도메인, Fermilab).