케플러가 버린 달걀 궤도는 왜 다시 살아났나 — 타원 없이도 성립하는 행성의 두 번째 법칙

1601년 가을, 프라하. 티코 브라헤가 세상을 떠나고 그의 방대한 관측 기록을 넘겨받은 서른 살의 요하네스 케플러는 화성 한 행성에만 5년을 쏟았다. 원운동이라는 2천 년의 약속을 믿고 있었기 때문에, 그는 계산이 어긋나는 이유를 계속 다른 곳에서 찾았다. 그런데 원 궤도를 아무리 정교하게 맞춰도 최대 8분각의 오차가 남았다. 1도의 7분의 1, 손을 뻗어 하늘에 그려 볼 수 있는 크기다.

8분각은 당시 관측의 오차 범위와 비슷했다. 대부분의 천문학자라면 그쯤에서 계산을 다듬고 넘어갔을 것이다. 케플러는 넘어가지 않았다. 『신천문학』에서 그는 이 8분각이 천문학의 개혁을 가리킨다고 적었고, 그 기록은 오늘날까지 인용된다. 이 고집이 타원을 낳았고, 타원은 뉴턴의 중력을 낳았고, 중력은 우리가 우주를 계산하는 방식 전체를 낳았다.

8분각이 남긴 것 — 타원이라는 결론

케플러가 도달한 결론은 두 개의 법칙으로 요약된다. 첫째, 행성은 태양을 한 초점으로 하는 타원을 돈다. 둘째, 태양과 행성을 잇는 선분이 같은 시간에 같은 넓이를 쓸고 지나간다. 두 번째 법칙은 결국 각운동량 보존이다. 태양에 가까워지면 행성은 빨라지고, 멀어지면 느려진다.

이 두 법칙은 오늘날 중등 교과서에 한 줄로 들어가 있다. 그래서 우리는 타원이 "정답"이었다고 기억한다. 그러나 1609년의 『신천문학(Astronomia Nova)』은 정답을 발표한 책이 아니라, 정답에 이르는 동안 버려진 수많은 도형들의 무덤이기도 하다. 케플러는 타원에 닿기 전까지 달걀 모양(오보이드), 얼굴 모양(메토포이드) 같은 온갖 난형 궤도를 상상하고 계산했다.

1609년 케플러의 『신천문학(Astronomia Nova)』 표지. 부제에 "화성의 운동에 관하여"가 적혀 있다 — 요하네스 케플러, 퍼블릭 도메인 (Wikimedia Commons, File:Astronomia Nova.jpg)

논문이 던지는 질문 — 두 개의 "균일"을 동시에 만족할 수 있는가

케플러보다 1400년 앞서 프톨레마이오스는 다른 방식으로 하늘을 정리했다. 그의 『알마게스트』에는 에콴트(equant)라는 장치가 있다. 행성이 도는 원의 중심도, 지구도 아닌 제3의 점을 잡고, 그 점에서 바라보았을 때 행성의 각속도가 일정하다고 두는 것이다. 요란해 보이지만 이 한 점 덕분에 행성의 밝기 변화와 위치 예측이 놀랄 만큼 잘 맞았다.

여기에 흥미로운 긴장이 있다. 케플러의 제2법칙은 태양 주위의 각운동량이 일정하다고 말한다. 프톨레마이오스의 에콴트는 어떤 한 점 주위의 각속도가 일정하다고 말한다. 둘 다 "균일"을 주장하지만 기준점이 다르다. 그렇다면 두 조건을 동시에 만족하는 궤도는 존재할 수 있는가. arXiv:2610.05358의 저자들은 이 질문에 "있다"고 답한다.

논문의 핵심 주장 — 타원이 아닌 궤도들의 한 가족

크리스토퍼 무어, 말콤 스미스, 스테판 메르텐스가 제시하는 것은 화성 궤도 문제에서 출발한 궤도들의 가족(family)이다. 이 궤도들은 중심 질량 주위의 각운동량을 보존한다. 동시에 프톨레마이오스가 믿었던 에콴트, 즉 어떤 점 주위의 각속도가 일정하다는 조건도 만족한다. 논문은 이 두 요구를 동시에 걸어 놓고 그 해를 찾아낸다.

중요한 것은 결과의 모양이다. 이 궤도들은 타원이 아니다. 논문의 표현을 빌리면, 케플러가 타원에 이르는 길에 고려했던 "달걀 모양" 또는 "얼굴 모양" 궤도를 닮았다. 즉 케플러가 중간에 버렸던 도형들이, 다른 규칙을 함께 요구하면 다시 살아난다. 버려진 가설이 틀린 것이 아니라, 채택되지 않았을 뿐이었던 셈이다.

논문에서 가장 의외인 대목은 해의 표현식이다. 특정한 각운동량 값에 대해서, 이 궤도들은 르장드르 다항식(Legendre polynomials)과 제2종 르장드르 함수로 쓸 수 있다. 르장드르 다항식은 구면 조화, 전기장, 양자역학의 각운동량에서 단골로 등장하는 도구다. 행성 궤도와는 아무 상관이 없어 보이는 이 함수들이 왜 여기서 나오는가.

이유는 조건의 성격에 있다. 각운동량 보존과 특정 점 주위의 일정 각속도는 둘 다 각도에 대한 제약이다. 각도 변수에 대한 방정식을 풀면 자연스럽게 구면 계열의 해, 즉 르장드르 계열이 등장한다. 물리적 힘에서 출발한 것이 아니라 기하학적 조건에서 출발했기 때문에, 해도 힘의 법칙이 아니라 각도의 함수로 표현된다. 이 점이 이 논문의 성격을 규정한다.

반전 — 궤도는 근일점에서 매끄럽지 않다

저자들이 밝히는 성질 하나가 특히 흥미롭다. 이 궤도들은 근일점(태양에 가장 가까운 점)을 제외한 모든 곳에서 해석적(analytic)이다. 근일점에서는 해석적이지 않고, 두 번 미분 가능할 뿐이다. 수학적으로 말하면 매끄러운 곡선이 아니라, 곡률이 급격히 꺾이는 지점을 하나 품은 곡선이다.

이것은 사소한 기술적 세부가 아니다. 행성이 근일점을 통과하는 순간은 궤도에서 가장 빠른 구간이고, 관측이 가장 어려운 구간이며, 뉴턴 역학이 가장 예민하게 검증되는 구간이다. 타원은 근일점에서도 완벽하게 매끄럽다. 이 궤도들은 그 지점에서 성질이 바뀐다. 논문이 스스로 "타원과 다르다"고 표시하는 지점이 바로 여기다.

경쟁 가설 — 그럼 왜 타원이 이겼는가

가장 자연스러운 반론은 이것이다. "이런 궤도가 수학적으로 존재한다는 것과, 행성이 실제로 그런 궤도를 돈다는 것은 다르지 않은가." 정당한 반론이다. 논문의 초록은 이 궤도들이 어떤 힘의 법칙에서 유도되는지 밝히지 않는다. 각운동량 보존은 요구 조건으로 들어가 있지만, 그 각운동량을 만들어내는 상호작용이 무엇인지는 서술하지 않는다.

타원이 400년 동안 살아남은 이유는 모양이 예뻐서가 아니다. 역제곱 중력 아래에서 닫힌 궤도가 타원이 된다는 것이 뉴턴과 베르누이 이후 증명되었고, 그 타원은 근일점 세차 같은 미세한 효과까지 계산할 수 있는 틀을 제공했다. 기하학적 조건을 만족하는 곡선 가족은 얼마든지 만들 수 있다. 문제는 그 가족이 물리와 접속하느냐다. 이 논문은 그 접속을 주장하지 않고, 가능성의 지형을 넓히는 데 머문다.

타원 궤도의 기하. 초점(star A)에서 잰 각 E로 위치를 정의하면 x = cos E − e, y = √(1−e²)·sin E 가 된다. 난형 궤도 가족이 흉내 내지 못하는 것은 이 단순한 좌표계다 — Hans van Deukeren, CC0 (Wikimedia Commons, File:Kepler Orbit Rectangular coordinates X and Y.png)

또 하나의 반론은 관측이다. 8분각의 오차가 케플러를 타원으로 밀어냈다면, 이 난형 궤도와 타원의 차이는 그보다 작아야 한다. 논문의 초록은 이 궤도들이 실제 화성 관측과 얼마나 잘 맞는지에 대한 수치를 제시하지 않는다. 즉 지금 단계에서 이것은 "화성은 이렇게 돈다"는 주장이 아니라 "이렇게 도는 것도 가능하다"는 주장으로 읽어야 한다.

논문이 스스로 인정한 한계

초록이 분명히 밝히는 제약이 하나 있다. 이 해들은 임의의 각운동량에서 나오지 않는다. "특정한 각운동량 값"에 대해서만 르장드르 다항식과 제2종 함수로 표현된다. 일반해가 아니라 특수해의 가족인 셈이다. 왜 그 값들이 특별한지, 그 값이 물리적으로 무엇을 뜻하는지는 초록만으로는 알 수 없다.

또한 초록은 이 연구가 관측 자료와 어떻게 대조되었는지, 혹은 대조될 수 있는지에 대해 아무 말도 하지 않는다. 케플러의 역사적 동기에서 출발한 논문이지만, 역사적 주장(케플러가 무엇을 고민했는가)과 수학적 주장(어떤 곡선이 두 조건을 만족하는가)은 검증 방식이 완전히 다르다. 초록은 전자를 배경으로 쓰고 후자를 결과로 제시한다. 독자는 이 둘을 분리해서 읽어야 한다.

독자에게 던지는 질문

과학사에서 "버려진 가설"은 대개 틀렸기 때문에 버려진 것으로 기억된다. 그런데 이 논문은 케플러가 중간에 상상했던 달걀 모양 궤도가, 조건을 하나 더 걸면 살아남는다고 말한다. 그렇다면 우리가 교과서에서 배우는 "정답"은 자연의 유일한 해답인가, 아니면 당시 우리가 요구했던 조건에 맞는 유일한 해답인가.

만약 누군가가 다른 조건 집합을 걸고 다른 궤도 가족을 만들어 낸다면, 그것은 틀린 과학일까. 아니면 아직 쓰이지 않은 언어일까. 8분각을 무시하지 않았던 사람이 400년 뒤에 되살아난 달걀 궤도를 보면, 아마 계산을 다시 시작할 것이다.

참고 자료

arXiv:2610.05358 (physics.hist-ph) — Cristopher Moore, Malcolm Smith, Stephan Mertens, "Astronomia Ova: Kepler's Laws, Ptolemy's Equant, and Legendre's Polynomials", 2026-10-04.

https://arxiv.org/abs/2610.05358v1

이미지: 『Astronomia Nova』 표지 — Public domain / 타원 궤도 기하 도해 — Hans van Deukeren, CC0.