관측의 93퍼센트는 교과서의 난류가 아니었다 — 칠레 거대망원경 부지에서 재본 대기의 진짜 기울기 (arXiv 2611.07910)

칠레 아타카마 사막의 한 봉우리, 거대마젤란망원경(GMT)이 들어설 부지에 세워진 초음파 풍속계는 사람이 느끼지 못하는 시간 간격으로 바람과 기온을 기록한다. 그 기록이 쌓이면 숫자 더미가 되고, 천문학자들은 그 더미에서 난류가 얼마나 세게 흔드는가를 뽑아낸다. 별빛이 대기를 지나며 흐려지는 정도, 이른바 시상(seeing)을 예측하는 값이다.

마르코 세풀베다와 다리오 G. 페레스는 이 기록을 80년 된 가정 위에 올려놓지 않기로 했다. 대신 시계열 자체의 기울기를 재는 프랙털 기법을 들고 와서, 애초에 그 가정이 이 부지에서 성립하는지부터 물었다. 답은 논문 초록 첫머리에 숫자 하나로 적혀 있다. 7퍼센트.

80년 동안 당연했던 전제, K41

1941년 콜모고로프는 난류의 에너지가 큰 소용돌이에서 작은 소용돌이로 흘러내리며, 중간 규모 구간에서는 통계가 규모에 무관해진다고 정리했다. 이 구간을 관성구간(inertial sub-range)이라 부르고, 그 안에서 속도장의 파워 스펙트럼은 파수 k의 -5/3승을 따른다. 대기 광학 분야는 이 -5/3을 거의 공리처럼 깔고 지상층 난류를 해석해 왔다.

문제는 공리가 조건부라는 점이다. K41은 등방성(isotropy), 즉 어느 방향으로 재도 통계가 같다는 성질을 전제한다. 지표 가까운 대기경계층은 지면이 아래를 막고, 낮에는 가열되고 밤에는 냉각된다. 그런 곳에서 완벽한 등방성이 유지된다는 보장은 애초에 없었다. 논문은 그 보장이 실제로 얼마나 자주 깨지는지를 측정 대상으로 삼았다.

7퍼센트 — 조건이 갖춰진 관측은 드물었다

저자들이 요구한 조건은 엄격하다. 세 방향 속도 성분과 온도장 모두에서 동시에 등방성이 성립하고, 동시에 -5/3 멱법칙이 보여야 한다. 이 두 조건을 함께 만족한 관측은 전체의 7퍼센트 미만이었다. 다시 말해 지상층 대기 관측의 93퍼센트 이상은, 교과서가 전제한 그 난류가 아니었다.

이 숫자는 측정이 부실해서 나온 것이 아니다. 부지 시험 캠페인에서 고빈도로 수집한 실제 자료를, 저자들이 스스로 정한 엄격한 잣대로 걸러낸 결과다. 잣대를 느슨하게 잡으면 당연히 비율은 올라간다. 논문이 택한 것은 반대 방향이다. 조건을 빡빡하게 세워놓고, 그 조건이 얼마나 자주 무너지는지를 정면으로 보고한다.

밤이 되면 온도가 속도와 결별한다

가장 흥미로운 대목은 온도장이다. 안정 성층, 즉 아래가 차갑고 위가 따뜻해 밀도가 층층이 쌓인 상태에서 온도는 속도 성분과 체계적으로 어긋났다. 야간에는 -5/3이 아니라 -7/5 멱법칙, 볼자노-오브호프(Bolgiano-Obukhov) 스케일링이 나타났다.

이 차이는 수학적 취향 문제가 아니다. -7/5는 온도가 유체에 실려 다니는 수동적 표지자가 아니라, 스스로 부력을 만들어 흐름을 거스르는 능동적 표지자로 행동한다는 신호다. 차가운 공기층이 아래에 깔리면 그 층은 가라앉으려 하고, 그 운동이 다시 온도 분포를 바꾼다. 속도장만 보고 대기를 설명하면 이 되먹임을 통째로 놓친다.

칠레 라스 캄파나스 봉우리의 GMT 건설 현장 항공 사진. 논문이 사용한 부지 시험 자료가 수집된 칠레의 거대망원경 부지 중 하나다 — Francisco Figueroa, Giant Magellan Telescope / GMTO Corporation, CC BY-SA 4.0 (Wikimedia Commons)

경계를 어디서 긋는가: DFA와 ARIIS

관성구간을 이야기하려면 그 구간이 어디서 시작해 어디서 끝나는지를 정해야 한다. 기존에는 푸리에 변환으로 스펙트럼을 그린 뒤 사람이 눈으로 기울기가 꺾이는 지점을 집는 방식이 흔했다. 논문은 여기에 DFA(추세 제거 변동 분석)를 들고 와서, 프랙털 시계열 분석의 눈으로 구간 경계를 잡는다.

저자들은 이 방법을 푸리에 기반의 ARIIS 알고리즘과 나란히 놓고 비교한다. DFA가 찾아낸 체제 전환점은 난류의 특성 규모와 맞물렸고, 논문은 이를 모델 없는(model-free) 객관적 경계로 제시한다. 사람의 눈이 아니라 시계열의 자기 유사성이 경계를 정한다는 주장이다.

미국 네바다주 러브록 공항에 설치된 초음파 풍속계의 근접 사진. 음파의 왕복 시간차로 세 방향 바람을 동시에 재는 장비로, 논문이 부지 시험에서 사용한 자료의 원천이다 — Famartin, CC BY-SA 4.0 (Wikimedia Commons)

그래서 Cn²는 얼마나 어긋나는가

천문학에서 실제로 쓰이는 값은 굴절률 구조상수 Cn²다. 논문은 K41 스케일링을 가정한 구조함수 기반 추정과, 플럭스 기반 매개변수화를 비교했다. 안정 조건에서 두 값은 크게 벌어졌다. 즉 지금까지 관측소에서 상용으로 쓰인 추정치가, 같은 대기를 다른 방식으로 계산한 값과 서로 다른 이야기를 하고 있었다는 뜻이다.

이 어긋남은 망원경 성능 예측으로 곧장 이어진다. 어느 쪽이 맞느냐에 따라 적응광학 보정량, 관측 시간 배분, 심지어 부지 선정 점수까지 달라진다. 차세대 거대망원경, 즉 30미터급 주경을 올리는 시설에서 이 오차는 몇 퍼센트의 문제가 아니다.

논문이 스스로 인정하는 한계

저자들은 결론을 넓게 펴지 않는다. 관측은 GMT와 TMT 부지의 부지 시험 캠페인 자료에 한정되고, 분석은 지상층, 즉 대기경계층 아래쪽에 집중된다. 관성구간 상부의 자유 대기나, 다른 위도·다른 지형의 부지로 이 결과를 그대로 옮길 근거는 논문 안에 없다.

또한 DFA가 그은 경계가 곧 물리의 경계라는 보장도 없다. 저자들이 내세우는 것은 특성 규모와의 상관이며, 그것이 인과라는 주장은 아니다. 방법론의 정당성은 결국 더 많은 부지, 더 긴 관측으로 검증되어야 할 몫으로 남는다. 논문이 요구하는 것은 결론의 확장이 아니라 방법의 교체, 즉 성층을 인식하는(stratification-aware) 분석 절차다.

당신이 망원경으로 별을 본다면, 그 별빛은 방금 이 93퍼센트의 대기를 통과해 왔다. 교과서의 난류가 아닌 대기를 통과한 빛을, 우리는 여전히 교과서의 공식으로 보정하고 있는 것은 아닐까.

참고 자료

Marco Sepúlveda, Darío G. Pérez, Inertial sub-range detection and characterization for ground-layer turbulence at new extremely large telescope sites in Chile, arXiv:2611.07910v1 (2026-11-05).
https://arxiv.org/abs/2611.07910v1