본문으로 바로가기
COMMUNITY모든 이야기

2025년 12월 16일 12시(UTC), 미국 오리건주 캐스케이드 산맥 서쪽 사면의 한 격자점. 북위 44도, 서경 122.25도다. 이 지점에 대해 한 시간 단위 확률예보를 여섯 장 늘어놓으면, "이 시간에 비가 올 확률"은 22%에서 78% 사이를 오간다. 어느 한 시간도 확신에 차 있지 않다. 그런데 같은 여섯 시간을 통째로 묶어 "이 창 안에 비가 올 확률"을 물으면 숫자가 90%로 뛴다. 한 시간도 80%를 못 넘겼는데 여섯 시간 전체는 90%다.

더 눈에 띄는 것은 양이다. 이 지점에서 6시간 누적 5mm를 넘길 확률은 약 30%로 계산된다. 정작 시간별 예보를 보면 어느 한 시간도 5mm를 넘길 확률이 5%를 조금 넘는 수준이다. 6시간을 묶으면, 각 시간의 낮은 확률들이 겹겹이 쌓여 개별 시간 분포만 봐서는 상상하기 어려운 누적 총량이 만들어진다. 토머스 해밀(Thomas M. Hamill)이 2026년 11월 2일 arXiv에 올린 논문 「Six-hourly Probabilistic Precipitation Forecasts Created From Hourly Probabilities」가 겨냥하는 지점이 바로 이 간극이다. 시간별 확률을 여섯 개 손에 쥐고, 6시간 누적에 대한 하나의 확률분포로 접는 일. 그런데 이 "접기"를 대충 하면 조용히, 그러나 체계적으로 틀린다.

여섯 번 더하면 왜 과신하게 되는가

가장 자연스러운 방법은 시간별 분포에서 표본을 뽑아 더하는 것이다. 각 시간의 분포에서 50개씩 몬테카를로 표본을 뽑고, 같은 번호끼리 여섯 시간을 합산해 6시간 누적 50개를 만든다. 논문이 "독립 추출(independent draws)"이라고 부르는 이 기준선은, 시간별 주변분포를 그대로 쓰기 때문에 입력 정보의 양에서는 신경망과 완전히 동등하다. 다른 것은 단 하나, 시간 사이의 상관을 0으로 가정한다는 점이다.

그 가정이 만드는 오차는 방향이 일정하다. 실제 비는 시간적으로 자기상관을 가진다. 비 오는 시간은 몰려서 오고, 그친 시간도 몰려서 온다. 그런데 독립으로 뽑으면 젖은 시간과 마른 시간이 무작위로 섞이면서, 임계값을 살짝 넘기는 "어중간한 누적"이 실제보다 자주 만들어진다. 결과는 과신이다. 0.25mm 임계값, 12시간 리드타임에서 신경망이 90%라고 말한 사건은 실제로 약 90% 확률로 발생했지만, 독립 추출 기준선의 90% 구간은 77%밖에 적중하지 못했다. 48시간 리드타임에서는 71%까지 떨어진다. 90%라고 적어놓고 열 번에 두세 번은 틀리는 예보다.

73개의 숫자를 10개의 숫자로 접는 작은 신경망

논문의 신경망은 입력 73개를 받아 출력 10개를 낸다. 훈련 가능한 파라미터는 50,202개다. 입력을 만드는 시간별 Attention Residual U-Net이 약 3천만 개 파라미터를 가진 것과 비교하면 600분의 1 규모다. 저자는 이 점을 "경량(lightweight)"이라고 강조한다. 집계 작업 하나를 위해 거대 모델을 다시 학습시키지 않았다는 뜻이다.

입력의 절반 이상은 이미 계산된 분포의 파라미터다. 6시간 각각에 대해 0일 확률 p0, 혼합 가중치 w, 두 감마 성분의 형상·척도 (α1, θ1, α2, θ2) — 시간당 6개씩, 여섯 시간이면 36개다. 여기에 각 시간의 공간 텍스처 통계 3개씩 18개(젖은 면적 비율, 최대/평균 비, 변동계수), 연속한 두 시간 사이의 젖은 영역 자카드 중첩과 공간 패턴 상관 10개, 계절과 초기시각의 주기항 4개, 지형 거칠기와 경사 4개, 원시 결정론 예보의 6시간 총량 1개가 붙는다. 시계열 54개는 48유닛짜리 GRU 한 층이 요약하고, 그 출력 48개에 정적 특징 19개를 이어 붙여 128→144→72→36→12→10의 완전연결망에 통과시킨다.

강수량은 통계적으로 다루기 까다로운 변수다. 절반 이상의 격자·시각에서 정확히 0이고, 0이 아닐 때는 오른쪽으로 길게 늘어진다. 0과 양수를 하나의 연속분포로 욱여넣으면 어느 쪽도 제대로 맞히지 못한다. 그래서 논문은 "0 팽창(zero-inflated)" 구조를 쓴다. p0라는 하나의 숫자로 정확히 0일 확률을 따로 떼어내고, 젖은 경우의 양은 감마분포들의 가중합으로 기술한다. 감마분포는 양수만 가지면서 오른쪽 꼬리가 긴 분포로, 형상 모수(α)가 작으면 0 근처에 뾰족하게 몰리고 커지면 봉우리가 무거운 쪽으로 이동한다.

시간별 예보는 성분이 두 개, 6시간 예보는 세 개다. 이유는 누적 구간이 길어지면 한 구간 안에 서로 다른 성격의 강수가 섞이기 때문이다. 예를 들어 약한 이슬비 덩어리와 대류성 소나기의 꼬리가 한 분포 안에 공존하면 두 성분으로는 잘 맞지 않는다. 세 성분을 쓰면 꼬리를 훨씬 자유롭게 표현할 수 있다. 여기에 실무적인 장치가 하나 더 붙는다. 혼합모형은 성분의 순서를 학습 중에 뒤바꾸는 라벨 스위칭 문제가 있는데, 논문은 α1 < α2 < α3를 구조적으로 강제해 사후 정렬 단계 자체를 없앴다. 정렬은 미분 불가능한 연산이라, 학습 중간에 끼어들면 그래디언트가 끊긴다.

훈련은 비 오는 격자만 골라서 한다

전국 격자를 균등하게 뽑으면 훈련 표본의 대부분이 맑은 하늘이다. 그 상태로 학습하면 신경망은 "비 안 온다"는 답을 배우고, 정작 중요한 호우 사례는 몇 개 보지 못한다. 논문은 그래서 표본마다 가중치를 준다. 여섯 시간 중 가장 낮은 p0로부터 "창 안에 비가 올 확률"을 추정하고, 예상 누적량 μ6도 계산해, psamp = 0.01 + 0.99·p_nz + 8·μ6/(μ6+20mm)로 가중한다. 건조한 격자도 최소 1%의 확률로는 뽑히지만, 20mm 근처에서 가중치가 절반 포화되는 항이 호우 사례를 끌어올린다.

r1s.jpg

미국 플로리다주 탤러해시의 KTLH NEXRAD 도플러 레이더 돔(2024). 논문의 정답 데이터인 MRMS는 이런 지상 레이더망과 센서 관측을 합성해 만든다 — The Bushranger, CC BY-SA 4.0 (Wikimedia Commons)

뽑은 뒤에도 한 번 더 거른다. 15×15 격자 블록(약 64km)마다 최대 두 점만 남기는 공간 희석이다. 이 장치가 없으면 같은 폭풍계에서 수백 개의 표본이 나와, 신경망이 첫 에폭 만에 그 폭풍을 외워버린다고 논문은 적는다. 최종적으로 초기장 하나당 2,500개 표본을 모은다. 정답 쪽에도 품질 기준이 붙는다. 정답은 MRMS(Multi-Radar Multi-Sensor) 6시간 누적강수인데, 여섯 시간 평균 품질지수가 0.6을 넘는 격자만 쓴다. 시간별 모델을 학습할 때의 기준(0.01)보다 훨씬 엄격하다. 6시간을 합산하면 레이더 빔 차폐 같은 검출 오차도 함께 누적되기 때문이다.

반전: 성능 그림에서는 두 방법이 거의 비긴다

결과부터 보면 신경망의 승리다. 2025년 매달 12일 이후를 통째로 남겨둔 표본외 검증(228일)에서, 6시간부터 72시간까지 12개 리드타임, 0.25·2.5·10mm 세 임계값 모두에서 신경망의 브라이어 skill score(BSS)가 기준선을 앞섰고, 달력일 단위 부트스트랩 2,000회로 계산한 차이의 95% 신뢰구간은 12개 리드타임 전부에서 0을 배제했다. 2.5mm에서 격차는 약 0.02, 10mm에서 0.015~0.02로 리드타임에 따라 거의 일정하다. 0.25mm에서는 6시간의 0.029에서 72시간의 0.063으로 오히려 벌어진다.

그런데 같은 잡지에 실린, 아니 같은 논문 안의 다른 그림은 다른 이야기를 한다. 탐지확률과 성공률을 함께 그리는 performance diagram에서 두 방법의 곡선은 12시간과 48시간 모두에서 거의 겹친다. 최대 임계성공지수(CSI) 차이는 모든 임계값·리드타임에서 0.004~0.010에 불과하다. 만약 BSS만 봤다면 "신경망이 훨씬 잘 맞힌다"고 썼을 텐데, 이 그림은 "사건을 가려내는 능력은 거의 같다"고 말한다.

모순이 아니다. 두 지표가 재는 것이 다르다. performance diagram은 각 사건이 어느 확률 구간에 배치됐는지만 보므로, 순위를 매기는 능력(discrimination)에 민감하고 확률값 자체의 정직함에는 둔감하다. 두 방법은 똑같은 시간별 주변분포를 입력으로 먹기 때문에 순위가 비슷할 수밖에 없다. 차이는 확률값의 신뢰도, 즉 캘리브레이션에서 난다. BSS는 그 오차에 직접 벌점을 준다. 논문의 결론은 이렇게 정리된다. "독립 가정 대비 이 신경망의 우위는 주로 확률적 캘리브레이션에 있으며, 사건 판별력에 있지 않다."

경쟁 가설과 반론

첫 번째 반론은 "GRU가 정말 필요한가"다. 여섯 시간 파라미터를 그냥 평평한 벡터로 넣어도 되지 않느냐는 질문이다. 논문은 12시간 리드타임에서 개발 실험을 했다고 밝힌다. GRU를 넣으면 모든 임계값에서 신뢰도가 좋아졌고 BSS는 같거나 약간 나아졌다. 다만 그 비교는 최종 테스트 기간과 같은 2025년 자료에서 이뤄졌다. 저자도 이 점을 인정하며 "보고된 skill에 어느 정도 선택 효과가 있을 수 있다"고 쓴다.

두 번째는 더 아픈 반론이다. 이 방법은 앙상블 시나리오를 주지 않는다. 확률분포 하나를 줄 뿐, "이렇게 될 수도 있고 저렇게 될 수도 있다"는 여러 개의 그럴듯한 미래를 주지 않는다. 하천 유량 예측처럼 시나리오가 필요한 응용에서는 치명적이다. 논문은 벨리에(Bellier) 등 2023년 연구를 직접 언급한다. 그쪽은 표준 단변량 캘리브레이션과 Schaake shuffle 위에 변조 메커니즘을 얹어 여러 시간 규모의 일관된 예보를 만들면서 앙상블 시나리오를 구조적으로 보존한다. 대신 앙상블 예보가 있어야 한다는 조건이 붙는다. 여기 방법은 결정론적 모델 하나에서 출발하는 대가로 시나리오를 잃었다.

세 번째는 시드 문제다. 72시간 리드타임에서 시드 999로 학습한 신경망은 유난히 나쁜 표본이었다. 10mm BSS가 기준선과 동률이었고, 무거운 확률 구간에서 과신했다. 학습·검증 손실은 다른 시드와 구별되지 않았는데도 그랬다. 저자는 시드 다섯 개를 돌려 BSS가 0.017~0.021 흔들린다는 것을 확인하고, 72시간 결과는 그중 강한 쪽인 시드 2026을 썼다고 명시한다. "결과가 다소 낙관적일 수 있다"는 문장을 스스로 붙였다. 다른 리드타임에서 시드 999가 반대로 비관적이었는지는 시험하지 않았다.

r2s.jpg

미국 네바다주 러브록 공항의 가열식 전도형 우량계. 격자 단위 확률예보를 검증하려면 이런 지상 관측과 레이더 합성이 겹쳐진 정답 자료가 필요하다 — Famartin, CC BY-SA 4.0 (Wikimedia Commons)

논문이 스스로 인정한 한계

가장 실무적인 한계는 "전부 아니면 전무"다. 이 신경망은 누적 구간의 여섯 시간 파라미터가 모두 있어야 한다. 하나라도 파일이 없으면 6시간 예보를 아예 만들지 않는다. 기본값으로 대체하지도, 보간하지도, 기후값을 넣지도 않는다. 회고 검증에서는 문제없다. 빠진 사례를 빼면 그만이다. 하지만 운영에서는 다르다. 상류의 GRAF나 GFS 자료에 장애가 나 시간별 입력 하나가 결측되면, 그 초기장의 6시간 예보 전체가 사라진다. 논문은 "앞 시간 예보를 이어 쓰는 방법, 시간별 기후값, 나머지 다섯 시간의 평균 같은 대체 전략을 구현하거나 평가한 적이 없다"고 적는다.

검증 범위도 좁다. 2025년 한 해, 그것도 매달 12일 이후만 썼다. 훈련은 매달 1~9일, 10~11일은 경계를 메우는 공백이다. 폭풍계 하나가 훈련과 테스트 경계를 걸쳐 skill을 부풀리는 것을 막는 장치로는 훌륭하지만, 해가 하나라는 사실은 남는다. 저자도 "검증 연도를 하나 더 쓰는 것이 더 엄격한 시험"이라고 쓴다. 하이퍼파라미터 탐색도 없었다. 은닉층 폭 [128,144,72,36,12], GRU 48유닛, 계절 주기항 두 쌍은 모두 초기값 그대로 고정됐다.

캘리브레이션에도 빈틈이 하나 있다. 48시간 리드타임의 10mm 임계값에서 신경망은 반대로 과소확신한다. 40~80% 구간에서 관측 빈도가 예보 확률보다 4~8%포인트 높다. 50%라고 적은 구간이 실제로는 55%, 80%라고 적은 구간이 88%다. 부트스트랩 10~90 백분위 구간이 대각선을 배제하므로 표본 잡음으로 설명되지 않는다. 다만 같은 지점에서 기준선은 반대 방향으로 같은 정도 벗어나 있어, "기준선보다는 낫다"는 주장은 유지된다.

그래서 5만 개 파라미터가 남기는 것

이 논문의 진짜 기여는 날씨를 잘 맞히는 것이 아니라, "집계"를 하나의 학습 문제로 만든 데 있다. 시간별 확률분포 36개 숫자와 공간 텍스처, 시간 간 일관성, 지형을 73차원 벡터로 정리하고, 그것을 6시간 누적의 10개 파라미터로 사상한다. 그 사상은 물리 방정식이 아니라 데이터에서 배운 것이고, 배운 내용의 핵심은 시간 상관이라는, 독립 가정이 버린 정보 한 조각이다. 600배 큰 모델이 만든 출력을 600분의 1 크기 모델이 요약하는 이 구조는, 예보 파이프라인에서 흔히 보는 "후처리 단계"의 자리를 신경망이 차지할 수 있음을 보여준다.

동시에 이 논문은 자기 성과를 재는 자를 스스로 들이댄다. BSS가 이기는데 performance diagram이 비긴다는 사실을 숨기지 않고, 그 불일치를 지표의 성격 차이로 설명한다. 좋은 쪽 숫자만 골라 "판별력이 좋아졌다"고 썼다면 읽는 사람은 속았을 것이다. 예보를 읽는 우리에게도 같은 질문이 남는다. "비 올 확률 90%"라는 문장에서 우리가 원하는 것은 사건을 골라내는 능력인가, 아니면 그 90%라는 숫자를 믿을 수 있는 능력인가. 둘은 다르고, 하나가 좋아졌다고 다른 하나가 좋아졌다고 말할 수는 없다.

여러분은 일기예보에서 어느 쪽을 더 원하십니까. "비 온다/안 온다"를 잘 맞히는 예보, 아니면 "70%"라고 했을 때 정말 열 번에 일곱 번 오는 예보. 그리고 그 70%가 여섯 시간 누적으로 계산된 숫자라면, 여러분은 그 70%를 어디까지 믿으시겠습니까.

참고 자료

Thomas M. Hamill, "Six-hourly Probabilistic Precipitation Forecasts Created From Hourly Probabilities", arXiv:2611.03326v1 (2026-11-02), physics.ao-ph. https://arxiv.org/abs/2611.03326

논문 내 인용: Hamill (2026a, 2026b) 시간별 Attention Residual U-Net 후처리, Zhang et al. (2016) MRMS, Bellier et al. (2023) 다중 시간규모 변조, Roebber (2009) performance diagram, Hamill (1999) 예보 검정.

모든 이야기1680

가벼운 안부부터 깊은 생각까지, 함께 나눠요.

글쓰기
총 1680개의 이야기
댓글