바다에서 가장 작은 속도, w — 신경망은 선형 모형을 어디서 이겼나 (arXiv 2611.07969)

바다의 흐름을 이야기할 때 우리가 떠올리는 것은 늘 수평이다. 멕시코만류가 어디서 갈라지는지, 쿠로시오가 어디서 사행하는지, 지브롤터 해협을 통해 대서양 물이 지중해로 몇 Sverdrup 들어오는지. 그런데 해양학에서 실제로 물질을 위아래로 옮기는 성분은 그 수평 흐름이 아니라 수직 속도 w다. 그리고 이 w는 수평 성분 u, v보다 몇 자릿수나 작다. 논문 요약이 첫 문장에서 던지는 이 비대칭이 이 글의 출발점이다. 눈에 보이는 것은 크고, 정작 중요한 것은 수백 분의 일 크기로 숨어 있다.

측정할 수 없어서 계산으로 대신해 온 값

수직 속도가 중요한 이유는 분명하다. 표층의 물이 심층으로 내려가거나 심층의 물이 표층으로 올라오는 이 느린 운동이 용승을 만들고, 혼합층 환기(mixed-layer ventilation)를 결정하며, 열과 탄소와 영양염을 연직으로 나른다. 문제는 이 값을 직접 재는 일이 거의 불가능하다는 점이다. 수평 유속은 도플러 유속계나 표류 부이로 잴 수 있지만, w는 그보다 몇 자릿수 작아서 계측기의 오차 범위 안에 묻힌다.

그래서 해양학은 오랫동안 w를 측정하지 않고 진단(diagnose)해 왔다. 연속방정식, 즉 수평 발산의 적분으로부터 남는 값을 수직 속도로 돌려받는 방식이다. 이 방법은 수평 유속장이 정확하다는 전제 위에 서 있고, 그 전제가 흔들리면 w는 쉽게 잡음 덩어리가 된다. 논문이 던지는 질문은 여기서 출발한다. 수평 유속장만 주어졌을 때, 수직 속도를 얼마나 잘 복원할 수 있는가.

지브롤터 해협 일대의 위성 영상(MODIS, 2016년 12월 30일). 대서양 물이 이 좁은 목을 지나 지중해로 들어오며 알보란 해의 독특한 역학 체계를 만든다. — Jeff Schmaltz, MODIS Land Rapid Response Team, NASA GSFC, 퍼블릭 도메인 (Wikimedia Commons)

두 개의 경쟁자, 선형 모형과 깊이 조건 신경망

저자들은 이 문제를 두 가지 방식으로 접근한다. 하나는 물리적으로 동기 부여된 선형 기준선(linear baseline)이다. 수평 유속장의 선형 결합으로 w를 추정하는, 해석 가능하고 계수가 명시적인 모형이다. 다른 하나는 합성곱 신경망(CNN)이며, 여기에 FiLM(Feature-wise Linear Modulation)이라는 기법으로 깊이 정보를 조건으로 건다. 같은 수평 유속 패턴이라도 수심 10미터와 500미터에서 의미가 다르므로, 네트워크가 깊이에 따라 자신의 특징 응답을 조절하도록 만든 것이다.

비교 대상이 흥미로운 지점은 여기다. 신경망이 이기느냐가 아니라, 선형 모형이 어디까지 따라오느냐를 묻고 있다. 물리 기반의 단순한 기준선을 세워 두고, 복잡한 모형이 그 기준선을 넘어서는 잔여 성능이 실제로 존재하는지를 재는 구성이다. 기계학습 논문에서 흔히 빠지는 '기준선 없는 자화자찬'을 구조적으로 막아 둔 셈이다.

훈련하지 않은 바다에서 시험하다

실험 무대는 서지중해의 고해상도 지역 해양 모형이다. 사용된 모형은 CROCO(Coastal and Regional Ocean Community model)이며, 남서 지중해의 한 부분 영역을 훈련 지역으로 삼는다. 중요한 것은 검증 설계다. 검증에는 훈련에 쓰지 않은 두 개의 독립 영역이 동원된다. 하나는 지브롤터 해협을 통해 들어오는 대서양 유입이 지배하는, 역학 체계가 뚜렷이 다른 알보란 해(Alboran Sea). 다른 하나는 알보란 해와 서지중해 개방 해역 사이에 놓인 알메리아–카르타헤나 전이 해역이다.

같은 모형 안에서 훈련하고 같은 모형 안에서 시험하면 성적은 언제나 좋게 나온다. 저자들이 굳이 역학 체계가 다른 두 바다를 검증에 세운 이유는, 여기서 재고 싶은 것이 보간(interpolation)이 아니라 외삽(out-of-sample)이기 때문이다. 이 구분이 없으면 아래의 반전은 성립하지 않는다.

연안 용승과 적도 용승의 모식도. 수직 속도 w는 수평 흐름보다 훨씬 작지만, 표층과 심층 사이의 열·탄소·영양염 교환을 결정한다. — ReddKing, CC BY 4.0 (Wikimedia Commons)

반전: 신경망은 절반만 이겼다

결과는 '신경망 승리'라는 단순한 구도가 아니다. 저자들이 FiLM 네트워크를 단일 훈련 영역에 과적합하지 않을 만큼 충분히 정규화하고 나서 비교한 결과, 두 모형의 우열은 영역과 깊이에 따라 달라지는 것으로 나타났다. 균일한 결론이 나오지 않았다는 것이 이 논문의 핵심이다.

구체적으로, 기준 깊이 근처에서는 두 검증 영역 모두에서 달성 가능한 외삽 성능의 사실상 전부를 선형 모형이 이미 포착하고 있었다. 즉 얕은 쪽에서는 복잡한 깊이 조건 신경망을 붙일 이유가 거의 없다. 반면 시험한 가장 깊은 수심대에서는 FiLM 네트워크가 전이 해역에서 선형 기준선을 앞섰다. 그런데 같은 깊은 수심에서 알보란 해에서는 앞서지 못했다. 신경망이 이긴 곳과 진 곳이 깊이로도 갈리고 해역으로도 갈린다.

왜 알보란에서만 통하지 않았나

첫 번째 가설은 역학 체계의 차이다. 알보란 해는 지브롤터 해협을 통한 대서양 유입이 지배하는, 훈련 영역과는 다른 물리 체계다. 훈련 데이터가 담고 있지 않은 종류의 운동이 검증장에 나타나면, 아무리 깊이 조건을 걸어도 배울 근거가 없다. 이 설명은 '신경망이 훈련 분포 밖에서 약하다'는 일반론과 정확히 맞물린다.

두 번째 가설은 정규화의 부작용이다. 저자들은 단일 훈련 영역 과적합을 피하려고 네트워크를 강하게 정규화했다. 그러나 과적합을 막는 수준을 넘기면 이번에는 과소적합이 되어, 깊은 수심에서 선형 모형이 잡지 못하는 비선형 구조를 배울 여력 자체가 줄어든다. 알보란에서의 패배가 '이 해역이 어렵다'는 뜻인지 '정규화가 세다'는 뜻인지 이 실험만으로는 분리되지 않는다.

세 번째는 선형 기준선의 강점에 대한 설명이다. 해양 대규모 흐름은 지형 평형(geostrophic balance)과 연속방정식이라는 강한 제약 아래 놓여 있어, w와 수평 유속의 관계가 상당 부분 선형으로 근사될 수 있다. 그렇다면 선형 모형이 기준 깊이에서 전부를 포착한 것은 우연이 아니라 물리가 선형이기 때문이고, 신경망의 몫은 그 제약이 깨지는 가장자리에서만 남는다. 이 세 가설은 논문이 확정한 결론이 아니라 결과를 설명하는 후보들이라는 점을 분명히 해 둔다. 논문은 이 셋을 분리하는 실험을 제시하지 않는다.

저자들이 스스로 인정한 한계

가장 큰 한계는 데이터의 출처다. 모든 실험은 하나의 고해상도 지역 모형 시뮬레이션 위에서 이루어진다. 정답 라벨로 쓰인 w는 관측값이 아니라 모형이 스스로 계산한 값이다. 즉 이 논문이 증명한 것은 '모형의 w를 수평 유속으로 복원할 수 있다'이지, '실제 바다의 w를 복원할 수 있다'가 아니다. 모형이 가진 편향은 그대로 라벨에 들어가 있고, 신경망은 그 편향까지 충실히 배울 수 있다.

둘째, 검증 영역이 두 개다. 알보란 해와 전이 해역은 서로 다른 체계를 대표하지만, 지구 해양의 다양한 역학(고위도 대류, 조석 지배 연안, 강한 서안경계류)을 모두 포괄하지는 않는다. 셋째, 깊이 조건 네트워크의 우위가 확인된 곳은 '가장 깊은 수심대'와 '전이 해역'의 교집합 한 곳뿐이다. 저자들은 이 교집합이 왜 존재하는지에 대한 물리적 설명을 확정하지 않았고, 결과의 일반화 가능성도 열어 두었다. 넷째, 정규화 강도에 따라 결론이 흔들릴 수 있는데, 그 민감도가 체계적으로 보고되지 않는다.

이 결과가 남기는 질문

이 논문의 진짜 기여는 'CNN이 선형 모형보다 낫다'가 아니라, 어디서 낫고 어디서 낫지 않은지를 깊이와 해역의 좌표 위에 찍어 보였다는 데 있다. 기계학습을 물리 문제에 적용할 때 우리가 습관적으로 기대하는 것은 '복잡한 모형이 단순한 모형을 이긴다'는 서사다. 그런데 이 실험은 그 서사가 깊이 축과 해역 축 위에서 조각조각 갈라진다는 것을 보여 준다. 얕은 곳에서는 물리가 이미 이기고 있고, 깊은 곳에서도 훈련 분포와 물리 체계가 어긋나는 순간 신경망의 우위는 사라진다.

그래서 독자에게 던지는 질문은 이것이다. 우리는 언제 물리 기반의 단순한 모형을 버려야 하는가. 신경망이 어딘가에서 이겼다는 사실 하나로, 혹은 어딘가에서 졌다는 사실 하나로 결정할 문제가 아니라면, 판단의 기준은 결국 '어느 깊이, 어느 해역, 어느 역학 체계에서'일 것이다. 그리고 그 기준을 세우려면 모형의 성능 곡선이 아니라 물리가 어디서 선형성을 잃는지를 먼저 알아야 한다. 여러분이라면 어느 쪽에 먼저 투자하겠는가.

참고 자료

Ventrella, F. M., López, C., Hernandez-Garcia, E., “Estimating Vertical Ocean Velocity from Horizontal Currents: Linear and Depth-Conditional Neural-Network Approaches on a High-Resolution Regional Ocean Model,” arXiv:2611.07969v1 [physics.ao-ph], 2026-11-05.
https://arxiv.org/abs/2611.07969v1

이미지 출처 — 지브롤터 해협 위성 영상: Jeff Schmaltz, MODIS Land Rapid Response Team, NASA GSFC, 퍼블릭 도메인, Wikimedia Commons. 용승 모식도: ReddKing, CC BY 4.0, Wikimedia Commons.