5G 기지국이 몰래 레이더가 된다: 통신 전파로 차의 속도를 재는 기술, 그리고 클러터라는 벽

도심 교차로 위 옥상. 5G 기지국 안테나가 초당 수백 번씩 단말과 패킷을 주고받는다. 그런데 이 전파는 단말에만 도달하지 않는다. 지나가는 차의 금속 지붕, 버스 정류장의 유리, 옆 건물의 외벽에 부딪혀 사방으로 튕겨 나간다. 통신 시스템에게 이 반사파는 그저 간섭이고 잡음이다. 그런데 같은 전파를 '물체를 보는 신호'로 읽으면 어떻게 될까.

2026년 10월 29일 arXiv에 v1이 올라온 논문 「Multistatic ISAC with Deep Learning-Based Clutter Suppression for 5G and Beyond」(arXiv:2610.40586)는 바로 이 지점을 다룬다. 저자들은 얄린 E. 사그두유(Yalin E. Sagduyu), 투그바 에르펙(Tugba Erpek), 사스트리 콤펠라(Sastry Kompella) 세 사람이다. 별도의 레이더를 세우지 않고, 이미 깔린 5G·차세대 통신 인프라로 물체의 위치와 속도를 추정하겠다는 계획이다. 문제는 그 계획이 마주치는 첫 번째 벽이 표적이 아니라 주변 환경이라는 점이다.

통신과 레이더를 한 몸에: ISAC라는 발상

ISAC는 Integrated Sensing and Communications의 약자로, 하나의 신호가 두 가지 일을 동시에 하도록 설계하는 개념이다. 통신 신호는 이미 시간·주파수·위상이 정교하게 짜여 있다. 수신기가 그 파형을 정확히 알고 있다면, 되돌아온 신호가 얼마나 늦었는지(지연)와 얼마나 주파수가 밀렸는지(도플러)를 재서 거리와 시선 방향 속도를 계산할 수 있다. 레이더의 원리와 같고, 다른 것은 송신기가 통신 기지국이라는 사실뿐이다.

이 접근의 매력은 경제성에 있다. 새 주파수를 배정받고 새 안테나를 세우는 대신, 이미 전국에 깔린 기지국과 그 스펙트럼을 재활용한다. 논문은 이를 '기회 신호(opportunity signal)를 쓰는 센싱'이라고 표현한다. 통신 사업자에게는 부하가 되지 않는 부가 서비스가 되고, 센싱이 필요한 쪽에는 값싼 센서망이 생긴다.

수신기를 늘리면 왜 문제가 커지는가

센싱 범위를 넓히는 가장 단순한 방법은 수신기를 여러 대 두는 것이다. 하나의 송신기와 여러 수신기가 서로 다른 각도에서 같은 표적을 보면, 각 수신기가 만드는 타원(송신기와 수신기를 초점으로 하는)들이 한 점에서 만나 위치가 결정된다. 이것이 멀티스태틱(multistatic) 구성이고, 논문이 택한 구조다. 수신기를 늘리면 가려진 곳이 줄고 위치 추정의 기하학적 조건도 좋아진다.

그러나 수신기를 늘린다는 것은 '보는 눈'을 늘리는 일이면서 동시에 '엉뚱한 것을 보는 눈'을 늘리는 일이다. 각 수신기는 자기 주변의 반사체를 모두 함께 받는다. 수신기가 여럿이면 그 반사체들이 만드는 가짜 표적도 여러 각도에서 서로 다른 모양으로 나타난다. 논문이 강조하는 지점이 여기다. 멀티스태틱은 커버리지를 늘리지만, 밀집하고 동적인 클러터 환경에서는 양방향 거리(bistatic range)와 도플러 추정을 크게 훼손한다.

도심 옥상에 설치된 5G 기지국 안테나. 이런 통신용 전파의 반사파를 센싱에 재활용하는 것이 ISAC의 발상이다 — Yumikember, CC BY-SA 4.0 (Wikimedia Commons)

클러터: 표적보다 큰 신호

레이더 공학에서 클러터(clutter)는 표적이 아닌 모든 반사파를 뜻한다. 문제는 크기다. 차 한 대의 레이더 단면적보다 빌딩 외벽이나 나무 군락이 되돌려 보내는 에너지가 훨씬 큰 경우가 흔하다. 표적이 작고 반사가 약한 반면, 주변은 크고 밝다. 이 상황에서 '가장 큰 신호를 찾는' 방식은 표적이 아니라 건물을 찾아낸다.

논문은 이 클러터를 단순한 잡음 덩어리로 두지 않는다. 무작위로 배치된 산란체(scatterer)들로 분산 클러터를 모델링하고, 각 산란체에 서로 다른 도플러 확산과 레이더 단면적을 부여한다. 어떤 산란체는 거의 정지해 있고, 어떤 것은 바람이나 차량에 밀려 움직인다. 즉 클러터 자체가 '동적인' 대상이다. 정지 클러터는 도플러 필터로 걸러낼 수 있지만, 움직이는 클러터는 표적과 같은 도플러 대역에 들어와 구분이 어려워진다.

고전 신호처리는 어디서 무너지는가. 논문의 실험 구성에서 눈에 띄는 부분은 딥러닝을 곧바로 들이밀지 않는다는 점이다. 먼저 폭넓은 범위의 전통적 신호처리 기법들을 클러터 억제 베이스라인으로 세워 평가한다. 이동표적인디케이터(MTI) 계열의 필터, 도플러 대역 분리, 적응형 임계값 같은 오래 검증된 도구들이다. 이들은 계산이 가볍고 해석이 가능하며, 실제 레이더 시스템에서 수십 년간 쓰여 왔다.

결과는 논문의 표현대로 '강한 클러터 조건에서 제한된 강건성'이다. 이는 실패가 아니라 구조적 한계에 가깝다. 고전 기법은 대개 '클러터는 특정 도플러 대역에 몰려 있다'거나 '배경 통계는 느리게 변한다'는 가정 위에 서 있다. 논문이 세운 클러터 모델은 그 가정을 정면으로 흔든다. 산란체가 무작위로 흩어져 있고 도플러 확산이 제각각이면, 걸러야 할 대상과 남겨야 할 대상의 경계가 통계적으로 흐려진다.

잔차와 어텐션: 지도학습으로 표적을 살리기

저자들이 제안하는 것은 클러터를 '지우는' 대신 표적 응답을 '살리는' 방향의 딥러닝이다. 잔차(residual) 구조를 갖춘 심층 신경망에 어텐션(attention)을 더한 아키텍처가, 클러터로 오염된 관측으로부터 표적 응답을 직접 강화하도록 학습된다. 잔차 연결은 네트워크가 전체 신호를 새로 그리지 않고 '원본에서 무엇을 더하고 뺄지'를 배우게 하고, 어텐션은 표적이 있을 법한 특징에 가중치를 몰아준다.

논문은 이 방식이 다양한 클러터 조건에서 표적 위치와 속도 추정 모두에서 전통적 접근을 '상당히 능가한다(substantially outperform)'고 주장한다. 여기서 중요한 것은 지표의 성격이다. 분류 정확도가 아니라 위치 오차와 속도 오차, 즉 회귀 문제의 오차를 다룬다. 클러터 억제가 잘 됐는지는 결국 '얼마나 정확한 좌표를 냈는가'로 판정되므로, 이 지표 선택은 합리적이다.

ILA 2018에 전시된 헨솔트 트윈비스(Twinvis) 수동 레이더. 자체 송신기 없이 주변 전파의 반사만으로 물체를 탐지하는 장비로, ISAC가 지향하는 '기회 신호 센싱'의 실물 사례다 — Matti Blume, CC BY-SA 4.0 (Wikimedia Commons)

반론: 딥러닝이 정말 강건한가

가장 먼저 나올 반론은 일반화다. 신경망은 학습한 클러터 분포에서는 강하지만, 처음 보는 환경에서는 무너질 수 있다. 도심 고층 빌딩가에서 학습한 모델이 교외 주차장이나 항만에서 같은 성능을 낼 보장은 없다. 논문은 '다양한 클러터 조건(diverse clutter conditions)'에서의 우위를 보고하지만, 그 다양성이 훈련 분포 안에서의 다양성인지 분포 밖 일반화인지는 구분해서 읽어야 한다.

두 번째 반론은 해석 가능성과 지연 시간이다. 레이더 신호처리는 왜 그 좌표가 나왔는지 추적할 수 있어야 하는 응용(항공 교통, 자율주행 안전 검증)이 많다. 심층망은 이 추적을 어렵게 만든다. 또 통신 신호는 연속적으로 흘러 들어오므로, 프레임마다 신경망 추론을 돌리는 비용이 실시간 예산 안에 들어오는지도 별도 문제다. 논문의 초점은 억제 성능 자체에 있으므로, 이 두 비용은 본문에서 정면으로 다뤄지지 않는다.

세 번째 반론은 비교의 공정성이다. 전통 기법들은 저자들이 세운 특정 클러터 모델에 맞춰 튜닝되지 않았을 수 있다. 반대로 신경망은 그 모델로 학습된다. 이 비대칭은 딥러닝 논문에서 반복적으로 지적되는 지점이고, 저자들이 베이스라인을 폭넓게 세운 것도 이 의심을 줄이려는 시도로 읽힌다.

논문이 스스로 인정한 한계

이 논문은 시뮬레이션 기반 연구다. 클러터는 실제 도시에서 측정한 것이 아니라 무작위 산란체 모델로 합성된다. 실제 환경의 반사는 벽의 재질, 젖은 노면, 유리 커튼월, 사람의 군집 같은 요소에 따라 훨씬 복잡하게 나타난다. 모델이 아무리 정교해도 측정 데이터로 검증되기 전까지는 가정 위의 성능이다. 논문의 결론도 이 범위 안에서 읽어야 한다.

또 하나 분명한 것은 이 프레임워크가 '5G와 그 이후(beyond)'를 전제한다는 점이다. 상용 5G 망에서 센싱을 하려면 사업자의 파형 정보 공유, 자원 할당, 프라이버시 규제라는 비기술적 조건이 함께 풀려야 한다. 기지국이 이웃집 거실의 움직임까지 감지할 수 있다는 것은 기술적 성취이자 동시에 사회적 쟁점이다. 논문은 이 지점을 기술 범위 밖으로 두지만, 실제 배치에서는 이것이 성능만큼 중요한 변수다.

독자에게

이 논문이 흥미로운 이유는 성능 수치가 아니라 문제 설정에 있다. 센싱의 적은 표적의 희미함이 아니라 주변의 밝음이다. 그리고 그 밝음은 우리가 사는 환경 그 자체다. 도시가 복잡해질수록 레이더는 더 좋은 안테나가 아니라 더 나은 '무시하는 능력'을 필요로 한다.

여러분이라면 어느 쪽을 신뢰하겠는가. 원리가 추적 가능한 고전 필터, 아니면 더 정확하지만 왜 그 답이 나왔는지 설명하지 못하는 신경망. 그리고 통신 기지국이 동시에 센서가 되는 세상에서, 우리는 무엇을 '잡음'이라 부르고 무엇을 '정보'라 부르게 될까.

참고 자료

Yalin E. Sagduyu, Tugba Erpek, Sastry Kompella, 'Multistatic ISAC with Deep Learning-Based Clutter Suppression for 5G and Beyond', arXiv:2610.40586v1 (2026-10-29).
https://arxiv.org/abs/2610.40586v1

이미지: 5G 기지국 안테나 — Yumikember, CC BY-SA 4.0, via Wikimedia Commons. 헨솔트 트윈비스 수동 레이더 — Matti Blume, CC BY-SA 4.0, via Wikimedia Commons.