물리학으로 심리학을 계산할 수 없는 이유 — 창발을 모형이론으로 다시 쓰기

화학 교과서 맨 앞장에는 늘 같은 약속이 적혀 있다. 물질은 원자로 이루어져 있고, 원자의 상호작용은 양자역학이 정확히 기술하므로, 화학은 결국 물리학의 계산 문제일 뿐이라는 약속이다. 그 약속대로라면 신경세포의 전기 신호는 물리 법칙으로 다 풀리고, 그 신경세포들이 모인 뇌에서 나오는 심리 현상도 같은 방식으로 풀려야 한다. 그런데 실제 연구 현장에서는 그 계산을 아무도 하지 않는다. 못 해서가 아니라, 하더라도 아무것도 얻지 못한다는 것을 모두가 알고 있기 때문이다. 데이비드 월퍼트와 데이비드 크라카우어가 2026년 11월 4일 arXiv에 올린 논문 「The Logic of Emergence」는 이 불편한 사실을, '창발(emergence)'이라는 다소 뭉개진 단어 대신 수리논리학의 언어로 다시 쓰자고 제안한다.

서로 다른 층위에는 서로 다른 언어가 필요하다

논문이 붙잡는 문제는 이것이다. 서로 다른 공간적·시간적 규모에서 작동하는 과학 이론들을 기술하려면, 서로 다른 수학적 언어와 이론 체계가 필요한 것처럼 보인다. 유전학을 기술하는 언어와 양자화학을 기술하는 언어는 어휘도, 추론 규칙도, 무엇이 '설명'인지에 대한 기준도 다르다. 창발이라는 말은 흔히 이 간극을 가리키는 손짓으로 쓰이지만, 손짓만으로는 왜 그 간극이 메워지지 않는지, 메워질 수는 있는 것인지 말해 주지 못한다.

저자들이 택한 도구는 모형이론(model theory)이다. 모형이론은 어떤 형식 언어로 쓴 문장들의 집합과, 그 문장들을 참으로 만드는 구조(structure) 사이의 관계를 다룬다. 요컨대 '이론'과 '그 이론이 기술하는 세계'를 각각 기호 체계와 집합 구조로 바꿔 놓고, 두 체계 사이에 어떤 번역이 가능하고 어떤 번역이 불가능한지를 증명 가능한 형태로 묻는 것이다. 창발에 대한 기존의 논의가 사례별 비유에 머물렀다면, 이 논문은 그 비유들을 하나의 형식적 틀 안에 올려놓으려 한다.

겨울 하늘의 찌르레기 떼 — 개체는 자기 이웃 몇 마리의 움직임만 따르지만, 무리는 어느 개체도 계획하지 않은 형태를 만든다. Skander zarrad, CC BY-SA 4.0 (Wikimedia Commons)

이미 조각조각 연구돼 있던 것들을 한 틀에 올리기

창발을 형식화하려는 시도가 이 논문에서 처음 시작된 것은 아니다. 공간이나 시간을 거칠게 묶는 코스-그레이닝(coarse-graining), 규모가 달라져도 형태가 유지되는 현상을 다루는 재규격화(renormalization), 자유도를 줄여 더 적은 변수로 기술하는 차원 축소, 대칭성이 깨지며 새로운 질서가 나타나는 현상, 그리고 여러 갈래로 발전한 인과성 개념들이 각각 부분적으로 이 문제를 건드려 왔다. 논문은 이 도구들이 다루던 특수한 사례들을 모형이론의 언어로 통합하고 확장한다고 주장한다.

구체적인 적용 사례로 논문이 드는 것은 세 가지다. 화학에서 유전학이 출현하는 것, 신경생물학에서 심리학이 출현하는 것, 그리고 구성 요소들의 법칙에서 여러 형태의 집단 행동이 출현하는 것이다. 이 목록 자체가 논문의 야심을 보여 준다. 분자 생물학의 문제와 심리학의 문제를 같은 형식 체계로 취급하겠다는 것이기 때문이다. 물론 이 단계에서 논문이 제시하는 것은 완성된 정리가 아니라 '예비적 적용(preliminary application)'이다. 저자들도 이 점을 숨기지 않는다.

과학 분야들은 하나의 사다리가 아니다

논문에서 가장 흥미로운 부분은 분야들 사이의 관계에 대한 결론이다. 흔히 우리는 물리학 위에 화학이, 화학 위에 생물학이, 생물학 위에 심리학이 놓인 하나의 사다리를 상상한다. 논문은 모형이론의 힘을 빌려 이 그림이 지나치게 단순하다는 것을 보여 준다. 서로 다른 과학 분야들이 하나의 집합 위에 정의된 여러 개의 부분 순서(partial order)들의 모임으로 관계 맺어질 수 있다는 것이다.

부분 순서란 모든 원소 쌍이 비교 가능할 필요가 없다는 뜻이다. 다시 말해 어떤 분야 A가 B보다 '더 근본적'이라고 말할 수 있는 경우도 있지만, A와 B를 근본성으로 줄 세울 수 없는 경우도 얼마든지 있다. 하나의 사다리가 아니라, 같은 대상 위에 겹쳐 놓인 여러 개의 서로 다른 순서표라는 그림이다. 이는 '환원'과 '창발'을 둘러싼 논쟁이 왜 그렇게 자주 평행선을 달리는지 설명해 준다. 논쟁하는 두 사람이 서로 다른 순서표를 들고 있을 수 있기 때문이다.

세포성 점균 Dictyostelium discoideum의 자실체. 개별 아메바처럼 살던 세포들이 모여 다세포 구조를 만든다. jeff smith, CC BY-SA 4.0 (Wikimedia Commons)

반직관적인 결론: 순환을 허용하면 모든 분야가 하나가 된다

논문의 진짜 반전은 여기서 나온다. 저자들은 분야들 사이의 관계를 정의하는 방식을 하나 바꿔 본다. 순환을 허용하지 않는 관계 대신, 순환을 허용하는 대안적 관계를 쓰면 어떻게 되는가. 결론은 놀랍다. 그 관계 아래에서는 모든 과학 분야의 집합이 단 하나의 과학 분야로 붕괴할 수 있다는 것이다.

이 결과는 형식적 가능성에 대한 진술이지, 현실의 과학이 실제로 그렇게 되어 있다는 주장이 아니다. 그러나 함의는 무겁다. 'A가 B로부터 창발한다'는 말을 어떤 관계로 정의하느냐에 따라, 위계는 풍성한 다층 구조가 되기도 하고 아무 구조도 없는 한 덩어리가 되기도 한다. 창발 논쟁에서 정의를 먼저 명시하라고 요구하는 것은 지나친 형식주의가 아니라, 결론이 뒤집히지 않게 하기 위한 최소한의 절차인 셈이다.

경쟁 가설과 반론

가장 먼저 나올 반론은 '이건 창발을 설명한 것이 아니라 이름만 바꿔 부른 것'이라는 것이다. 코스-그레이닝이나 재규격화로 이미 다루던 현상을 모형이론의 어휘로 옮겼을 뿐, 새로운 예측을 내놓지는 않는다는 지적이다. 이에 대해 논문은 통합 자체가 성과라고 답한다. 서로 다른 도구들이 왜 서로 다른 결론에 도달했는지, 어떤 조건에서 같은 결론에 도달하는지를 하나의 틀에서 말할 수 있게 된다는 것이다.

두 번째 반론은 더 실질적이다. 모형이론은 이론과 구조 사이의 관계를 다루지만, 실제 과학의 어려움은 어떤 구조가 '옳은' 구조인지 판정하는 데 있다. 실험이 개입하고, 근사가 들어가고, 측정 오차가 있으며, 무엇보다 아직 모르는 변수가 있다. 형식적으로 깔끔한 위계가 실제 연구의 지저분한 역사와 어떻게 연결되는지는 논문이 아직 답하지 않은 부분이다. 창발을 믿지 않는 연구자라면, 이 틀이 '왜 우리가 아직 모르는가'와 '왜 원리적으로 알 수 없는가'를 구분하지 못한다고 반박할 것이다.

논문이 스스로 인정하는 한계

저자들이 직접 밝히는 한계는 분명하다. 이번 작업은 예비적 적용이며, 정전기적 사례들(canonical examples)을 다루는 데 그친다. 유전학과 화학, 심리학과 신경생물학 같은 사례는 논문이 택한 것이지만, 그 사례들에서 형식적 결론이 실제 과학 실천과 얼마나 정확히 맞아떨어지는지는 추가 작업이 필요하다. 논문은 앞으로 더 깊은 이해에 도달하려면 어떤 형식 도구를 새로 개발해야 하는지를 밝히는 것으로 끝을 맺는다. 즉 이 논문은 답이라기보다 지도에 가깝다.

또 하나 주의할 점은, 논문이 말하는 '과학 분야'가 제도로서의 학과가 아니라 이론 체계로서의 분야라는 것이다. 대학의 학과 배치나 연구비 배분이 이 위계 구조를 따른다고 읽으면 곤란하다. 형식적 결과를 현실의 학계 정치에 그대로 겹쳐 놓는 것은 논문이 하지 않은 주장이다.

독자에게 던지는 질문

그렇다면 남는 질문은 이것이다. 우리가 '심리학은 신경생물학으로 환원되지 않는다'고 말할 때, 우리는 실제로 무엇을 말하고 있는가. 계산이 너무 어렵다는 것인가, 원리적으로 불가능하다는 것인가, 아니면 애초에 서로 다른 언어를 쓰고 있어서 번역 자체가 성립하지 않는다는 것인가. 논문의 틀은 이 세 가지를 구분해 물을 수 있게 해 준다. 구분해서 물을 수 있게 되는 것만으로도, 오래된 논쟁의 절반은 정리되는 셈이다.

여러분은 어느 쪽인가. 화학은 결국 물리학의 계산 문제이고 우리가 게을러서 안 하고 있는 것인가, 아니면 층위가 바뀔 때마다 새로운 언어를 발명해야만 하는 진짜 단절이 있는 것인가. 혹시 두 입장을 모두 참이라고 느낀다면, 그 느낌 자체가 이 논문이 말하는 '여러 개의 부분 순서'의 경험이 아닐까.

참고 자료

David H. Wolpert, David C. Krakauer, 'The Logic of Emergence', arXiv:2611.06641v1 (physics.hist-ph), 2026년 11월 4일 제출. https://arxiv.org/abs/2611.06641

이미지: 찌르레기 떼 — Skander zarrad, CC BY-SA 4.0, Wikimedia Commons. Dictyostelium discoideum 자실체 — jeff smith, CC BY-SA 4.0, Wikimedia Commons.