같은 행동, 다른 메커니즘: 작은 네트워크가 의식 측정의 한계를 숫자로 보여줬다

유닛 네 개가 서로를 확률적으로 켜고 끄는 아주 작은 네트워크를 상상해 보자. 2026년 11월 5일 arXiv에 올라온 논문 Same Behavior, Different Mechanism(arXiv:2611.08469)은 정확히 그 규모에서 출발한다. 유닛 4개, 때로는 5개. 상태 전이 법칙을 저자들이 완전히 알고 있는, 다시 말해 정답이 존재하는 세계다. 이 장난감 위에서 논문은 훨씬 큰 질문을 겨눈다. 어떤 시스템이 ‘무엇을 계산하는지’를 실험만으로 증명할 수 있는가. 답은 뜻밖에 작은 숫자들에서 갈린다. 0.28비트와 0비트, 그리고 4회에서 53회 사이의 시행.

정답을 아는 세계에서 던진 질문

논문이 다루는 양은 통합정보이론(IIT)의 φ(파이)다. IIT에서 φ는 시스템이 자기 자신에게 인과적 힘을 행사하는 정도, 곧 ‘하나로 통합된 정도’를 재는 값으로 제안된다. 문제는 φ가 출력이 아니라 메커니즘의 성질이라는 점이다. 행동만 관찰해서는 원리적으로 보이지 않을 수 있는 종류의 양이다. 게다가 실험은 그 메커니즘을 유한하고, 부분적이고, 잡음 섞인 개입을 통해서만 들여다본다.

그래서 저자들은 세 가지를 구분해 묻는다. 주어진 실험의 접근 범위 안에서 그 양이 식별 가능한가(identifiability), 메커니즘이 조금 흔들려도 값이 연속적으로 변하는가(continuity), 그리고 유한한 데이터에서 확실하게 인증할 수 있는가(certifiability). 추상적인 철학 논쟁을, 계산으로 답이 나오는 설계 문제로 바꿔 놓은 셈이다.

행동은 침묵할 수 있다

첫 번째 결과가 이 글의 제목이기도 하다. 같은 행동, 다른 메커니즘. 저자들은 순환(recurrent) 네트워크와 순전파(feed-forward) 네트워크 한 쌍을 제시한다. 두 네트워크는 응답 지연 시점의 입출력 법칙이 동일하다. 밖에서 입출력만 본다면 구별할 방법이 없다. 그런데 φ 값은 각각 0.28비트와 0비트다. 하나는 통합되어 있고 하나는 전혀 아니다.

여기서 반전이 하나 더 있다. 구별이 불가능한 것이 아니다. 내부 기록을 조금만 들여다보면 두 네트워크는 4회에서 53회 사이의 시행 안에 갈라진다. 즉 ‘행동만으로는 영원히 모른다’와 ‘내부를 보면 금방 안다’가 동시에 참이다. 의식이나 해석가능성 논쟁에서 흔히 나오는 ‘관찰 가능한 행동이 전부’라는 태도는, 이 장난감 안에서도 성립하지 않는다.

통합정보이론의 공리와 공준 도표. φ가 무엇을 재려는 값인지 보여준다 — Giulio Tononi, Christof Koch, CC BY 4.0 (Wikimedia Commons)

보지 않은 유닛은 정밀도의 바닥을 만든다

그렇다면 내부를 다 보면 되는가. 아니다. 두 번째 결과는 부분 접근의 한계다. 한 단계 기록에서 특정 유닛들을 빼놓으면, 그 누락이 정밀도의 바닥을 만든다. 저자들이 든 예에서 그 바닥은 0.30비트에서 1.02비트 사이다. 중요한 것은 이 바닥이 표본을 늘려도 내려가지 않는다는 점이다. 시행을 백만 번 해도, 관측되지 않은 유닛이 남기는 모호함은 사라지지 않는다.

이건 단순한 ‘데이터가 부족하다’와는 다른 이야기다. 데이터의 양이 아니라 실험의 접근 구조가 정하는 한계다. 그래서 논문의 표현대로 측정 가능성은 통계 문제가 아니라 설계 문제가 된다. 무엇을, 언제, 얼마나 개입해서 기록할지를 정하는 순간 상한과 하한이 함께 정해진다.

대칭은 정보를 곱으로만 흘린다

더 흥미로운 사례는 all-but-self 패리티 네트워크다. 이 구조에서 기록을 아무리 길게 늘여도, 숨은 유닛 여러 개는 각자의 충실도(fidelity)의 ‘곱’을 통해서만 보인다. 개별 값이 아니라 곱만 관측되는 것이다. 곱이 0에 가까워지면 개별 값이 아무리 커도 정보는 사라진다. 길이가 아니라 구조가 정보를 막는다.

저자들은 여기서 대칭이 깨지면 상황이 달라진다는 것을 정확한 계산으로 확인했다. 개입 하나가 그 대칭을 깨뜨리면, 곱으로 뭉개져 있던 값들이 개별적으로 드러난다. 같은 데이터 양, 같은 네트워크, 다른 개입. 실험 설계가 정보의 존재 자체를 바꾸는 사례다.

φ의 날카로운 모서리

세 번째는 측정 대상 자체의 성질이다. φ는 어떤 분할(partition)을 고르고, 그 분할이 지정하는 원인과 결과를 하나의 기준으로 정한 뒤, 다른 기준으로 보고한다. 그 결과 값의 지형에 ‘모서리’가 생긴다. 메커니즘이 무한히 조금 변해서 그 모서리를 넘으면 φ가 25%에서 100%까지 뛴다. 저자들이 무작위 네트워크에서 찾은 모서리의 99%가 그런 식이었다.

이어진 결과가 더 불편하다. 개입 데이터를 거의 완벽하게 맞추는 대리 모델(surrogate model) 가운데 약 1%는 φ를 20% 넘게 잘못 보고했다. 데이터에 잘 맞는 모델이 메커니즘 수준의 양은 틀리게 말할 수 있다는 뜻이다. 적합도는 정체성의 증거가 아니다.

네트워크 구조에 따라 달라지는 φ 값의 예. 같은 유닛 수라도 연결 구조가 값을 크게 바꾼다 — Giulio Tononi, CC BY 2.0 (Wikimedia Commons)

경쟁 가설과 반론

가장 먼저 나올 반론은 ‘그럼 φ는 측정 불가능한 허구 아닌가’다. 논문은 여기서 한 걸음 물러서서 방향을 바꾼다. 양측 주장을 포기하고 단측 주장만 남기는 것이다. 같은 데이터로 모서리의 양쪽 모두에서 하한(lower bound)을 인증할 수 있다는 것이 저자들의 답이다. 정확한 값을 모른 채 ‘적어도 이만큼’은 말할 수 있다.

구체적으로 저자들은 64차원 메커니즘 영역 전체에서 φ가 1.004비트보다 크다는 것을 증명하고, 그것을 약 10^7회의 통제된 전이로 인증한다. 거짓 인증 확률은 α 이하다. 다른 경쟁 가설, 즉 ‘행동주의적으로 충분하다’거나 ‘내부 기록이면 충분하다’는 입장은 각각 첫 번째와 두 번째 결과에서 반례를 만난다. 다만 이 반례들은 4~5개 유닛의 확률적 네트워크에서 구성된 것이지, 실제 신경계나 대형 모델에서 측정된 것이 아니다.

논문이 스스로 인정한 한계, 그리고 남는 질문

저자들이 명시한 범위는 좁다. 유닛 4~5개의 확률적 네트워크, 정답을 아는 시뮬레이션, 그리고 IIT의 φ라는 특정한 양이다. 64차원 영역과 10^7회 전이는 인상적이지만 여전히 계산 가능한 장난감 세계 안의 규모다. 실제 뇌나 프런티어 모델에서 같은 인증이 가능한지는 논문이 답하지 않는다. 또한 ‘1%의 대리 모델이 20% 넘게 틀린다’는 수치는 저자들이 찾은 사례들에 대한 것이며, 모든 모델 군에 대한 보편 주장은 아니다.

그래도 남는 교훈은 분명하다. 측정 가능성은 형이상학적 논쟁이 아니라 설계 변수다. 무엇을 개입하고 무엇을 기록할지 정하는 일이 곧 ‘무엇을 알 수 있는가’를 정한다. 그리고 행동이 같다는 사실은 메커니즘이 같다는 증거가 아니다. 독자에게 묻고 싶다. 만약 어떤 시스템의 내부 기록을 단 한 번만 볼 수 있다면, 당신은 어느 유닛을 고르겠는가. 그 선택이 당신이 얻을 수 있는 답의 상한을 이미 정하고 있다.

참고 자료

Linqian Wu, Diaoxuan He, Same Behavior, Different Mechanism: What Finite Experiments Can Certify About Integrated Information, arXiv:2611.08469 (2026-11-05).

https://arxiv.org/abs/2611.08469