AI는 이미 똑똑한데 왜 내 하루는 그대로인가 — 59쪽짜리 논문이 제안한 '인지 공생체'와 인지 격차 (arXiv 2611.05376)

어느 연구자의 하루를 논문은 이렇게 적는다. 아침에 혼자 일하다 떠오른 아이디어가 적기 전에 사라진다. 오후 회의에서 동료가 3년 전에 낸 결과의 숫자를 묻는데 기억나지 않는다. 저녁에 결정을 앞두고, 비슷한 결정을 지난번에 어떻게 내렸는지 떠올리지 못한다. 여기에 두 장면이 더 붙는다. 낯선 나라에서 초대를 정중히 거절하는 법을 모르는 방문객, 그리고 방금 실패한 사람에게 필요한 한 문장 대신 일반적인 위로 문단을 받는 사람이다.

옥스퍼드의 Hao Fei가 2026년 11월 3일 arXiv에 올린 59쪽짜리 관점 논문(perspective)은 이 다섯 장면이 지능의 실패가 아니라고 말한다. 앞의 셋은 접근의 실패, 곧 이미 가지고 있는 것이 필요한 순간에 도착하지 못한 것이고, 뒤의 둘은 그 자리에서 혼자서는 메울 수 없는 지식과 지지의 빈틈이다. 관련 지식을 가진 AI는 이미 어딘가에 존재한다. 다만 그 AI가 그 사람이 누구인지, 어디에 있는지, 무엇을 하려는지, 무엇을 느끼는지 모른 채 상황 바깥에 서 있다. 논문이 던지는 한 문장은 이것이다. 지능을 더 만드는 일과 별개로, 특정한 한 사람이 지금 발휘할 수 있는 지능을 올리는 일이 남아 있다.

인지 격차 — 논문이 세운 하나의 불변량

논문은 구호를 정의 다섯 개로 바꿔 놓는다. 사람 h의 자기 맥락(self-context)은 그 사람의 상황에 관계되는 모든 사실의 집합이다. 겪은 일, 아는 것, 약속한 것, 누구와 어떤 관계인지, 몸의 상태, 지금 있는 곳과 하는 일이 여기 들어간다. 그런데 어느 순간 그가 실제로 끌어다 쓸 수 있는 부분은 작업기억, 주의, 시간, 감정에 눌린 작은 부분집합이다. 논문은 이 둘의 차이를 인지 격차로 정의하고, 특정 상황 x에서 온전한 자기 맥락으로 달성할 결과와 지금 쥔 작은 부분으로 달성하는 결과의 차이, G = U(x; C) − U(x; c)로 적는다.

이 정의가 논문의 성격을 결정한다. 격차는 모델의 크기로 줄어드는 값이 아니라, 모델과 한 사람 사이의 결합(coupling)이 얼마나 촘촘한지로 줄어드는 값이다. AI가 고립된 과제에서 보이는 능력은 계속 올라가는데 그 AI가 특정인에 대해 아는 것, 개입하는 속도, 방해하는 정도, 신뢰받는 정도는 거의 평평하다는 것이 논문의 진단이다. 그 사이 벌어진 영역을 논문은 한 번도 실현되지 않은 증강이라고 부른다. 다만 논문 스스로 밝히듯 이 곡선은 측정값이 아니라 개념적 스케치이고, 이 논문은 벤치마크 수치를 하나도 보고하지 않는다.

여섯 가지 성질은 서로를 잡아당긴다

논문이 요구하는 시스템의 이름은 인지 공생체(cognitive symbiont)다. 조건은 여섯 가지다. 평생(lifelong) 하나의 관계와 기억을 해마다 이어갈 것, 몸에 붙어 있을 것(embedded), 활동이 아직 진행 중일 때 개입할 것(real-time), 둘 사이에 오간 것이 둘의 것으로 남을 것(private), 휴대폰을 꺼내거나 배경을 설명하라고 요구하지 않을 것(low-friction), 묻지 않았을 때 말할지 스스로 판단할 것(proactive). 논문은 이를 아이언맨의 자비스를 기준선 삼아 ‘자비스 테스트’로 부른다. 영화 속 자비스는 여섯 조건을 모두 통과하지만, 논문이 만들려는 것은 특정 한 사람의 맞춤형이 아니라 모두의 자비스이며, 그 여섯 걸음 더 나아간 것이다.

흥미로운 대목은 이 성질들이 서로 충돌한다는 자인이다. 능동성은 부드러움과 싸우고, 평생성은 프라이버시와 싸운다. 먼저 말을 거는 시스템은 필연적으로 방해가 되고, 수년치 기록을 쌓는 시스템은 유출됐을 때 잃는 것이 수년치다. 논문은 이 긴장을 설계의 부산물이 아니라 연구 문제 자체로 놓는다. 그래서 논문이 그리는 루프에는 감각하기, 간직하기, 이해하기, 곁에 살기, 대신하고 함께 생각하기, 자라기가 순서대로 놓이고, 그 아래에 개인 런타임이, 둘레에 신뢰가 감싼다.

몸이 없으니 감각을 빌린다

로봇은 눈과 귀와 입을 가지고 태어나지만 공생체는 자기 몸이 없다. 그래서 세 가지를 빌린다. 사람의 몸에 붙은 센서로 그가 보는 것을 보고 듣는 것을 듣고, 화면과 문서와 코드와 메시지에 남은 디지털 흔적을 읽고, 이어폰 속 목소리나 안경 위의 한 줄처럼 그 사람만 받는 채널로 말한다. 논문이 상정하는 것은 단일 기기가 아니라 안경, 펜던트, 이어버드, 속삭임 마이크, 반지와 밴드, 휴대폰이 이루는 기기 성좌다. 카메라가 달린 안경 한 벌로는 어디서나 쓸 수 있는 공생체가 되지 않는다는 뜻이다.

1980년부터 1990년대 말까지 웨어러블 컴퓨터가 어떻게 몸에 붙어 작아졌는지 보여주는 사진 — Glogger, CC BY-SA 3.0 (Wikimedia Commons)

여기서 논문은 자신의 야심을 스스로 깎는다. ‘모두가 하루 종일 기기를 착용해야 한다’는 주장이 아니라고 명시하고, ‘온종일’을 연속 계산이 아니라 가용성으로 읽으라고 요구한다. 비용 구조도 그렇게 설계된다. 평소에는 저전력 온디바이스 모델이 사건만 감지하고, 몇 개의 사건이 무거운 모델을 깨우며, 밤은 통합에 쓴다. 경제성은 모델 크기가 아니라 듀티 사이클이 결정한다는 것이 논문의 계산이다. 그래서 논문은 언제나 켜져 있는 공생체가 신뢰받기보다 먼저 값싸질 것이라고 예측한다.

침묵도 출력이다 — 반직관적인 설계 결정

대부분의 비서 설계는 ‘얼마나 많이 도울 수 있는가’를 목표로 삼는다. 이 논문은 정반대를 요구한다. 루프의 ‘곁에 살기’ 단계에서 시스템이 낼 수 있는 출력은 침묵, 힌트, 제안, 질문, 실행 다섯 가지이며, 침묵은 형식적 출력으로 취급된다. 개입 정책이 답해야 하는 것은 ‘무엇을 말할까’가 아니라 지금 말해야 하는가이고, 논문은 이를 빠른 루프와 느린 루프의 두 대화로 나눈다. 즉각 반응하는 층과, 며칠에 걸쳐 상황을 재는 층이 따로 돈다는 것이다.

이 결정은 앞의 인지 격차 정의와 정확히 맞물린다. 격차는 ‘도움을 더 주면 줄어드는 값’이 아니다. 타이밍이 틀린 도움은 격차를 줄이지 않고 주의를 빼앗아 오히려 키운다. 그래서 논문이 스스로 든 반증 조건 중 하나가 ‘적시 개입이 단순한 요청형 응답보다 낫지 않다면 이 주장은 좁혀져야 한다’는 것이다. 화려한 자율성 대신 ‘말하지 않을 권리’를 시스템의 1급 기능으로 올린 셈이다.

신뢰는 기능이 아니라 구조다

논문이 보는 가장 큰 장애물은 기술이 아니다. 사람들이 자신의 맥락 전체를 열어줄 만큼 안전하다고 느낄지의 문제이고, 그래서 신뢰를 아키텍처의 일부로 다룬다. 핵심 도구는 신뢰 곡선이다. 데이터 권한은 데스크톱과 텍스트에서 시작해 음성과 캘린더, 1인칭 시청각, 생리 신호, 생각의 사적 채널 순으로 계단처럼 올라가고, 각 단계마다 시스템이 먼저 증명해야 할 것이 있다. 행동 권한도 따로 계단을 오른다. 보기, 제안하기, 초안 쓰기, 되돌릴 수 있는 실행, 최종 실행 순이다.

스티브 만이 안구 부착형 디스플레이 ‘글래스아이(EyeTap)’와 머리에 쓴 메시형 웨어러블 장치를 착용한 모습 — Glogger, CC BY-SA 3.0 (Wikimedia Commons)

이 곡선에는 두 가지가 붙는다. 첫째, 낮은 단계에서도 쓸모가 있어야 한다. ‘전부 내놓으면도와주겠다’는 제안은 처음부터 성립하지 않는다. 둘째, 곡선은 내려갈 수 있다. 유출이 일어나면 권한은 한 단계 후퇴하고 다시 벌어야 한다. 다만 논문은 냉정하게 덧붙인다. 후퇴는 추가 노출을 줄일 뿐 이미 빠져나간 것을 되돌리지는 못한다. 그래서 가장 사적인 데이터는 기기 안에 남긴다. 공생체의 행동 강령도 여섯 줄로 정리된다. 허락받은 것만 알 것, 지나가는 충동이나 제3자가 아니라 숙고한 뒤의 그 사람 이익에 답할 것, 주변 사람의 프라이버시까지 지킬 것, 조종하지 말 것, 멈출 수 있고 고칠 수 있고 떠날 수 있게 할 것.

같은 프라이버시가 부정행위를 숨긴다

논문에서 가장 날카로운 반전은 여기다. 사람과 공생체 사이의 대화를 남에게서 지키는 그 프라이버시가, 동시에 감독관과 면접관과 친구로부터 도움 자체를 숨긴다. 프라이버시와 부정행위가 서로 반대편에 있는 것이 아니라 같은 구조적 성질의 두 얼굴이라는 진단이다. 논문은 그래서 평가를 세 종류로 쪼갠다. 혼자서 해야 하는 능력을 증명하는 시험, 직장처럼 도구를 쓰고 성과를 내는 평가, 학습 피드백. 두 번째에서 정당한 공생체는 첫 번째를 무력화하고 세 번째를 비울 수 있다. 하나의 규칙으로는 안 된다.

사례도 구체적이다. 2025년 ‘무엇이든 부정행위를 돕는다’는 문구로 1,500만 달러를 유치한 스타트업 클루얼리(Cluely)가 있고, 중국의 대학 입시 기간에는 챗봇 제공사들이 기능을 껐다. 안경 하나로 낯선 사람의 신원을 알아내는 시연(I-XRAY)도 이미 있었다. 논문의 답은 ‘사적 내용, 공개 가능한 상태’다. 내용은 사적이되, 도움을 받고 있다는 사실은 설정에 따라 기기에 표시하고 물으면 사실대로 답한다. 상대방 추론에는 더 엄격하다. 낯선 사람은 식별하지 않고, 직장과 교육기관에서의 감정 추론은 유럽연합이 금지한다. 논문은 이 금지가 기술적 비용을 만든다고 인정한다. 얼굴은 기기에 등록된 연락처와만 대조하고 일치하지 않으면 즉시 버리지만, 화면에 들어온 모든 얼굴을 살펴봐야 한다는 부담은 남는다.

논문이 스스로 든 반증 조건

이 글의 신뢰도는 결론보다 논문이 스스로에게 건 조건에서 나온다. 논문은 다음이 성립하면 자기 주장을 좁혀야 한다고 적는다. 개인 맥락을 더 줘도 대부분 과제에서 측정 가능한 이득이 없을 때, 적시 개입이 요청형 응답보다 나을 게 없을 때, 오래 쓰면 사람이 지키고 싶어 하는 능력이 오히려 닳을 때, 감시와 계산 비용이라는 받아들일 수 없는 대가를 치를 때만 가치가 생길 때, 사람들이 데스크톱 이상의 권한을 아예 허락하지 않을 때, 기반 모델을 바꾸면 관계가 매번 끊길 때. 여기에 두 가지가 더 붙는다. 면제 증명이 신뢰할 만하게 작동하지 않아 공생체와 부정행위 도구를 구별할 수 없을 때, 그리고 증강의 이득이 대부분 상대적 지위에서 나와 모두가 쓰면 군비경쟁만 남을 때다.

논문 스스로 밝힌 한계도 분명하다. 이것은 실험이 없는 관점 논문이고, 그림은 개념도이며, 수치는 보고되지 않는다. 생각을 읽는 것은 명시적으로 포기한다. 완전한 맥락이 작동의 전제조건이라거나, 공생체가 모든 영역에서 사람을 앞선다거나, 네 가지 역할이 역사적 필연이라거나, 어떤 기반 모델이 유일한 정답이라는 주장은 하지 않는다. 대신 남기는 것은 하나의 기준이다. 이 패러다임이 성공했다는 징표는 그 사람이 자기가 되고 싶던 사람에 더 가까워졌다는 것이고, 누구도 그것을 AI가 사람에 가까워진 것으로 착각하지 않는 것이다.

참고 자료

Hao Fei, From Autonomous Agents to Cognitive Symbionts: Toward AI-Augmented Human Intelligence, arXiv:2611.05376v1 [cs.CL], 2026년 11월 3일, 59쪽·그림 21개·표 18개. https://arxiv.org/abs/2611.05376v1 · 프로젝트 페이지 https://cognitive-symbiont.github.io

논문이 참조하는 선행 연구 중 이 글에 등장한 것: Licklider, Man-Computer Symbiosis (1960); Engelbart (1962); Weiser (1991); Starner 등 (1997); Mann (1997); Clark & Chalmers, The Extended Mind (1998); Horvitz (1999).

그럼 여러분이라면, 하루 종일 켜져 있으면서 방해하지 않는 것을 첫 번째 조건으로 삼는 비서에게 어디까지 맡기시겠습니까. 그리고 그 비서가 ‘지금은 말하지 않겠다’고 판단했을 때, 그 침묵이 배려인지 방치인지 우리는 어떻게 구별할 수 있을까요.