Executive Summary
물리학과 복잡계를 연구하는 아홉 명이 LLM이 퍼지는 과정을 감염병 모형으로 옮겨 적었다. 방식은 뜻밖에 단순하다. 사람을 세 칸에 나눠 담는다. 안 쓰거나 어쩌다 쓰는 사람이 한 칸, 쓰기는 하되 읽고 쓰고 따지는 일은 여전히 자기 손에 두는 사람이 한 칸, 그 일까지 LLM에게 넘긴 사람이 한 칸이다. 그러고는 칸과 칸 사이를 오가는 비율에 항을 하나 더했다. 그 항 하나 때문에 그림이 달라진다. 문턱이 하나가 아니라 둘이 된다. 넘어갈 때 넘는 문턱과 돌아올 때 넘는 문턱의 값이 서로 다르고, 그 사이 구간에서는 조건이 똑같아도 인구가 두 상태 중 어디에 있어도 이상하지 않다. 한 사람씩 보면 천천히 물드는데, 집단으로 보면 어느 날 이미 넘어가 있을 수 있다는 이야기다. 논문이 스스로 꼽는 의의가 이것이고, 논문의 표현으로 예방은 복구보다 상당히 쉬울 수 있다.
정작 이 논문은 데이터를 한 건도 모으지 않았다. 대신 남이 해 둔 실험을 끌어다 쓴다. 그중 가장 힘이 센 것이 고교생 약 천 명을 대상으로 한 현장 실험이다. 흔한 챗봇처럼 생긴 도구를 쓴 학생은 그 도구가 손에 있는 동안 성적이 48% 올랐다. 여기까지는 반가운 소식이다. 그런데 도구를 거두자 애초에 써 본 적 없는 학생보다 17% 낮았다. 같은 AI라도 학습을 보호하도록 프롬프트를 짠 튜터를 쓴 학생에게는 그 하락이 거의 나타나지 않았다. 쓰느냐 마느냐가 아니라 어떻게 붙어 있느냐가 문제라고 논문이 말할 때, 그 말이 기대고 선 근거가 이 실험이다.
그런데 이 모델을 현실에 대 보려는 순간 벽에 부딪힌다. 파라미터 다섯 개 가운데 공개 통계로 어림이라도 되는 것은 둘뿐이다. 되돌아가는 비율과 회복률과 집단 강화, 이 셋은 어느 통계기관도 발표하지 않는다. 공교롭게도 계측이 있는 쪽은 전부 예방 쪽이고, 없는 쪽은 전부 복구 쪽이다. 회사가 쌓아 두는 AI 로그도 사정이 다르지 않다. 얼마나 썼는지는 재지만, 그 사람이 지금 어느 칸에 있는지는 재지 않는다. 이 논문을 검증하려면 세상에 아직 없는 종류의 데이터가 필요하다.
+48% → −17%
도구를 쓰는 동안과 거둔 뒤의 성적
고교생 약 천 명 현장 실험. 이 논문이 인용한 연구의 실측이고 이 논문이 잰 값이 아니다
5개 중 3개
공개 통계가 없는 파라미터
되돌아가는 비율, 회복률, 집단 강화. 셋 다 복구 쪽 손잡이다
0.40 ↔ 0.50
돌아오는 문턱과 넘어가는 문턱
논문이 예시로 고른 파라미터에서 나온 단위 없는 값. 그 사이가 되돌리기 어려운 구간이다
28.3% 대 54%
같은 해 미국의 생성형 AI 채택률
조사 정의만 달라도 두 배 가까이 갈린다. 채택률은 전파 압력 자체가 아니다
사람을 세 칸으로 나누고 화살표 넷을 그었다
제목부터 세게 나온다. 「Large-Language Models as a Cognitive Virus」. 2026년 9월 3일 arXiv에 올라왔고, 올라간 자리는 물리학 안의 사회물리 항목이다. 저자는 아홉 명, 무게 중심은 바르셀로나에 있다. 폼페우파브라대학교 복잡계 연구실과 ICREA, 진화생물학연구소, 신경공학 쪽 연구자들이 이름을 올렸고, 여기에 파도바대학교와 터프츠대학교 앨런 발견센터, 하버드 위스연구소가 붙는다. 아홉 명 중 셋은 산타페연구소를 겸한다. 본문은 12쪽, 참고문헌은 137건. 저널에 실린 판본은 아직 없다.
처음 이 논문을 열었을 때 제일 먼저 걸린 것도 제목의 그 낱말이었다. 바이러스. 그런데 막상 읽어 보면 LLM이 해롭다고 주장하는 글이 아니다. 저자들도 그렇게 읽힐 줄 짐작했는지 1절에서 미리 막아 둔다.
"The viral analogy does not imply that LLM-human interactions are intrinsically parasitic. Biological viruses range from pathogens to mutualists and evolutionary partners." (바이러스 비유는 LLM과 인간의 상호작용이 본질적으로 기생적이라는 뜻이 아니다. 생물학적 바이러스는 병원체에서 상리공생자, 진화의 동반자까지 걸쳐 있다.)
그러니까 빌려 온 것은 판단이 아니라 계산하는 방식이다. 감염병 연구는 사람들을 상태별로 칸에 나눠 담고, 칸 사이를 오가는 비율을 미분방정식으로 적는다. 이 논문도 같은 살림살이를 쓰되 칸은 셋만 두었다. 흔히 아는 감염병 모델과 달리 면역 칸이 없다. 한 번 앓고 나면 다시는 안 걸리는 병이 아니라, 갔다가 돌아올 수도 있는 자리들 사이의 이동을 그리는 그림이라서다.
남의 수식을 이렇게 빌려 쓴 선례도 논문이 함께 적어 둔다. 기술이 퍼지는 과정을 감염병 수식으로 옮긴 연구가 있고, 약물이나 소셜 미디어 중독을 여러 칸으로 나눠 적은 모형도 있다. 논문 2절에 그 계보가 줄줄이 나열돼 있다. 이 논문은 그 줄 끝에 하나를 더 세웠다.
그렇다면 이 이야기에서 바이러스는 대체 무엇일까. 제목에 그 낱말을 걸어 놓고도, 논문은 이 모델만으로는 그것을 정할 수 없다고 스스로 적는다.
"the fact that the state variables describe hosts does not imply that a host state is the pathogen. The equations model the epidemiology of coupling and therefore do not, by themselves, determine the identity of the viral analogue." (상태 변수가 숙주를 기술한다고 해서 숙주의 상태가 곧 병원체라는 뜻은 아니다. 이 식들이 모형화하는 것은 결합의 역학이며, 따라서 식만으로는 바이러스에 해당하는 것이 무엇인지 정해지지 않는다.)
답 비슷한 것은 5절 끝에 가서야 나온다. 문화적으로 퍼지는 사용 관행, 사람이 도구와 맺은 결합 상태, 제도와 기술 기반이 한데 얽힌 큰 생태계가 있고, 그 안에 박혀 오래 이어지는 기술 계보가 인지 바이러스에 해당한다는 정도다. 식이 다루는 것은 그 생태계의 한 겹뿐이다. 사람 쪽 상태가 어디로 움직이는지, 딱 거기까지다. 제목은 크게 걸어 놓고 말할 수 있는 범위는 시작부터 이렇게 좁혀 두었다.
1.1세 칸을 가르는 기준은 사용량이 아니다
첫째 칸은 LLM을 쓰지 않거나 어쩌다 한 번 쓰는 사람이다. 둘째 칸은 LLM을 쓰면서도 읽고 쓰고 따지고 확인하는 일은 자기 손에 남겨 두고, 다른 정보원도 함께 들춰 보는 사람이다. 셋째 칸은 그 일들을 LLM이 대신하게 된 사람이다. 논문이 붙인 이름은 차례로 비결합, 자율적 결합, 지속적 의존이다. 이름은 딱딱해도 뜻은 어렵지 않다.
정작 재미있는 대목은 둘째와 셋째를 가르는 잣대다. 사용 시간도 아니고 횟수도 아니다. 두 칸의 사람은 둘 다 LLM을 쓴다. 하루에 열 번을 물어보면서도 답을 받아 든 뒤 근거를 따로 확인하는 사람이 있고, 하루에 딱 한 번 물어보고 그 한 번으로 판단을 끝내는 사람이 있다. 모델은 이 둘을 횟수로 가르지 않는다. 어떤 일이 그 사람 손에 남아 있느냐가 칸을 정한다.
그 잣대를 적는 낱말은 둘뿐이다. 발판이냐, 대체냐. 발판은 지금 당장의 부담을 덜어 주면서도 그 일을 나중에 스스로 해낼 힘은 남겨 두거나 오히려 키운다. 대체는 그 일을 할 필요 자체를 없앤다. 같은 모델이라도 논거를 다시 세워 보고 따져 보는 상대로 쓰면 앞쪽이고, 정리하고 판단하고 쓰는 일까지 대신 끝내 주면 뒤쪽이다. 둘째 칸에서 셋째 칸으로 넘어간다는 말은 이 이동을 가장 단순하게 그린 것이다.
그러니 머리 쓰는 일을 바깥에 맡긴다는 것 자체를 나무랄 일은 아니다. 논문도 인지 위탁이 인간 인지의 정상적이고 흔히 유익한 구성 요소라고 적는다. 대표로 드는 예가 읽기와 쓰기다. 문해력은 원래 다른 일을 하던 신경 회로를 끌어다 다시 배치하고, 바깥에 적어 둔 기호가 기억을 늘리고 전에 없던 추론을 열어 준다. 갈리는 지점은 하나다. 바깥의 도움이 안쪽의 능력을 새로 만들어 주는가, 아니면 그 능력을 대신해 버리는가.
이 구분에는 이름도 이미 붙어 있다. 논문은 공저자 한 사람이 10년 전에 쓴 글을 따라, 능력을 보태 주는 인지 인공물과 능력과 겨루는 인지 인공물로 나눠 부른다. 그리고 어느 쪽인지 가리는 방법을 이렇게 적는다. 쓰느냐 안 쓰느냐를 보지 말고, 도구를 거뒀을 때 그 사람에게 무엇이 남아 있는지를 보라. 뒤에서 숫자와 함께 다시 만나게 될 잣대가 여기서 처음 나온다.
1.2칸 사이를 오가는 화살표 넷
칸이 셋이면 오가는 길은 넷이다. 비결합에서 자율적 결합으로 가는 길에 놓인 것은 노출이다. 옆자리 동료가 다 쓰고, 회사가 쓰라고 하고, 늘 쓰던 프로그램에 어느 날 버튼이 하나 생긴다. 논문은 그 세기를 묶어 전파 압력이라 부른다. 반대로 자율적 결합에서 비결합으로 돌아오는 길도 있는데, 이것이 이 글에서 가장 여러 번 나올 되돌아가는 비율이다. 자율적 결합에서 의존으로 넘어가는 길은 습관이 굳는 과정이다. 거꾸로 의존에서 자율적 결합으로 돌아올 때 작동하는 것은 훈련과 검증 관행, 그리고 논문의 표현으로 의도적인 인지적 마찰이다.
길을 넷만 그린 것도 선택이다. 비결합에서 곧장 의존으로 건너뛰는 화살표는 아예 그려 넣지 않았다. 의존은 대체로 규칙적인 사용을 한참 거친 뒤에 생긴다고 보았기 때문이다. 처음 써 본 날 바로 다 맡겨 버리는 사람은 이 그림에서 빠진다. 논문도 이것이 단순화라고 밝히면서, 그렇게 덜어 낸 대가로 전파와 집단적 보호 사이의 상호작용만 들여다본다고 적는다. 무엇을 지우고 무엇을 남겼는지가 이 모델의 성격을 정한다.
한 가지는 미리 못을 박아 두어야 한다. 전파 압력을 채택률로 바꿔 읽으면 안 된다. 논문은 전파 항을 실효적인 사회적·제도적 전파 압력으로 해석해야 한다고 본문에 적어 두었다. 몇 퍼센트가 쓰고 있느냐는 그 압력이 남긴 자국이지 압력 자체가 아니다. 이 구분이 실무에서 왜 자꾸 무너지는지는 뒤에서 채택률 통계를 나란히 놓고 다시 보겠다.
논문 Figure 1(a)의 상태 전이 구조를 우리가 다시 그린 것이다. 상태 이름과 화살표의 뜻은 해당 그림의 캡션 원문을 옮겼고, 도식의 배치와 한국어 라벨은 이 글에서 새로 붙였다.
1.3개인에게 좋은 것과 인구에게 좋은 것은 다르다
이런 모델을 굳이 세우는 데는 이유가 있다. 한 사람에게 좋은 일이 인구 전체에도 좋으리라는 보장이 없어서다. 논문이 1절에서 인용하는 실험 하나가 그 어긋남을 잘 보여 준다. 소설의 아이디어를 LLM에게 받은 작가의 이야기는 더 창의적이고 잘 쓰였으며 재미있다는 평가를 받았다. 효과는 원래 덜 창의적인 작가에게서 더 컸다. 여기까지는 좋은 소식이다. 그런데 LLM을 쓴 이야기들끼리는 서로 더 닮아졌다. 한 사람 한 사람은 나아졌는데 집단이 내놓는 이야기의 폭은 되레 좁아졌다.
페블러스 블로그에서도 어떤 일을 AI에 맡길지 인지 차원으로 갈라 본 글을 쓴 적이 있다. 그 글이 개인이 일을 나누는 기준을 다뤘다면, 이 논문은 그렇게 나눈 선택이 인구 단위로 쌓였을 때 어떤 모양이 되는지를 묻는다. 서 있는 층이 다르다.
새로운 것은 항 하나다
여기까지는 교과서에 있는 구조다. 칸을 나누고 화살표를 긋고 비율을 적는 일은 감염병 모형을 배운 사람이면 누구나 한다. 이 논문이 새로 얹은 것은 되돌아가는 길에 붙인 항 하나뿐이다. 그런데 결과를 바꾸는 것도 그 항 하나다.
되돌아가는 길이 두 갈래라고 보면 된다. 하나는 각자 알아서 그만두는 몫이다. 쓰다 보니 번거로워서, 결과가 시원찮아서, 부서가 바뀌어서 손을 뗀다. 다른 하나는 옆자리에 달린 몫이다. 회의에서 근거를 묻는 사람이 여럿이면 근거를 챙겨 가는 것이 당연한 일이 된다. 아무도 묻지 않으면 챙겨 가는 쪽이 유별난 사람이 된다. 같은 사람이라도 어느 방에 앉아 있느냐에 따라 일하는 방식이 달라진다는 이야기다. 논문은 이 두 번째 몫을 자율적인 사람의 비율의 제곱에 비례하도록 적었다.
"The nonlinear term κU²C introduces a cooperative (Allee-like) mechanism. The underlying assumption is that LLM-independent cognitive practice is socially reinforced and cultural expectations that reward independent reasoning become more effective when autonomous individuals are common." (비선형 항 κU²C는 협력적, 곧 앨리 효과에 가까운 기전을 들여온다. 깔린 가정은 LLM에 기대지 않는 인지적 실천이 사회적으로 강화되며, 독립적 사고에 보상을 주는 문화적 기대가 자율적인 개인이 흔할 때 더 잘 작동한다는 것이다.)
제곱이라는 점을 그냥 넘기면 안 된다. 자율적으로 일하는 사람의 비율이 0.2에서 0.6으로 세 배가 되면, 그 비율을 두 번 곱한 값은 0.04에서 0.36으로 아홉 배가 된다. 되돌리는 힘이 사람 수만큼 느는 게 아니라 그보다 훨씬 가파르게 는다. 반대로 내려갈 때도 마찬가지다. 자율적인 사람이 줄기 시작하면 되돌리는 힘은 사람이 주는 속도보다 빠르게 무너진다.
항의 끝에 결합한 사람의 비율이 한 번 더 곱해져 있는 것도 그냥 붙은 게 아니다. 이 힘은 이미 LLM을 쓰고 있는 사람에게만 닿는다. 안 쓰는 사람을 더 안 쓰게 만드는 장치가 아니라, 쓰고 있는 사람이 자기 손으로 하던 일을 도로 가져오게 만드는 장치다.
2.1생태학에서 빌려 온 이름
이런 모양의 되먹임에는 이미 이름이 있다. 생태학에서 말하는 앨리 효과다. 무리가 충분히 크면 짝을 찾기도 쉽고 포식자를 함께 견디기도 쉬워서 잘 굴러간다. 그런데 어느 선 아래로 줄어들면 그 이점이 한꺼번에 사라져, 남은 개체마저 버티기 어려워진다. 논문은 이 기전을 그대로 들고 와 인지적 자율성에 붙였고, 근거로 보전생태학 교과서를 든다.
사람의 관습에도 같은 성질이 있다는 실험을 논문은 함께 인용한다. 어떤 집단에서 소수가 일정 크기를 넘어서자, 그때까지 인구 전체가 지키던 관습이 다른 관습으로 넘어가 버렸다는 결과다. 논문이 급전이라는 말을 꺼낼 때 발밑에 깔아 둔 것이 이런 문헌이다.
2.2식으로 적으면 세 줄이다
식이 나오면 눈부터 미끄러지지만, 아래 세 줄은 지금까지 말로 한 것을 그대로 옮겨 적은 것뿐이다. 한 줄이 한 칸을 맡는다. 그 칸에 들어오는 사람에서 나가는 사람을 뺀 값이고, 세 칸의 비율을 더하면 1이 된다. 미분방정식을 몰라도 부호만 따라가면 읽힌다. 빼기가 붙은 항은 그 칸에서 빠져나가는 몫, 더하기가 붙은 항은 들어오는 몫이다.
dU/dt = −λUC + ρC + κU²C
dC/dt = λUC − (μ+ρ)C + σD − κU²C
dD/dt = μC − σD
U는 비결합, C는 자율적 결합, D는 지속적 의존의 비율이고 셋을 더하면 1이다. λ는 전파 압력, ρ는 되돌아가는 비율, μ는 의존 전환, σ는 회복률이며 κ가 집단 강화의 세기다. 논문의 식 (1)부터 (3)까지를 그대로 옮겼다.
첫 줄에 κU²C가 더하기로 붙어 있고, 둘째 줄에 같은 항이 빼기로 붙어 있다. 결합해 있던 사람이 비결합 쪽으로 옮겨 간다는 말이다. 이 항을 지우면 문턱 하나짜리 평범한 전파 모형만 남는다. 이 항을 살려 두면 문턱이 둘이 된다.
넘어가는 문턱과 돌아오는 문턱이 달랐다
문턱이라는 말부터 풀고 가자. 그 값을 넘는 순간 인구가 머무는 자리가 통째로 바뀌는 지점이다. 모델에서 이 지점을 찾는 방법은 정해져 있다. 시간이 지나도 비율이 더는 변하지 않는 상태를 구해 놓고, 그 자리가 안정한지 불안정한지 따져 보면 된다. 이 논문에서는 그 자리가 이차방정식의 근으로 떨어진다. 이차방정식이니 답은 둘이다. 문턱이 두 개로 갈리는 뿌리가, 싱겁게도 여기에 있다.
두 문턱이 어떻게 생겼는지 말로 적어 보면 이렇다. 첫째 문턱은 되돌아가는 비율과 집단 강화를 더한 값이다. 아직 아무도 결합하지 않은 인구에 전파 압력이 이보다 약하게 들어오면, 결합은 번지지 못하고 사그라든다. 둘째 문턱은 집단 강화와 되돌아가는 비율을 곱한 것의 제곱근을 두 배 한 값이다. 이미 결합이 퍼진 인구에서 전파 압력을 낮출 때, 이 값 아래로 내려가야 비로소 원래 자리로 돌아온다. 두 값은 같지 않다. 집단 강화가 되돌아가는 비율보다 크면 둘째 문턱이 첫째보다 낮게 내려앉고, 그만큼 사이가 벌어진다.
숫자가 없으면 그림을 그릴 수 없다. 그래서 논문은 파라미터를 한 벌 골라 둔다. 되돌아가는 비율 0.10, 집단 강화 0.40, 의존 전환 0.20, 회복률 0.10이다. 어디서 재 온 값이 아니라 그림을 그리려고 고른 값이고, 이 점은 뒤에서 다시 짚는다. 어쨌든 이 한 벌을 식에 넣으면 두 문턱이 숫자로 나온다.
| 양 | 식 | 예시 파라미터에서의 값 |
|---|---|---|
| 넘어가는 문턱 | 되돌아가는 비율 + 집단 강화 | 0.50 |
| 돌아오는 문턱 | 2 × √(집단 강화 × 되돌아가는 비율) | 0.40 |
| 두 문턱 사이의 폭 | (√집단 강화 − √되돌아가는 비율)² | 0.10 |
| 두 골짜기의 깊이가 같아지는 지점 | 수치로 푼 값 | 약 0.420 |
| 쌍안정이 생기는 조건 | 집단 강화 > 되돌아가는 비율 | 충족 |
모든 값은 논문 본문과 그림 캡션에 숫자로 적혀 있는 것을 옮겼다. 단위가 없는 값이므로 퍼센트로 읽지 않는다.
3.1같은 조건에서 두 가지 결말이 가능하다
전파 압력이 0.40과 0.50 사이에 놓인 구간을 논문은 쌍안정이라 부른다. 이 글이 되돌리기 어려운 구간이라 부르는 자리도, 인용문 번역에 나오는 잠금 구간도 같은 구간에 붙은 다른 이름이다. 이 구간에서는 인구 전체가 비결합에 머물러 있어도 안정하고, 대부분이 결합해 버려도 안정하다. 어느 쪽에 있는지는 지금의 조건이 정하지 않는다. 여기까지 어느 길로 왔느냐가 정한다. 아래에서 올라온 인구는 0.50에 닿을 때까지 비결합에 머물고, 위에서 내려온 인구는 0.40에 닿을 때까지 결합한 채로 있다. 압력이 똑같은데 두 사회가 서로 다른 자리에 서 있을 수 있다.
논문 Figure 2(a)의 분기 구조를 같은 식과 같은 예시 파라미터로 다시 그린 것이다. 실선은 안정한 평형, 점선은 두 안정 상태를 가르는 불안정한 경계를 뜻한다. 곡선의 좌표는 논문의 식 (7)에 예시 파라미터를 넣어 우리가 계산했다.
3.2골짜기 두 개와 구슬 하나
같은 구조를 논문은 다른 그림으로도 보여 준다. 울퉁불퉁한 지형을 하나 그려 놓고 그 위에 구슬을 굴리는 그림이다. 이 비유는 우리가 붙인 것이 아니라 논문 본문에 있는 것이다.
"The dynamics can be pictured as a marble moving over the landscape until it settles in a valley. … Nevertheless, the marble may remain trapped in the high-autonomy valley until this valley disappears at λ_TC." (이 동역학은 구슬 하나가 지형 위를 움직이다 골짜기에 내려앉는 모습으로 그릴 수 있다. 그럼에도 구슬은 높은 자율성 쪽 골짜기가 넘어가는 문턱에서 사라질 때까지 그 안에 갇혀 있을 수 있다.)
전파 압력이 낮을 때 지형에는 골짜기가 하나뿐이다. 그 자리는 자율성이 높은 쪽이다. 압력이 0.40을 넘으면 반대편에 두 번째 골짜기가 파인다. 압력이 더 세지면 그 골짜기가 점점 깊어져, 0.420 부근에서 두 골짜기의 깊이가 같아진다. 여기서부터는 위탁 쪽이 더 낮은 자리인데도 구슬은 꼼짝하지 않는다. 자기가 앉아 있던 골짜기의 벽이 아직 남아 있어서다. 그 벽이 아주 사라지는 순간이 0.50이다. 그때 구슬은 반대편 바닥까지 한 번에 굴러떨어진다.
논문 Figure 3(c)의 퍼텐셜 지형을 세 장면으로 나눠 다시 그렸다. 가로축은 평균 인지 능력이고 오른쪽이 자율성이 높은 쪽이다. 곡선의 정확한 모양이 아니라 골짜기의 개수와 깊이 관계를 보이기 위한 개념도이며, 장면의 구성은 논문 본문의 서술을 따랐다.
3.3그래서 예방과 복구의 비용이 갈린다
문턱이 둘이라는 사실이 현장에 남기는 말은 간단하다. 넘어가지 않게 막는 데 드는 힘과, 넘어간 뒤에 되돌리는 데 드는 힘이 같지 않다. 논문은 5절에서 이 비대칭을 한 문장으로 정리한다. "Prevention can therefore be considerably easier than reversal." 예방이 복구보다 상당히 쉬울 수 있다는 뜻이다.
같은 구조를 각도만 바꿔 한 줄로 적은 자리도 있다. 초록 앞에 붙은 의의 문단이다. 한 사람 한 사람은 천천히 물드는 동안에도 집단에서는 급한 변화가 나타날 수 있다는 문장이다.
"These results suggest that abrupt collective changes can emerge even when individual adoption is gradual." (이 결과는 개인의 채택이 점진적일 때에도 집단 수준의 급격한 변화가 나타날 수 있음을 시사한다.)
어떻게 그럴 수 있는지는 5절이 말로 풀어 준다. 사회적 과정 두 가지가 맞물린다고 본다. 하나는 사용이 번지는 과정이다. 사람이 사람에게서 배우고, 직장과 학교가 도입하고, 잘 되는 방식이 복제된다. 다른 하나는 자율적 사고를 떠받치는 과정이다. 읽고 쓰고 따지고 확인하는 일이 반복되고 보상받는 환경이 그 일을 한다. 위탁이 넓어지면 뒤쪽 환경이 얇아지고, 환경이 얇아지면 위탁이 더 쉽고 매력적인 선택이 된다. 이 되먹임 때문에 압력이 조금만 올라가도 인구는 크게 반응한다. 2절의 제곱 항이 식에서 하는 일이 바로 이 되먹임이다.
다만 이 모델이 답하지 못하는 대목을 논문 스스로 표시해 두었다. 전이가 실제 시간으로 얼마나 빨리 펼쳐지는지는 이 최소 모델이 결정하지 못한다고 3절에 적혀 있다. 문턱을 넘으면 급격히 이동한다는 말은 상태와 상태 사이의 구조를 가리킬 뿐이다. 그 일이 몇 달 만에 벌어진다거나 몇 해가 걸린다는 예측이 아니다.
능력이 깎인다는 숫자는 어디서 왔나
지금까지 센 것은 사람 수다. 몇 퍼센트가 어느 칸에 있느냐만 따졌다. 논문은 여기서 한 걸음 더 나간다. 각 칸에 능력 점수를 매기고 인구 전체의 평균을 구한다. 그 평균이 문턱을 넘는 순간 어떻게 움직이는지가 논문 4절의 내용인데, 이 글에서 가장 조심해서 읽어야 할 대목도 여기다.
먼저 여기서 말하는 능력이 무엇인지 못박아 두어야 한다. 논문의 정의는 좁다.
"Here Γ should be narrowly interpreted as cognitive competence (CC): the capacity available to the human when external support is removed, rather than the total capability of the coupled human-AI system." (여기서 Γ는 인지 역량으로 좁게 해석해야 한다. 외부 지원을 치웠을 때 그 사람에게 남아 있는 능력을 뜻하며, 사람과 AI가 결합한 시스템의 총 능력이 아니다.)
도구를 쥐고 있을 때의 성과가 아니라, 도구를 뺀 다음에 남는 것을 재는 눈금이다. 이 둘은 자주 뒤섞인다. 구분해 두지 않으면 뒤에 나오는 숫자가 전혀 다른 주장으로 읽힌다.
4.10.425라는 숫자는 가정에서 나온 값이다
논문은 비결합 상태의 능력을 1, 자율적 결합을 0.5, 지속적 의존을 0.1로 두고 그림을 그린다. 이 세 값이 어디서 왔는지를 먼저 봐야 한다. 잰 값이 아니다. 논문이 바로 다음 문장에서 스스로 밝혀 둔다.
"This ordering is an illustrative modelling assumption, not a general claim about LLM use. In scaffolded or augmentative regimes, coupling could leave subsequent CC unchanged or even increase it." (이 순서는 예시를 위한 모델링 가정이지 LLM 사용에 대한 일반적 주장이 아니다. 발판을 받쳐 주거나 능력을 넓히는 방식의 결합에서는 이후의 인지 역량이 그대로 유지되거나 오히려 올라갈 수도 있다.)
그 가정값을 넣으면 평균은 이렇게 움직인다. 넘어가는 문턱에 닿는 순간 평균 능력이 1에서 약 0.425로 주저앉는다. 압력을 다시 낮춰 돌아올 때는 약 0.617까지 올라간 자리에서야 비로소 1로 복귀한다. 두 숫자 모두 논문 3절에 그대로 인쇄돼 있다. 떨어질 때의 낙차가 올라올 때의 낙차보다 크다는 점이 눈에 걸린다.
이 값들이 어떻게 나오는지는 종이 한 장이면 따라갈 수 있다. 결합한 사람들의 평균 능력은 의존 전환과 회복률이 정하는 몫에 자율적 결합과 의존의 가정값을 각각 곱해서 나온다. 예시 파라미터에서는 0.233이다. 여기에 비결합 인구가 얼마나 남아 있는지를 얹으면 전체 평균이 된다. 전이 지점에서 비결합 인구는 0.25만 남고, 복귀 지점에서는 0.5가 남는다. 남은 비율이 두 배 차이라 거기서 오는 몫도 두 배로 벌어진다.
그러니 이 숫자를 받아 인지 능력이 57.5% 깎인다고 옮기면 틀린 말이 된다. 눈금 자체가 가정이고, 재는 대상도 사람과 AI를 합친 성능이 아니다. 이 글이 이 값을 요약 카드에 올리지 않은 까닭도 거기에 있다. 모델이 만드는 그림의 모양을 보여 주는 데까지, 딱 거기까지가 이 숫자의 몫이다.
4.2진짜로 측정된 숫자는 다른 논문에 있다
그렇다면 도구를 치웠을 때 남는 능력을 실제로 잰 연구는 있을까. 이 논문이 인용하는 문헌 가운데 하나가 정확히 그것을 쟀다. 2025년 미국 국립과학원회보에 실린 고교 수학 현장 실험이다. 약 천 명의 학생에게 생성형 AI 튜터를 붙이되 두 종류로 나눠 붙였다. 하나는 흔한 챗봇 화면을 흉내 낸 것이고, 다른 하나는 학습을 보호하도록 프롬프트를 짜 둔 것이다.
| 조건 | 도구를 쓰는 동안의 성적 | 도구를 거둔 뒤의 성적 |
|---|---|---|
| 일반 챗봇형 도구 | +48% | −17% |
| 학습 보호 설계 튜터 | +127% | 부정적 효과가 대체로 완화됨 |
두 번째 열은 접근이 없던 학생 대비 향상 폭이고, 세 번째 열의 −17%도 애초에 접근이 없던 학생과 비교한 값이다. 수치는 해당 논문의 초록에 인쇄된 그대로이며, 이 리포트가 다루는 인지 바이러스 논문이 잰 값이 아니다.
도구를 쥐고 있을 때는 성적이 크게 올랐다. 그런데 도구를 거두자 그 학생들은 애초에 써 본 적 없는 학생보다 못했다. 이유는 단순하다. 해당 논문이 밝힌 대로, 보호 장치가 없으면 학생들은 연습 문제를 푸는 동안 모델을 목발처럼 썼다. 목발을 짚고 걸은 다리는 자라지 않는다. 같은 도구라도 학습을 보호하도록 설계한 쪽에서는 그 하락이 거의 나타나지 않았다.
인지 바이러스 논문은 이 결과를 자기 5절에서 한 줄로 줄여 인용한다. 생성형 AI에 제약 없이 접근하면 도구가 있는 동안의 성과는 좋아지지만 이후 혼자 하는 성과는 낮아지고, 교육학적으로 제약된 AI는 그 효과를 상당히 완화한다는 것이다. 모델이 가정값으로 적어 둔 이야기를 이 실험이 숫자로 보여 준 셈이다. 다만 둘을 이어 붙일 때 조심할 것이 있다. 실험의 수치는 개인의 성적이고, 모델의 파라미터는 인구 비율이다. 실험 결과를 파라미터 추정치로 바꿔 쓸 수는 없다.
4.3이 글이 쓰지 않기로 한 두 숫자
논문의 인용 목록에는 뇌파를 잰 2025년 연구도 들어 있다. 에세이를 쓰게 하면서 뇌파 연결성을 재고, 몇 달 뒤 조건을 바꿔 다시 잰 연구다. 공개된 초록과 연구진의 공식 페이지에서 확인되는 것은 두 가지다. 외부 지원이 많을수록 연결성이 체계적으로 낮아졌고, LLM을 쓴 집단은 몇 분 전 자기가 쓴 문장을 인용하는 데서 뒤처졌다.
그런데 이 연구를 옮긴 기사들에는 초록에도 공식 페이지에도 없는 두 숫자가 널리 붙어 다닌다. 우리도 조사하는 동안 그 숫자를 두 번 마주쳤다. 원문을 열어 대조했지만 근거를 찾지 못해 본문에서 뺐다. 연구진 자신도 기자들을 향한 당부를 프로젝트 사이트에 올려 두었다.
"Please do not use the words like 'stupid', 'dumb', 'brain rot', 'harm', 'damage', 'passivity', 'trimming' and so on. It does a huge disservice to this work, as we did not use this vocabulary in the paper." (우리는 논문에서 그런 어휘를 쓰지 않았으니 멍청하다, 뇌가 썩는다, 해를 입힌다 같은 낱말을 쓰지 말아 달라. 이 연구에 큰 폐를 끼치는 일이다.) 같은 페이지에는 많은 사람이 LLM으로 이 논문을 요약해 소음을 더하고 있다는 문장도 함께 있다. 이 리포트 역시 LLM을 도구로 쓴 파이프라인에서 나왔으므로, 그 지적은 우리에게도 그대로 해당한다. 그래서 본문의 수치는 모두 원문을 직접 열어 대조했고, 대조되지 않은 것은 넣지 않았다.
면역은 AI를 끊는 것이 아니다
모델이 급전이를 말하면 처방은 금지 쪽으로 흐르기 쉽다. 이 논문은 반대로 간다. 면역이라는 낱말을 쓰면서도, 그것이 접촉을 막는 일은 아니라고 논문 4절과 5절에서 두 번이나 못을 박는다.
"At the population level, immunization does not mean preventing contact with AI. It means preserving the practices and institutions that keep human cognition active: unaided problem solving, verification, critical discussion, periods of deliberate disengagement, maintenance of non-AI skills, and educational designs in which the model supports rather than completes the cognitive task." (인구 수준에서 면역은 AI와의 접촉을 막는 것이 아니다. 인간의 인지를 계속 움직이게 하는 실천과 제도를 지키는 일이다. 혼자 푸는 문제, 검증, 비판적 토론, 의도적으로 떨어져 있는 시간, 비AI 기능의 유지, 그리고 모델이 인지 작업을 완성해 주는 대신 받쳐 주는 교육 설계가 거기 들어간다.)
그래서 논문은 면역이 전체 사용량을 낮추라는 말일 필요는 없다고 덧붙인다. 많이 쓰면서도 검증과 능동적 추론, 자율적 대안과 회복이 함께 굴러가도록 결합의 모양을 빚는 쪽이 면역이다.
5.1여섯 개입 가운데 넷만 문턱을 움직인다
논문 4절에는 개입이 여섯 줄짜리 표로 정리돼 있다. 각 줄은 어떤 파라미터를 움직이는지, 그래서 무엇이 달라지는지를 적는다. 여기에 우리가 한 열을 덧붙였다. 그 개입이 급전이 지형 자체를 바꾸는지, 아니면 지형은 그대로 둔 채 결합 상태의 부담만 덜어 주는지를 갈라 놓은 열이다. 논문 4절 본문이 두 층위라고 밝혀 둔 내용을 표의 칸으로 옮겼다.
| 개입 | 무엇을 움직이나 | 문턱이 움직이나 |
|---|---|---|
| 대체를 낳는 결합의 전파를 줄인다 | 전파 압력을 낮춘다 | 움직인다 |
| 자율적 대안과 혼자 하는 인지로 돌아갈 길을 남긴다 | 되돌아가는 비율을 올린다 | 움직인다. 두 문턱을 모두 올리고 잠금 구간을 줄인다 |
| 집단적 자율성을 강화한다 | 집단 강화를 올린다 | 움직인다. 다만 잠금 구간은 넓어질 수 있다 |
| 집단적 잠금보다 회복을 앞세운다 | 되돌아가는 비율과 집단 강화의 비를 올린다 | 움직인다. 두 문턱이 붙으면 전이가 연속이 된다 |
| 의존으로 넘어가는 것을 막는다 | 의존 전환을 낮춘다 | 움직이지 않는다 |
| 의존에서의 회복을 돕는다 | 회복률을 올린다 | 움직이지 않는다 |
왼쪽 두 열은 논문 Table 1의 여섯 줄을 옮긴 것이다. 오른쪽 열은 같은 논문 4절이 두 층위로 나눈 서술을 우리가 한 칸에 요약한 것이다.
5.2되돌아가는 길에만 있는 특권
표의 둘째 줄이 이 모델에서 가장 힘이 센 손잡이다. 되돌아가는 비율을 올리면 두 문턱이 함께 올라가고 그 사이 폭은 줄어든다. 더 밀어붙여 되돌아가는 비율이 집단 강화 이상이 되면 쌍안정 자체가 사라진다. 골짜기가 두 개로 갈라지는 일이 아예 일어나지 않는다. 그러면 어느 순간 뚝 떨어지는 대신, 압력을 올린 만큼만 완만하게 밀리는 체제가 된다. 되돌리기 어려운 구간을 통째로 없애는 길은 이것 하나뿐이다.
셋째 줄은 고개를 갸웃하게 만든다. 자율적으로 생각하는 문화를 강화하면 침입을 막는 문턱은 올라간다. 인구 대부분이 아직 비결합일 때는 분명히 좋은 일이다. 그런데 같은 값이 두 문턱 사이의 폭도 함께 벌린다. 자율적인 사람이 이미 많이 줄어든 뒤라면, 그 강한 문화가 되돌아오는 길을 오히려 막는 쪽으로 돈다. 그래서 논문의 처방은 집단 강화를 최대로 올리라는 말이 아니다.
"The relevant intervention is consequently not simply to maximize κ, but to reinforce collective autonomy together with sufficiently strong return processes ρ so that protection does not come at the cost of a broad hysteretic regime." (그러므로 관건은 집단 강화를 최대로 키우는 것이 아니라, 집단적 자율성을 되돌아가는 과정과 함께 충분히 강하게 세워서 보호가 넓은 잠금 구간이라는 대가를 치르지 않게 하는 것이다.)
이 조건을 지도 한 장으로도 그려 둔다. 가로축에 집단 강화를 놓고 세로축에 전파 압력을 놓으면 평면이 셋으로 갈린다. 아래쪽은 자율 쪽이 우세한 영역이고, 위쪽은 위탁 쪽만 안정한 영역이다. 그 사이에 두 상태가 함께 가능한 띠가 가로놓인다. 띠가 생기는 것은 집단 강화가 되돌아가는 비율보다 클 때뿐이다. 둘이 같아지는 선에서 두 문턱은 하나로 붙는다. 그 선을 사이에 두고 한쪽은 완만하게 이어지는 채택이고, 다른 쪽은 지나온 길에 따라 갈리는 불연속 전이다. 우리가 어느 영역에 서 있는지 알려면 그 두 값을 알아야 한다. 그런데 하필 그 둘이, 조금 뒤에 볼 계측 공백의 한가운데에 놓여 있다.
논문 Figure 3(b)의 (κ, λ) 위상 그림을 같은 두 경계식(λ_SN = 2√(κρ), λ_TC = ρ+κ)으로 우리가 다시 그렸다. ρ는 이 리포트가 쓴 예시 파라미터 값 0.10으로 고정했다. 굵은 주황 곡선 위는 위탁만 안정한 영역, 회색 점선 아래는 자율 우세 영역이며, 그 사이 주황 띠가 두 상태가 공존하는 잠금 구간이다. κ=0.40을 짚으면 3절 표에 나온 0.40과 0.50이 그대로 나온다.
5.3문턱을 움직이지 않는 손잡이
표의 마지막 두 줄은 성격이 다르다. 의존 전환을 낮추거나 회복률을 올리면 결합한 사람들 안에서 의존 상태의 몫이 줄고 평균 능력이 올라간다. 예시 파라미터에서는 결합한 사람 셋 중 둘이 의존 상태인데, 회복률을 올리면 그 몫이 내려간다. 분명 좋은 변화다. 그런데 두 문턱의 위치는 꿈쩍도 하지 않는다. 논문은 이 성질을 식으로 적어 두고, 그래서 이 개입이 전체 사용량을 줄이지 않고도 의존 비중을 낮출 수 있다고 설명한다.
회복 쪽으로 오면 논문의 말이 조금 무거워진다. 의존이 이미 굳은 뒤에는 교육 설계만으로 다룰 수 없다는 것이다. 문제적 LLM 사용을 다룬 최근 연구가 통제 상실과 정서 조절, 인지 편향과 습관적 의존 같은 기전을 가리키고 있으니, 행동적 자기조절이 필요하고 심한 경우에는 인지행동치료 같은 심리 개입까지 가야 할 수 있다고 적는다. 면역이라는 비유가 문화와 제도의 예방에서 시작해 개인의 회복까지 그대로 이어진다. 뒤집어 말하면, 회복률이라는 손잡이는 학교나 회사의 규칙만으로는 돌아가지 않을 수 있다.
정리하면 손잡이는 두 층에 나뉘어 달려 있다. 전파 압력과 되돌아가는 비율과 집단 강화는 급전이 지형 자체를 바꾼다. 의존 전환과 회복률은 지형은 그대로 둔 채 결합 상태에 드는 인지 비용만 덜어 준다. 두 층을 섞어 말하기 시작하면, 검증 의무 하나 만들어 놓고 급전이를 막았다고 믿게 된다. 그렇다면 현실의 개입은 지금 어느 층에 몰려 있을까. 사례를 놓고 볼 차례다.
5.4같은 활동이 두 층 어디로도 읽힌다
그런데 4절 안에서 예가 서로 겹친다. 되돌아가는 비율을 올리는 예로 드는 것이 보호된 비AI 과제, 의도적으로 떨어져 있는 기간, 비LLM 기능의 유지다. 몇 문단 뒤 의존 전환을 낮추고 회복률을 올리는 예로 드는 것은 메타인지 훈련, 검증 요구, 주기적인 비AI 연습이다. 그런데 보호된 비AI 과제와 주기적인 비AI 연습은 현장에서 같은 활동이다. 금요일 오전에는 AI 없이 초안을 쓰게 하는 규칙을 놓고, 두 이름 중 어느 쪽으로 불러도 말이 된다.
그런데 모델 안에서 두 이름의 운명은 다르다. 한쪽은 문턱을 움직이고 다른 쪽은 움직이지 않는다. 어떤 실무가 어느 쪽인지 가려낼 방법을 논문은 알려 주지 않는다. 스스로 최소 모델이라고 밝혀 두었으니 이것을 오류라 부를 일은 아니다. 다만 이 모델을 들고 현장으로 가려는 사람에게는 숙제가 그대로 남는다. 같은 규칙이 어느 층에서 작동했는지 알려면, 결국 사람들의 상태가 어디로 움직였는지를 봐야 한다.
그렇다고 아주 못 볼 일은 아니다. 이 논문이 인용하는 2026년 창의성 실험이 그 일을 한 번 해냈다. 대학생 196명을 세 집단으로 나눴다. 한 집단은 혼자 하고, 한 집단은 ChatGPT를 자유롭게 쓰고, 한 집단은 먼저 스스로 생각한 뒤에 ChatGPT와 머리를 맞댔다. 첫 과제에서는 자유롭게 쓴 집단이 가장 나은 결과를 냈다. 그다음 모두에게서 도구를 거두고 새 과제를 주자 순서가 뒤집혔다. 자유롭게 쓴 집단의 창의성은 혼자 한 집단 수준으로 내려앉았고, 첫 과제에서 아무 이득도 보지 못했던 세 번째 집단이 두 집단을 모두 앞질렀다.
과정 분석이 이유를 보여 준다. 자유 사용 집단은 ChatGPT에게 답을 만들어 내라고 시키는 쪽이었고, 먼저 생각한 집단은 자기가 낸 아이디어를 다듬는 데 도구를 썼다. 당장의 성과가 좋은 쪽과 도구를 치운 뒤에 남는 것이 많은 쪽이 서로 달랐다는 이야기다.
이 실험이 잰 것은 개인의 다음 성적이지 인구 수준의 되돌아가는 비율이 아니다. 그래도 방향만큼은 분명하다. 되돌아갈 길을 설계에 남겨 두면 무엇이 달라지는지, 통제된 조건에서 확인한 사례가 적어도 하나는 있다. 문제는 이런 확인이 실험실 문턱을 거의 넘지 못했다는 것이다.
이 모델이 멈추는 자리
이 논문은 사용자 데이터를 한 건도 모으지 않았다. 설문도 로그도 실험도 없다. 식을 세우고, 그 식이 어떤 모양을 만드는지 보이고, 남의 실험을 끌어와 그 모양이 그럴듯하다고 논증한다. 자기 결과가 어디까지인지도 논문이 직접 적어 둔다. 그런 폭주가 반드시 일어난다는 것이 아니라, 사회적 학습과 협력적 강화라는 그럴듯한 형태 아래에서 일어날 수 있다는 것이 중요한 결과라고.
이 문장을 놓치면 글 전체가 다른 뜻이 된다. 모델은 지금 우리가 어느 문턱 근처에 서 있는지 말하지 않는다. 말할 재료 자체를 갖고 있지 않아서다. 그 재료가 왜 없는지부터 보자.
6.1저자들이 스스로 적어 둔 한계
저자들이 이것을 모르는 것도 아니다. 논문 5절의 끝은 자기 한계를 셋으로 정리해 둔다. 인구를 평균으로 뭉뚱그리느라 실제 관계망의 들쭉날쭉함이 빠졌다. 인지적 자율성을 연속적인 값으로 두지 않고 세 칸으로 뚝뚝 잘랐다. 인지가 변하면 이후 채택도 달라지는 되먹임이 아직 모델에 들어와 있지 않다. 여기에 3절에서 이미 밝혀 둔 것 하나를 더하면 넷이 된다. 전이가 실제 시간으로 얼마나 빨리 진행되는지를 이 최소 모델은 결정하지 못한다.
여기에 우리가 원문을 열어 보고 확인한 것을 하나 덧붙인다. 논문은 세 곳에서 보충자료를 가리킨다. 평균 능력을 유도하는 전체 과정, 일차원으로 줄이는 절차, 퍼텐셜이 두 골짜기를 가진 사차 함수라는 사실이 모두 거기 있다고 적혀 있다. 그런데 arXiv에 올라온 제출물에는 보충자료가 없다. 공개된 PDF는 12쪽이고 마지막 쪽이 참고문헌으로 끝난다. 부속 파일 항목도 없고 다음 판본도 아직 없다. 핵심 유도의 절반이 공개본에서 빠져 있는 셈이라, 이 글도 보충자료의 내용은 인용하지 않았다.
6.2세상이 실제로 돌리고 있는 손잡이
모델 바깥으로 눈을 돌리면 더 눈에 밟히는 것이 있다. AI 의존을 걱정해 무언가를 하고 있는 조직은 이미 많다. 그런데 그 대부분이 문턱을 움직이지 않는 쪽 손잡이를 돌리고 있다. 조사에서 모은 현실의 대응을 모델의 손잡이에 하나씩 대 보았다. 해당 조직이 이 모델을 보고 설계했다는 말이 아니라, 나란히 놓고 보면 이렇게 읽힌다는 가설적 정리다.
| 현실의 대응 | 대응시켜 보면 | 문턱이 움직이나 |
|---|---|---|
| 손글씨 답안지로 되돌아간 대학 시험 | 시험 시간에 한정된 접근 차단 | 평상시의 압력은 그대로다 |
| 구술시험 부활 | 상태를 드러내는 검증. 모델에 없는 범주다 | 움직이지 않는다 |
| 학습을 보호하도록 설계한 AI 튜터 | 의존 전환을 낮춘다 | 움직이지 않는다 |
| 사람 검토와 검증을 의무화한 사내 지침 | 의존 전환을 낮춘다 | 움직이지 않는다 |
| AI 사용률을 성과 지표로 내건 조직 | 전파 압력을 올린다 | 움직인다. 올리는 방향으로 |
| 컨설팅 업계에서 나온 AI 없는 날 권고 | 되돌아가는 비율을 올린다 | 움직인다. 다만 효과가 측정된 적이 없다 |
현실 사례는 2026년 9월 12일까지의 공개 보도와 정책 문서에서 모았다. 오른쪽 두 열은 논문의 파라미터에 대 본 우리의 읽기이며 논문에 실린 분류가 아니다.
표를 세로로 훑으면 한 줄이 남는다. 다들 문을 잠그거나, 지나간 뒤에 확인할 장치를 단다. 정작 나갔다가 돌아오는 문을 만드는 쪽은 거의 없다. 되돌아가는 비율을 정확히 겨냥한 사례로 확인된 것은 컨설팅 업계의 권고 하나뿐이었다. 그마저 도입한 조직에서 무엇이 달라졌는지를 잰 기록은 확인되지 않았다. 그리고 반대편에는 사용률 자체를 성과로 내걸어 압력을 올리는 조직이 있다.
표의 셋째 줄에는 단서를 하나 더 달아야 공평하다. 학습을 보호하도록 설계한 도구가 정말로 도구를 거둔 뒤의 능력을 지켜 주는지, 그것이 확인된 자리는 4절의 고교 실험이다. 연구진이 직접 설계하고 배치한 조건에서 나온 결과다. 같은 부류의 제품이 시장에 이미 나와 있지만, 그 제품을 쓴 학생에게서 도구를 거두고 무엇이 남는지 잰 기록은 우리가 찾지 못했다. 문턱을 움직이지 않는 쪽 손잡이조차 효과가 제대로 계측된 것은 한 줌이다.
사실 이런 공백이 처음도 아니다. 스마트폰 쪽에 선례가 있다. 학교에서 스마트폰을 아예 못 쓰게 하는 정책은 여러 나라에 이미 널리 퍼져 있는데도, 시험 점수 같은 결과에 미친 인과적 효과를 검증한 연구는 손에 꼽는다. 큰 학군 하나에서는 유의한 상승이 보고됐고, 방식이 다른 전국 단위 분석에서는 효과가 거의 0으로 나왔다. 마음만 먹으면 완전히 차단할 수 있는 기기가 이 정도다. 업무 도구로 자리를 잡아 차단하기도 어려운 쪽은 훨씬 이른 단계에 있다.
6.3다섯 중 셋은 통계 자체가 없다
모델을 현실에 대 보려면 파라미터에 넣을 숫자가 있어야 한다. 그래서 다섯 개를 하나씩 찾아 나섰다. 결과는 기대에 한참 못 미쳤다.
| 파라미터 | 공개 통계가 있나 | 가장 가까운 것 |
|---|---|---|
| 전파 압력 | 대용치가 넘친다 | 각국의 생성형 AI 채택률 조사 |
| 의존 전환 | 간접적으로만 | 지식노동자 자기보고 설문 |
| 되돌아가는 비율 | 없다 | 강제로 나흘을 끊게 한 일기 연구 한 건. 참가자 10명 |
| 회복률 | 없다 | 문제적 사용에 대한 임상 개입 문헌 |
| 집단 강화 | 사실상 없다 | 일반 조직문화 측정 도구 |
2026년 9월 12일까지 공개된 국제기구·정부·학계 통계를 대상으로 찾은 결과다. 오른쪽 열의 항목은 방향이 비슷한 자료일 뿐 파라미터의 추정치가 아니다.
넘친다고 적은 쪽부터 보자. 채택률은 조사마다 있다. 다만 조사끼리 서로 맞지 않는다. 같은 미국을 비슷한 시기에 재도 한 조사는 28.3%, 다른 조사는 54%가 나온다. 들어는 봤는지, 한 번 써 봤는지, 지난달에 썼는지, 매주 쓰는지가 채택률이라는 한 낱말 안에 다 섞여 있어서다. 국제 비교로 넓히면 OECD 평균 36.8%, EU 32.7%, 미국의 특정 서비스 단독 사용률 44%로 또 흩어진다. 한국은 2026년 3월 발표된 정부 조사에서 국민의 44.5%가 생성형 AI를 경험했다고 답했다. 전년보다 11.2%p 오른 값이다.
이렇게 흩어진다는 사실 자체가 1절에서 해 둔 당부를 데이터로 받쳐 준다. 채택률은 전파 압력이 남긴 자국이고, 무엇을 채택으로 셀지에 따라 두 배가 갈린다. 어느 숫자도 모델의 문턱값과 같은 자에 올려놓을 수 없다. 측정이 무엇을 재고 무엇을 빠뜨리는지는 페블러스 블로그의 AI 사용 통계를 독립 말뭉치로 다시 잰 글에서 따로 다룬 적이 있다.
의존 전환 쪽은 사정이 조금 낫지만 발밑이 약하다. 이 논문이 인용하는 2025년 연구는 지식노동자 319명에게서 실제 업무 사례 936건을 받아, AI를 신뢰할수록 비판적 사고를 실제로 실행하는 일이 유의하게 줄어든다는 관계를 보고했다. 방향은 여러 연구가 일관되게 가리킨다. 다만 모두 자기보고에 기대고 있고, 자기보고라는 것이 원래 흔들린다. 학생을 대상으로 한 조사에서 자기가 AI를 쓴다는 응답은 약 60%였는데, 또래가 쓴다고 보는 응답은 약 90%였다. 이 30%p의 간격은 사회적 바람직성 편향으로 설명된다.
나머지 셋에는 아예 앉을 자리가 없다. 어느 통계기관도 AI 이탈률이나 회복률을 발표하지 않는다. 사용량은 세계 곳곳에서 재는데 상태 전이는 아무도 재지 않는다. 되돌아가는 비율에 가장 가까운 기록이라고 찾은 것이 나흘간 사용을 강제로 끊은 참가자 열 명의 일기 연구다. 스스로 돌아가는 일과는 다른 현상이고, 열 명으로 일반화할 수도 없다. 회복률 쪽에서 방향이 그나마 비슷한 문헌은 5절에서 논문 자신이 가리킨 임상 개입 연구다. 인구의 몇 퍼센트가 돌아오는지를 잰 자료가 아니라, 개인을 어떻게 돕는지를 다룬 자료다. 그래서 표의 오른쪽 열에 추정치가 아니라고 적어 두었다.
6.4공백의 모양이 모델의 비대칭과 같다
앞의 두 표를 나란히 놓으면 계측이 어느 쪽으로 쏠려 있는지가 보인다. 계측이 있는 쪽은 전부 예방 쪽 손잡이다. 얼마나 퍼졌는가, 얼마나 의존한다고 느끼는가. 계측이 없는 쪽은 전부 복구 쪽 손잡이다. 얼마나 돌아오는가, 얼마나 회복하는가, 자율을 떠받치는 힘이 얼마나 남아 있는가. 모델은 복구가 예방보다 어렵다고 말한다. 세상의 데이터는 복구 쪽이 아예 안 보인다고 말한다. 두 문장의 모양이 같다는 것, 이것이 이 리포트가 조사에서 건진 가장 뚜렷한 관찰이다.
같은 공백이 기업 지표에서도 되풀이된다. 기업 대부분이 적어도 한 가지 기능에서 AI를 쓰고 있지만, 의미 있는 지표를 따로 추적하는 곳은 훨씬 적다. 추적한다는 것도 사용량과 사용 범위 같은 확산 지표다. 누가 자율적 결합이고 누가 의존 상태인지 가르는 라벨은 어느 대시보드에도 없다.
교육 쪽은 진단만큼은 정책 문서의 언어로도 이미 정리돼 있다. 2026년 OECD 보고서는 범용 챗봇을 쓴 학생이 평소에는 더 나은 결과물을 내지만, 시험에서 접근이 사라지면 그 우위가 없어지거나 뒤집힌다고 적었다. 교육학적 목적을 갖고 설계된 도구에서는 향상이 이어진다는 서술도 함께 있다. 이 논문과 같은 모양의 발견이다. 다만 그 보고서의 근거가 이 논문이 인용한 고교 실험과 같은 연구일 가능성이 커서, 서로 독립적인 확인이라고 부르지는 않았다. 어느 쪽이든 진단에서 멈춰 있다. 되돌아갈 길을 어떻게 제도로 만들지, 거기까지는 내려가 있지 않다.
개인 수준에서 능력이 깎이는 현상은 이미 다른 분야에서도 기록되기 시작했다. 페블러스 블로그가 다룬 내시경 의사들의 디스킬링 사례가 그런 기록이다. 이 논문이 서 있는 층은 그보다 한 칸 위다. 한 사람 한 사람의 기량 저하가 인구 단위로 쌓이면 어떤 지형이 되는지를 묻는다. 두 층 사이를 이어 줄 자료, 그것이 바로 지금 없는 자료다.
페블러스 관심의 이유
페블러스는 데이터를 진단하고 품질 성적서를 발급하는 일을 한다. 인지 모델과는 한참 멀어 보인다. 그런데도 이 논문을 끝까지 읽은 이유는 하나다. 논문이 막히는 자리가 우리가 매일 만나는 자리와 똑같이 생겨서다.
7.1있는 데이터가 알고 싶은 것을 재지 않는다
파라미터 다섯 개가 12쪽의 결론을 떠받치는데, 그중 어느 것도 측정된 적이 없다. 전파 압력은 도입률로 어림할 수 있을 것 같지만, 논문 자신이 그것을 압력이라고 정의해 두었다. 게다가 실제 도입률은 같은 나라에서 정의만 바꿔도 두 배가 갈린다. 되돌아가는 비율과 회복률에 이르면 대신 쓸 숫자조차 없다. 조직이 쌓는 AI 로그는 사용량을 재지 상태를 재지 않는다. 누가 자율적으로 결합해 있고 누가 의존 쪽으로 넘어갔는지 가르는 라벨이 없으니, 모델이 말하는 전이를 눈으로 확인할 방법도 없다.
데이터가 없다는 말과 있는 데이터가 알고 싶은 것을 재지 않는다는 말은 다르다. 뒤쪽이 우리가 늘 다루는 종류의 공백이다. 로그는 쌓이는데 질문에 답하지 못하는 형태로 쌓인다. 그 간격을 메우는 일은 새 데이터를 더 모으기 전에 무엇을 사건으로 기록할지 정하는 일부터 시작한다.
7.2비가역성은 파이프라인 양쪽 끝에서 일어난다
블로그에 이미 올린 글 가운데 정크 데이터로 학습한 모델이 깨끗한 데이터로 다시 학습해도 기준선으로 돌아오지 않는다는 글이 있다. 모델 쪽의 비가역성을 다룬 글이다. 이번 논문은 같은 모양의 비가역성이 사용자 인구 쪽에서도 나타날 수 있다고 말한다. 이름은 히스테리시스이고, 원인은 되돌아가는 길이 들어온 길과 같지 않다는 것이다.
두 글은 나란히 하나의 서사를 이룬다. 학습 데이터가 들어가는 쪽에서도, 그 모델을 쓰는 사람이 있는 쪽에서도, 나빠진 다음에 되돌리는 비용이 나빠지기 전에 막는 비용보다 크다. 데이터 품질을 사후 교정의 문제로만 다루면 이 비대칭을 놓친다.
7.3도입률 옆에 무엇을 같이 남길 것인가
기업이 보는 지표는 도입률과 사용률과 절감 시간이다. 이 모델이 말하는 것은 같은 도입률이라도 되돌아가는 비율이 다르면 도착지가 다르다는 것이다. 게다가 앞에서 본 대로, 오늘날 기업이 실제로 손대는 개입은 대부분 문턱을 움직이지 않는 층에 몰려 있다. 문턱을 움직이는 손잡이 셋 가운데 기업이 의도적으로 돌리는 것은 전파 압력 하나이고 그것도 올리는 방향이다.
그래서 실무 쪽 제안은 한 줄로 모인다. 되돌아갈 길이 얼마나 열려 있는지를 재야 하고, 재려면 기록을 남겨야 한다. AI를 쓰지 않고 끝낸 작업이 몇 건인지, 초안을 사람이 먼저 쓴 비율이 얼마인지, 도구를 거둔 상태에서 나온 산출물이 어땠는지. 지금 대시보드에 없는 이 항목들이 되돌아가는 비율에 가장 가까운 관측값이다. 셋 다 새 시스템 없이 기존 기록에 라벨을 하나 더 붙이는 일로 시작할 수 있다.
7.4계측기는 이미 만들어져 있다
구술시험 이야기가 여기서 다시 눈에 걸린다. 앞의 표에서는 검증 장치로 분류했는데, 그것이 하는 일을 다시 보면 도구를 치웠을 때 무엇이 남는지를 확인하는 절차다. 논문이 정의한 인지 역량의 정의와 정확히 같다. 학교들은 부정행위를 가리려고 이 장치를 되살렸지만, 결과적으로 만든 것은 상태 판별기다. 다만 아무도 그 결과를 데이터로 남기지 않는다. 이 문단은 논문에 없는 우리의 해석이며, 논문이 그렇게 말했다는 뜻이 아니다.
페블러스가 하는 일은 AI가 쓸 수 있는 데이터를 만드는 쪽이다. 이 논문은 반대편에서 질문을 던진다. AI를 쓰는 사람 쪽에서는 무엇을 데이터로 남겨야 하는가. 도입 로그를 상태 라벨이 붙은 종단 기록으로 바꾸는 일, 이탈과 재진입을 사건으로 적는 일, 자기보고와 행동 기록 사이의 간격을 줄이는 일이 거기 들어간다. 전부 데이터 품질의 문제다.
이 글이 페블러스의 일과 이어지는 것은 논문이 우리 제품의 필요성을 증명해서가 아니라, 논문이 막힌 자리가 우리가 매일 답해야 하는 자리와 같아서다. 본문의 수식과 임계값과 축자 인용은 arXiv 공개본 전문에서 직접 대조했고, 인용된 실증의 수치는 각 원문의 초록에서 확인했다. 확인되지 않은 수치는 넣지 않았으며, 모델의 파라미터에 현실 사례를 대 본 표는 우리의 읽기임을 그 자리에 밝혔다. 연구의 가치 판단과 자사 포지셔닝은 나눠서 읽어 주시기 바란다. 긴 글 읽어 주셔서 감사하다.
참고문헌
본문의 근거는 세 갈래다. 모델의 식과 임계값과 축자 인용은 1번 논문의 arXiv 공개본 전문을 내려받아 직접 대조했다. 실증 수치는 각 원 논문의 초록에서 확인했고, 이 리포트가 다루는 논문이 잰 값이 아니라는 점을 본문에도 밝혀 두었다. 통계와 정책 문서 가운데 일부는 원문 페이지를 직접 열지 못하고 검색 요약에 기댄 것이 있어 해당 항목에 표시했다.
이 보고서의 뼈대 (전문 대조)
- 1.R. Solé, G. Ruffini, F. Castaldo, M. Tuccio, L. F. Seoane, M. de Domenico, S. F. Elena, D. C. Krakauer, M. Levin. "Large-Language Models as a Cognitive Virus." arXiv: 2609.03344, v1 2026년 9월 3일 제출, 12쪽 3그림, physics.soc-ph. 본문의 식 (1)부터 (20)까지, 임계값 0.50과 0.40과 약 0.420, Table 1의 여섯 개입, 평균 인지 역량 0.425와 0.617, 본문에 옮긴 축자 인용 열 문장을 이 판본의 전문에서 확인했다. 인용문 안의 참고문헌 번호 표시는 읽기를 위해 덜어 냈다. 저널 게재본은 없고 라이선스는 CC BY-NC-SA 4.0이다. 본문이 세 곳에서 가리키는 보충자료는 공개 제출물에 포함돼 있지 않다.
논문이 인용한 실증 (원문 초록 확인)
- 2.H. Bastani, O. Bastani, A. Sungu, H. Ge, Ö. Kabakcı, R. Mariman. "Generative AI without guardrails can harm learning: Evidence from high school mathematics." PNAS 122, e2422633122 (2025). doi:10.1073/pnas.2422633122. 고교생 약 천 명 현장 실험. 48%와 127%의 향상, 접근을 거둔 뒤의 17% 하락, 목발이라는 표현이 모두 초록에 인쇄돼 있다.
- 3.S. S. H. Wong, S. X. Qiu. "Think First, ChatGPT Later: Guiding Human–AI Collaboration for Learning Gains in Independent Human Creativity." Educational Psychology Review 38, 45 (2026). doi:10.1007/s10648-026-10118-7. 대학생 196명, 세 집단, 두 번째 과제에서의 역전이 초록에 기술돼 있다.
- 4.H.-P. Lee, A. Sarkar, L. Tankelevitch, I. Drosos, S. Rintel, R. Banks, N. Wilson. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems, pp. 1–22 (2025). 지식노동자 319명, 실제 업무 사례 936건. AI에 대한 신뢰와 비판적 사고 실행의 음의 관계를 보고한다.
- 5.N. Kosmyna 외. arXiv:2506.08872 (2025) 및 프로젝트 사이트 brainonllm.com. 동료심사 전 프리프린트다. 본문에 옮긴 당부는 프로젝트 사이트의 자주 묻는 질문 항목에서 가져왔다. 언론을 통해 널리 퍼진 두 수치는 초록과 이 사이트에서 확인되지 않아 본문에서 뺐다.
- 6.A. R. Doshi, O. P. Hauser. "Generative AI enhances individual creativity but reduces the collective diversity of novel content." Science Advances 10, eadn5290 (2024). doi:10.1126/sciadv.adn5290.
- 7.D. Centola, J. Becker, D. Brackbill, A. Baronchelli. Science 360, 1116 (2018). 논문이 사회 관습의 급전이 선례로 인용하는 실험이다.
- 8.F. Courchamp, L. Berec, J. Gascoigne. Allee Effects in Ecology and Conservation (Oxford University Press, 2008). 집단 강화 항의 생태학 출처로 논문이 드는 문헌이다.
- 9.본문이 개념을 빌려 온 문헌 넷. E. F. Risko, S. J. Gilbert. Trends in Cognitive Sciences 20, 676 (2016) — 인지 위탁의 정의. · D. C. Krakauer, Nautilus issue 40 (2016) — 능력을 보태 주는 인지 인공물과 능력과 겨루는 인지 인공물의 구분. 이 논문의 공저자다. · S. Dehaene, L. Cohen, J. Morais, R. Kolinsky. Nature Reviews Neuroscience 16, 234 (2015) — 문해력이 기존 신경 회로를 재편성한다는 근거로 1.1의 읽기·쓰기 대목에서 인용된다. · H.-Y. Liao, C.-H. Ko, C.-F. Yen. Biomedical Journal 49, 100998 (2026) — 5.3의 임상 개입 언급이 가리키는 문제적 LLM 사용 문헌. 이 넷의 서지 사항은 1번 논문의 참고문헌 목록에서 옮긴 것이고 각 원문을 따로 열지는 않았다.
통계와 정책 문서
- 10.Stanford HAI, AI Index 2026 (2026년 4월 발표, 2025년 데이터). 글로벌 채택률 53%, 미국 28.3%, 조직 88%. 미국 수치의 대비로 쓴 54%는 세인트루이스 연방준비은행의 2025년 8월 자체 트래커 값이다.
- 11.OECD 회원국 개인 설문 종합(2025년 데이터) 평균 36.8%, Eurostat 16~74세 32.7%(2025년, 생성형 AI 문항 첫 해), Pew Research Center 미국 성인 대상 조사 44%(2026년 2월, 응답 5,119명). 세 항목 모두 원문 페이지를 직접 열지 못하고 검색 요약에 기댔다. 인용 시 각 기관 원문 대조를 권한다.
- 12.OECD, Digital Education Outlook 2026 (2026년 1월). AI 접근이 사라지면 우위가 사라지거나 뒤집힌다는 서술의 출처다. 이 발견의 근거가 2번 논문과 겹칠 개연성이 있어 본문에서 독립적 확인이라고 부르지 않았다.
- 13.과학기술정보통신부, 「2025 인터넷이용실태조사」 (2026년 3월 31일 발표, 가구원 50,750명). 생성형 AI 경험률 44.5%, 전년 대비 11.2%p 증가.
- 14.KAIST 연구진의 강제 단절 일기 연구, arXiv:2603.26099 (2026). 참가자 10명, 나흘. 자발적 이탈이 아니라 강제된 단절을 관찰한 질적 연구다.
- 15.학생의 AI 사용 자기보고와 또래 인식 사이의 30%p 격차를 보고한 2026년 CHI 계열 연구. 사회적 바람직성 편향으로 해석된다. 검색 요약 경유이며 원문 서지는 확정하지 못했다.
- 16.학교 스마트폰 정책의 효과를 다룬 NBER 워킹페이퍼 두 갈래. 대형 학군 한 곳에서 시험 점수의 유의한 상승을 보고한 연구와, 잠금 파우치 방식의 효과가 거의 0이라고 보고한 2026년 전국 단위 분석이다. 본문에는 양쪽을 모두 적었다.
- 17.AI 없는 날 권고는 컨설팅 업계에서 나온 처방으로, 원 보고서명과 발행일을 1차 출처에서 확인하지 못해 본문에서 특정 회사의 보고서로 단정하지 않았다. 기업 AI 지표 추적 현황 역시 컨설팅 집계 경유다.