Executive Summary

10월 22일 《네이처》는 세계관(World View) 지면에 테렌스 타오의 칼럼을 실었다. 제목은 「수학은 AI에서 살아남을 수 있을까? 필즈상 수상자 테렌스 타오가 '수학 2.0' 세계를 요구한다」이고, 인쇄판은 658권 1103쪽이다. 칼럼 본문은 유료 장벽에 막혀 전문은 열지 못했다. 그래서 네이처 칼럼을 큰따옴표로 옮긴 곳은 편집부가 제목 아래 붙인 표제문 하나뿐이다. 나머지는 검색 발췌와 타오 자신의 요약을 거친 간접화법으로만 적는다.

"기계가 문제 풀이에서 앞서 달려 나가는 지금, 수학자들은 해답을 더 많이 내놓는 일보다 사람의 이해를 더 높이 치는 새 시대를 세워야 한다." 원문: "As machines race ahead in solving problems, mathematicians must establish a new era that prizes human understanding over simply publishing more solutions." (Nature 658, 1103, 2026-10-22 표제문)

이 칼럼을 두고 흔히 "타오가 네이처에서 수학 2.0을 제안했다"고 말한다. 절반만 맞다. 타오가 쓴 1차 문헌을 날짜순으로 열어 보면, 칼럼의 핵심 개념 셋이 서로 다른 글에서 먼저 나왔다. 「증명의 희소성에서 과잉으로」와 「증명의 소화불량」은 8월 17일 arXiv에 올린 에세이 「AI 시대의 수학」에 있고, 그 에세이 자체가 7월 국제수학자대회 공개 강연을 논문 꼴로 옮긴 것이다. 「수학 2.0」이라는 말은 그 에세이에 한 번도 나오지 않는다. 그 말이 처음 공개된 자리는 10월 6일 마스토돈에 올린 네 편짜리 글이다. 수학 2.0에서 무엇을 할지 아홉 가지 예시로 푼 것은 사흘 뒤 칼텍에서 한 공개 강연의 슬라이드이고, 거기에는 거꾸로 「소화불량」이라는 말이 한 번도 없다. 네이처 칼럼은 이 넉 달의 결론을 대중 독자에게 압축한 자리다. 제목의 "Maths 2.0"은 영국식 표기로, 네이처 편집부가 붙인 것이다.

아래부터 네 문헌은 표의 굵은 이름으로 부른다. 「8월 에세이」, 「10월 6일 글」, 「칼텍 강연」, 「네이처 칼럼」이다. 어느 문장이 어느 글에서 왔는지가 이 주제에서는 사실 정확성의 전부라서, 본문은 문장마다 출처를 밝힌다. 네이처에 없는 슬라이드 내용을 "네이처에서 타오는"으로 적으면 그것이 곧 오류다.

굵은 네 행이 본문이 출처로 삼는 1차 문헌이다. 10월 6일 공개 시각은 저장소 최초 커밋의 메타데이터이고, 한국어 위키백과가 "10월 7일"로 적은 이유가 이 시차다. 아래에서는 6일로 통일한다.

한국 보도는 전부 칼텍 강연을 다뤘다. AI타임스는 10월 12일 암 치료 사고실험에 대한 반론을, 모비인사이드는 10월 16일 강연의 요지를 블로그와 SNS 귀속으로 전했고, 긱뉴스에는 슬라이드 PDF 링크가 올라왔다. 10월 22일 네이처 칼럼을 다룬 한국어 글은 10월 31일 현재 찾지 못했다. 영어권도 비슷하다. 고워스, 버저드, 엘렌버그 같은 수학자들이 네이처 칼럼에 직접 반응한 글은 검색되지 않았고, 익명 박사후연구원이 10월 22일 "거의 매일 누군가에게 선수를 뺏길까 두렵다"고 쓴 블로그 글이 칼럼과 같은 날 올라온 정도다.

한 가지 사이드를 적어 둔다. 전문가에게 쓴 칼럼이 나온 그 주에 타오가 대중에게 쓴 첫 책도 나왔다. 『Six Math Essentials』, 퀀타 북스, 128쪽, 미국 출간 10월 27일이고 영국판은 펠리컨에서 같은 날 96쪽으로 나왔다. 수, 대수, 기하, 확률, 해석, 동역학 여섯 개념을 다루는 입문서라 소화불량 이야기와는 별개다. 다만 같은 주에 전문가 칼럼과 대중서가 함께 나왔다는 사실은 우연한 각주가 된다. 타오가 네이처에서 말한 「설명」이라는 활동을 그 자신이 어디까지 실천하는지 보여 주기 때문이다.

타오의 논지는 한 가지 전제에서 출발한다. 전통 수학, 그가 「수학 1.0」이라 부르는 세계는 증명이 귀하다는 가정 위에서 돌아갔다는 것이다. 칼텍 강연의 둘째 장은 이렇게 적는다. 열린 문제의 해를 찾고 그것이 맞음을 증명하는 일은 어렵고 드물었으며 상당한 전문성을 요구했다. 그래서 수학 1.0의 제도와 전통, 보상 체계와 공식 목표 대부분이 이 희소성 가정 아래 조직됐다. 8월 에세이는 같은 말을 더 구체적인 목록으로 적는데, 그 문장은 3절에서 큰따옴표로 옮긴다.

그렇다면 왜 하필 수학이 먼저 뚫렸는가. 칼텍 강연은 증명이 가진 세 가지 성질을 든다. 이 셋은 뒤에 나올 데이터 품질 이야기의 열쇠이기도 하다.

2.1객관 검증, 디지털화, 그리고 고품질 데이터

첫째는 객관적 검증 가능성이다. 어떤 수학이 흥미롭고 생산적인지는 수학자마다 의견이 다르지만, 주어진 문제의 올바르고 완전한 증명이 무엇인지에는 넓은 합의가 있다. Lean 같은 증명 보조 언어로 쓰면 기계가 증명을 검사할 수도 있다. 둘째는 디지털화 가능성이다. 증명은 물리적 실체가 필요 없고, 현실 세계의 데이터를 입력으로 받지 않으며, 결과를 확인하려고 실험을 할 필요도 없다. 원칙적으로는 종이와 연필, 그리고 정의를 공급할 표준 교과서만 있으면 증명을 만들고 검증할 수 있다. 셋째는 대규모 고품질 데이터다. 복잡한 문제를 풀려면 해당 분야의 연구 문헌을 알아야 하는데, 그 문헌의 엄청난 양이 이미 디지털로 존재한다.

"객관적 검증 가능성, 디지털화 가능성, 그리고 대규모 고품질 데이터셋의 결합이 수학 문제 풀이라는 과제를 현대 AI를 움직이는 기계학습 기법에 특히 잘 맞는 것으로 만들었다. 그래서 최전선 AI 연구소들은 위 세 성질 중 하나 이상이 빠진 다른 응용보다 수학 문제 풀이 능력의 진전을 앞세웠다." 원문: "This combination of objective verifiability, digitizability, and large, high-quality data sets have made the task of solving mathematical problems particularly amenable to the machine learning techniques that power modern AI. Frontier AI labs have thus prioritized advances in mathematical problem-solving capability, ahead of other applications which lack one or more of the above three features." (칼텍 강연 슬라이드)

이 셋째 조건을 눈여겨봐야 한다. 증명 과잉 시대를 연 것은 모델만이 아니다. 수학자들이 수백 년에 걸쳐 다듬어 둔 정본 문헌, 곧 교과서와 참고서에 실린 형태의 수학이 학습 데이터로 있었기 때문이다. 8월 에세이는 이 점을 더 날카롭게 말한다. 이 도구들의 학습 데이터는 문자 그대로 정전화 과정의 산출물이라는 것이다. 수학이 먼저 뚫린 이유와 뒤에서 말할 소화불량의 가장 큰 대가가 같은 자리에서 만난다.

▲ 페블러스 원본 도식. 칼텍 강연이 든 증명의 세 성질(2.1절)을 한 그림으로 모은 것.

2.2들쭉날쭉한 능력, 그래도 조건부 분석

칼텍 강연은 그 결과를 이렇게 적는다. 지금은 연산과 최전선 모델만 충분하면, 전에는 어렵다고 여겨지던 열린 문제 상당수의 해를 비교적 빨리 얻을 수 있다. 점점 더 자주, 질문을 던지는 사람에게 특별한 전문성이 요구되지도 않는다. 반면 주관적이거나 현실 세계와 상호작용해야 하거나 데이터가 드문 과제에서 AI의 성적은 그와 뚜렷이 대비된다. 타오는 이것을 「들쭉날쭉한(jagged) 능력」이라 부른다. 어떤 방향으로는 놀랍고 다른 방향으로는 부족하며, 이는 수학 안에서도 그렇고 더 넓게도 그렇다. 언론 보도와 SNS가 주는 인상과 달리, 수학 최전선의 문제 대부분은 막대한 연산을 쓰고도 여전히 풀리지 않았다. 같은 강연이 분명히 해 둔 점이다. 문제의 공간은 무한하고 난이도에는 상한이 없다.

8월 에세이는 이 전망을 「작업 가설」이라는 이름으로 못 박고, 거기에 조건을 단다. AI 도구가 머지않아 연구 수준 수학 과제의 상당 부분을 합리적인 성공률과 품질, 감독, 비용으로 수행하게 된다는 가설인데, 타오는 독자에게 그것이 참이기를 바라거나 믿거나 받아들이라고 요구하지 않는다고 적는다. 뒤따르는 분석은 조건부라는 것이다. 이 유보는 아래 논의에도 그대로 적용된다. 아래의 소화불량 논의는 "AI가 수학을 다 풀었다"는 전제가 아니라 "그런 방향으로 가고 있다면"이라는 전제 위의 분석이다.

2.3측정값이 목표가 될 때

문제 풀이는 역사적으로 연구 수학의 가장 눈에 띄는 목표였지만, 칼텍 강연에 따르면 그것은 더 값진 장기 목표의 대리 지표였을 뿐이다. 이 대리 지표는 증명이 귀하던 시대에는 대체로 정확했으나 과잉 시대에는 어긋났다. 타오의 표현으로는, 문제 풀이만을 맹목적으로 더 최적화하는 일은 이제 수학의 장기 건강에 적극적으로 해롭다.

8월 에세이는 그 어긋남을 굿하트의 법칙으로 설명한다. 측정값이 목표가 되면 더는 좋은 측정값이 아니라는 것이다. 왜 지금 특히 그런지 두 이유를 든다. 하나는 기술적이다. 생성형 AI는 본질적으로 현실에 근거를 두지 않은(ungrounded) 도구라서, 측정값과 측정하려던 대상 사이의 틈을 사람보다 잘 찾아낸다. 다른 하나는 경제적이다. AI 산업의 재정 유인은 보여 줄 수 있고 인용할 수 있고 벤치마크로 잴 수 있는 성취를 보상한다. 두 유인이 합쳐지면 "열린 문제를 풀었다"는 가장 세기 쉬운 지표에 자원이 몰리고, 그 지표가 원래 대리하던 것, 곧 수학적 이해는 뒤에 남는다. 3절은 그 뒤에 남는 것이 정확히 어디에서 쌓이는지를 본다.

8월 에세이의 6절은 "열린 문제를 푼다"는 목표를 다섯 번 고쳐 쓴다. 첫 판은 문제에서 해로 가는 화살표 하나다. 그런데 해가 맞는지 확인해야 하고(둘째 판), 확인된 해라도 남이 읽을 수 있게 써야 하며(셋째 판), 잘 쓰인 해라도 공동체가 소화하고 받아들여야 하고(넷째 판), 받아들인 결과라도 결국 교과서와 참고서에 실리는 꼴로 다듬어야 한다(다섯째 판). 에세이의 그림 4가 이 다섯 판을 한 사슬로 그리고, 캡션은 이렇게 적는다. 화살표 하나로 시작한 것이 다섯 단계의 사슬이 됐는데, 그중 공동체의 명시적 목표였던 적이 있는 것은 첫째뿐이라고.

아래 도식은 그 그림 4를 다시 그린 것이다. 단계 이름은 에세이의 화살표 라벨을 그대로 옮겼다. 생성, 검증, 설명, 출판, 정전화다. 일부 보도가 "여섯 단계"라 적은 것은 에세이가 넷째 화살표 뒤에 「소화」와 「정전화」를 나란히 적은 것을 둘로 센 결과인데, 에세이 본문은 소화(digestion)를 뒤의 네 단계 전체를 아우르는 상위어로도 쓴다. 다섯째 단계의 고유한 이름은 정전화(canonicalization)다.

▲ 8월 에세이 그림 4를 다시 그린 것. 노드 여섯과 화살표 다섯의 이름은 원 그림의 라벨을 옮겼고, 굵기와 네 틈의 표시는 에세이 7절의 서술에 따라 이 글이 더했다.

3.1소화불량은 네 틈의 목록이다

에세이 7절은 작업 가설이 성립하고 정책과 문화가 그대로라면, 이 사슬 전체에서 상당한 "임피던스 부정합", 덜 점잖은 비유로는 "증명의 소화불량"이 나타날 것이라 적고, 어디에서 나는지를 네 줄로 적는다. 옮기면 이렇다.

• AI가 만든 증명은 검증되는 속도보다 빨리 쌓인다.
• 검증된 AI 증명은 읽을 만한 서술을 얻는 속도보다 빨리 쌓인다.
• 맞고 잘 쓰인 AI 증명조차 자원봉사 전문가 노동에 기대는 전통적 동료 심사 체계를 압도한다.
• 출판된 증명조차 공동체가 정본 꼴로 다듬기엔 너무 많아진다.

이 넷은 위 도식의 네 틈과 정확히 하나씩 대응한다. 소화불량이 어느 한 곳의 병목이 아니라 앞의 두 단계만 빨라진 사슬 전체의 증상이라는 뜻이다. 그리고 타오는 왜 제도가 이 증상에 약한지를 한 문장으로 짚는다. 이 문장이 "수학계의 연구·교육·평가 제도가 희소성을 전제로 운영됐다"는 요약의 원문이다.

"우리 제도의 대부분, 곧 학술지, 우선권 관행, 채용과 승진 기준, 상, 그리고 연구 프로그램이라는 개념 자체가 희소성의 가정 아래 설계됐으니, 과잉 아래에서 그것들이 제대로 작동하지 않더라도 놀랄 일은 아니다." 원문: "Most of our institutions — journals, priority conventions, hiring and promotion criteria, prizes, the very notion of a research program — were designed under the assumption of scarcity, and it should not surprise us if they behave poorly under abundance." (8월 에세이 7절)

에세이는 소화불량의 징후가 AI 이전에도 있었다고 덧붙인다. 문헌량의 증가, 주요 증명의 길이와 전문화, 심사 체계에 걸린 부담은 모두 지금보다 앞서 기록된 것들이고, AI는 이 기존 스트레스를 두드러지게 키운다.

3.210월 6일, 틈 1이 숫자로 보인 날

네이처 칼럼이 든 사건이 이것이다. 칼럼은 10월 6일 오픈AI가 그런 문제들의 해답 수백 건을 한꺼번에 온라인에 쏟아냈고, 그것이 수많은 연구 계획을 하룻밤에 흔들었다고 쓴다. 여기서 "수백 건"은 결과를 세는 단위다. 같은 사건을 원고로 세면 722편이고 결과 묶음으로 세면 372개인데, 이 수들은 페블러스가 10월 13일 저장소를 공개 시점 커밋까지 내려받아 직접 센 리포트의 것이다. 그 리포트가 확인한 것 하나가 이 절의 핵심이다. 기계가 증명을 확인한 비율이 세는 기준에 따라 셋 나온다. 원고로 세면 약 24%, 결과 묶음으로 세면 약 36%, 저장소 README가 적은 값은 약 42%다. 그리고 공개 사흘 안에 세 편이 철회돼 원고는 719편이 됐다.

타오의 사슬에 놓으면 이 수치가 무엇인지 분명해진다. 공개된 것은 전부 틈 1에 놓인 미검증 해이고, 기계 검증을 통과한 비율이 그중 넷에 하나에서 열에 넷 사이라는 말이다. 틈 2 이후는 아직 세는 사람조차 없다. 타오가 라디오 프로그램 사이언스 프라이데이에서 한 말이 그 상태를 가장 짧게 보여 준다. 이 300편짜리 덤프를 이해하게 도와 달라고 전화를 걸 사람이 오픈AI에는 한 명도 없다는 것이다. 뉴욕타임스 10월 16일 인터뷰에서 그는 공개 전의 AI 수학 결과물을 "유독 폐기물"에 비유했다가, 공개 후에는 "어쩌면 처리된 폐기물"이라고 스스로 고쳐 말했다. 두 표현은 짝으로 읽어야 한다. 앞의 것만 떼어 내면 타오 자신이 완화한 평가를 왜곡하게 된다.

3.3검증은 하루, 소화는 사건마다 다르다

"앞의 둘만 빨라졌다"를 수치로 대 볼 수 있다. 올해 AI가 낸 수학 결과 네 건에 대해 생성, 기계 검증, 그리고 사람이 이해하고 설명할 수 있는 상태까지 걸린 시간을 나란히 놓으면 아래와 같다. 앞의 세 행은 페블러스가 앞서 다룬 사건이고, 넷째 행이 이번 10월 6일 묶음이다. 결론부터 적으면 기계 검증은 빠를 때 하루 안에 끝났지만, 사람이 소화하는 데 걸린 시간은 이틀부터 몇 주까지 사건마다 달랐고, 10월 6일 묶음은 25일이 지나도록 대부분이 아직 소화되지 않았다.

앞의 세 행은 페블러스의 8월 9일 리포트와 6월 19일 글의 수치를 그대로 옮긴 것이다. 야코비안 반례는 세 점을 대입해 행렬식을 전개하면 끝나는 유한 계산이라 검증이 거의 공짜였고, 타오 자신이 바로 달려든 유명 사례라 선택 편향이 있다. 소화불량이 항상 느리다는 말이 아니라, 검증 뒤의 속도가 사건마다 하루에서 몇 달까지 갈린다는 것이 이 표의 요지다.

표에 없는 대조 사례 하나를 8월 9일 리포트가 적어 뒀다. 야코비안 반례 2주 뒤 오픈AI가 Astra로 미해결 문제 열 개를 풀면서 Lean 증명과 사고 과정 서술, 정리된 원고까지 함께 공개했는데도, 문제를 낸 쪽에서 왜 그 경로로 풀렸는지 모르겠다는 반응이 나왔다. 공개하는 양을 늘려도 이해의 공백은 저절로 메워지지 않는다는 것이고, 타오의 말로는 틈 2가 공개량과 무관한 틈이라는 뜻이다.

3.4보고 편향과 First Proof

칼텍 강연에는 한 장짜리 만화 같은 슬라이드가 있다. "와, SNS에서 보는 수학 문제는 전부 AI가 풀고 있네!"라는 말풍선이다. 다음 장이 그 착시에 이름을 붙인다. 보고 편향이다. 공개되는 것은 성공뿐이고, 실패한 AI 시도는 보고되지 않는다. 타오는 자원 소모와 부정적 결과 같은 핵심 통계를 온전히 보고하는 더 투명하고 과학적인 AI 능력 평가가 시급하다고 적고, First Proof를 그 방향의 한 시도로 든다.

First Proof는 배치마다 연구 수준 문제 열 개를 내는데, 해답은 출제자만 알고 온라인 어디에도 올라간 적이 없는 문제들이다. 8월 에세이가 적은 2차 배치 결과는 열 문제 가운데 일곱이 네 시스템 중 적어도 하나에서 합격점을 받았고 문제당 연산 비용이 수십에서 수백 달러였다는 것이다. 3차 배치 결과는 10월 14일에 공개됐는데, 인용과 서술 문제를 빼면 열 문제 전부가 어떤 시스템에서든 정답에 닿았다. 네이처 칼럼이 나오기 8일 전 수치다. 두 배치는 문제가 다르니 "7에서 10으로 올랐다"고 읽으면 안 된다. 여기서 가져갈 것은 둘이다. 능력은 실제로 빠르게 오르고 있고, 그것을 실패 건수와 비용까지 적어 공개하는 틀이 이미 있다는 것이다.

3.5가장 느린 단계가 가장 값지다

셋째 단계인 설명에서 지금의 AI가 어디까지 왔는지도 에세이는 적어 둔다. AI가 쓴 수학 텍스트는 철자와 문법과 서식이 거의 흠잡을 데 없다. 반면 사소한 대목에는 길게 머물고, 논증에서 가장 흥미롭고 새로운 부분은 짧게 지나가거나 오히려 가려 버리기 일쑤다. 결과를 선행 문헌 안에 자리매김하지 못하거나, 이 논증이 읽을 가치가 있는지 독자가 판단하게 해 줄 상위 개관을 주지 못하는 경우도 많다. 설명은 검증보다 훨씬 흐릿한 최적화 목표이고, 작업 가설대로라면 AI는 여기서도 지금보다 크게 나아질 것이라고 타오는 덧붙인다.

에세이에는 설명 단계에 대한 역설적인 경고도 있다. 증명은 너무 매끈하게 쓰일 수도 있다. 판에 박힌 단계와 진짜 어려운 단계를 똑같이 쉽게 소화되도록 제시하면, 읽는 사람은 어디에 힘이 들어갔는지 알 수 없게 된다. 그 마찰이 정보라고 타오는 말한다. 설명조차 과최적화의 대상이 될 수 있다는 뜻이다.

넷째 단계인 출판에 대해서는 사람의 자리를 더 분명히 긋는다. 증명이 분야에 실제로 기여하려면 맞는 것으로도, 읽히는 것으로도 모자라고 공동체가 받아들이고 값을 쳐야 하는데, 이 수용은 본성상 느리고 사람의 일이라 저자와 도구만으로는 최적화할 수 없는 외부 과정이다. 저자가 도울 길은 있다. 문제를 붙들던 시기의 통찰과 헛발질과 뒷이야기를 적는 것이다. 그런데 지금의 AI 도구는 자기 문제 풀이 과정에 대해 꽤 불투명하고, 내부 작동이 기업 비밀인 독점 모델은 특히 그렇다고 에세이는 적는다.

수용을 떠받치는 것은 자발적으로, 대개 공로 인정도 없이 일하는 편집자와 심사자다. 이 노동은 증명을 만드는 일보다 덜 명예로운 것으로 취급되지만, 개인의 성취를 집단의 진보와 이해로 바꾸는 바로 그 기전이라고 타오는 본다. AI 평가 도구가 검증 부족이나 귀속 누락이나 앞뒤 없는 설명을 표절 검사처럼 자동으로 걸러 전문가의 주의라는 희소 자원을 아낄 수는 있겠다고 에세이는 인정한다. 그러나 자동 필터를 통과하는 것이 공동체의 수용을 대신하지는 못하며, 사람 심사자를 출판 과정에서 뺄 수 있다고는 생각하지 않는다는 것이 그의 입장이다. 3.1절의 셋째 틈이 왜 자원봉사 노동에 걸리는지가 여기서 설명된다.

그리고 마지막 단계에 대해 에세이는 가장 긴 문단을 쓴다. 출판이 끝이 아니다. 핵심 결과는 다음 세대에게 가르치는 형태로 그 분야의 정본 교과서와 참고서에 들어가야 한다. 그러려면 결과를 자연스러운 일반성으로 다시 쓰고, 첫 증명이 아니라 올바른 증명을 붙이고, 이웃 결과와 잇고, 표준 도구 상자에 흡수시켜야 한다. 이 정전화 과정이 모든 단계 중 가장 느리다. 넓고 숙고된 합의가 필요하고, AI 도구로 최적화하기에 가장 어려운 단계이며, 타오 자신의 견해로는 전체 과정에서 가장 값진 부분이다. 이 단계가 2절의 셋째 조건과 만난다.

"실로 AI 도구가 수학에서 거둔 성공 자체가 인간 수학자들이 수백 년에 걸쳐 공들여 세우고 다시 세운 정본 이론에 결정적으로 기대고 있다. 이 도구들의 학습 데이터는 문자 그대로 정전화 과정의 산출물이다." 원문: "Indeed, the very success of AI tools in mathematics depends crucially on the canonical theories that human mathematicians have painstakingly built and rebuilt over the centuries: the training data for these tools is, quite literally, the output of the canonicalization process." (8월 에세이 6절)

타오의 글에서 위기는 세 갈래로 읽힌다. 셋으로 묶어 번호를 붙인 것은 이 글이다. 타오 자신은 어느 글에서도 "세 가지"라고 세지 않았고, 세 갈래의 원형은 10월 6일 글의 둘째 편 한 문단에 뭉쳐 있으며, 네이처 칼럼의 전반부가 셋을 다 담되 번호 없이 이어 쓴다. 증명이 이해로 이어지지 않는 것, 문제를 공개하고 함께 푸는 문화가 흔들리는 것, 그리고 새 수학자를 길러 내는 경로가 끊기는 것이다. 각각 어느 글에서 무엇이 나왔는지 적는다.

▲ 페블러스 원본 도식. 10월 6일 글 한 문단에 뭉쳐 있던 세 갈래(4.1~4.3절)를 이 글이 갈라 그린 것.

4.1증명이 쌓여도 이해는 그만큼 늘지 않는다

10월 6일 글의 첫째 편은 수학 1.0에서 큰 증명 하나가 무엇을 낳았는지 돌아본다. 오래된 추측이 풀리면 그 뒤에 많은 활동이 따라왔다. 세미나와 강연, 후속 논문, 다른 문제로의 확장, 그리고 증명이 소화되고 간결해지고 다른 결과와 맥락 속에 놓여 끝내 다음 세대의 교과서와 강의 노트에 들어가는 과정이다. 둘째 편은 지금 벌어지는 일을 그 대조로 적는다.

"문제가 AI 사용자들에 의해 자율적으로 풀리고 있는데, 그들은 처음 겨눈 목표가 '풀리고' 나면 더 넓은 분야 자체에 관심이 없고, AI의 산출물을 그 결과에 대한 질문에 답하거나 강연을 하거나 분야의 나머지와 교류할 만큼 충분히 이해하지도 못한다. 세미나, 워크숍, 협업이 훨씬 적게 생긴다." 원문: "problems are being solved autonomously by AI prompters who have no interest in the broader field itself once their initial target is 'solved', and do not understand the AI output well enough to answer questions on the result, give talks, or otherwise interact with the rest of the field. Many fewer seminars, workshops, collaborations …" (10월 6일 글 2/4)

네이처 칼럼은 같은 말을 대중 독자용으로 옮긴다. AI 시스템이 수학자들이 소화하고 흡수할 수 있는 속도보다 빨리 결과를 만들어 내기 때문에 수학에 대한 사람의 이해가 뒤처진다는 것이다. AI 도구를 쓰는 일부 연구자는 최소한으로 제시 가능한 증명을 얻으면 다음 문제로 넘어가 버린다고도 적는다. 많은 AI 생성 결과가 출판 품질 기준을 맞출 만큼 명확하게 서술되지 않았다는 지적도 있다. 3절 표의 Astra 사례가 이 진단의 실물이다. 공개하는 양을 늘린 사례에서도 이해의 틈은 그대로였다.

4.2문제를 공개하는 일이 위험해진다

수학은 열린 문제를 공개하고 동료에게 아이디어를 구하는 관행 위에서 수백 년을 굴러왔다. 10월 6일 글의 둘째 편은 그 관행이 바뀌는 중이라고 말한다. 유망한 열린 방향들이 자기 연구를 남에게 선수 뺏길까 봐 공개되지 않고 감춰진다는 것이다. 네이처 칼럼은 같은 현상을 최전선 AI 모델을 갖춘 경쟁자에게 연구 방향을 빼앗길까 하는 두려움으로 그린다. 1절 끝에 적은 익명 박사후연구원의 글이 그 두려움을 1인칭으로 보여 준다.

타오가 이 문제를 단순한 경쟁의 문제로 보지 않는 이유는 셋째 편에 있다. 비가역성이다.

"'풀린' 문제를 어떻게든 '풀리지 않은' 상태로 되돌릴 수는 없고, 해가 존재한다는 사실을 아는 것만으로도 … 노력은 '오염'된다. … 열린 문제의 해답이 지금 지속 불가능한 방식으로 대규모로 수확되고 있으며, 수학의 분야 전체가 훨씬 덜 비옥한 상태로 남겨진다." 원문: "a problem that has been 'solved' cannot be somehow reverted to become 'unsolved', and even the mere knowledge that a solution exists 'contaminates' efforts … solutions to open problems are now being harvested at large scale in an unsustainable fashion, leaving entire fields of mathematics much less fertile" (10월 6일 글 3/4)

칼텍 강연은 이 생각을 등대 비유로 푼다. 순수수학에서 열린 문제는 그 자체로 도달해야 할 목적지가 아니라 주변의 수학 풍경을 탐색하게 하는 안내 등대이고, 풀려고 애쓰는 동안 배운 것이 최종 해답보다 값진 경우가 많다. 자동화 도구로 등대에 너무 일찍 닿으면 가지 않은 길의 탐색이 끊기고 주변 분야가 불모지가 된다는 것이다. 9월 초 타오가 마스토돈에 적은 "열린 문제는 재생 불가능한 자원"이라는 말이 이 비유의 예고편이었다.

4.3위협은 생태계에 먼저 닿는다

박사과정 학생은 특정 난제에 매달리고 일부라도 풀어 내면서 연구자가 된다. 네이처 칼럼은 대학원생과 젊은 연구자들이 바로 그런 문제로 실력을 쌓아 왔는데, 10월 6일의 일괄 공개로 그런 연구 계획 상당수가 하룻밤 사이 흔들렸다고 쓴다. 뉴욕타임스 인터뷰에서 타오는 자신 같은 선임 연구자는 덜 위협받는다는 말도 했다. 위협은 수학자라는 직업이 아니라 새 수학자를 길러 내는 생태계에 먼저 닿는다.

8월 에세이의 맺음말에 이 문제를 한 줄로 적은 문장이 있다. 수학자를 기르는 목표는 정답 숙제를 내놓는다고 달성되지 않는다는 것이다. AI가 학생 대신 숙제를 맞게 풀어 준다고 해서 학생이 수학자가 되지는 않는다는 뜻이다. 뒤집어 읽으면, AI가 난제를 대량으로 풀어 치우고 나서 남는 문제는 "학생에게 무엇을 시킬 것인가"라는 교육의 문제다. 익명 박사후연구원의 글은 그 자리에서 문장 하나를 더 보탠다. 규칙이 젊은 수학자에게만 바뀔 수는 없다는 것이다.

같은 맺음말은 결론이 영역마다 같지 않을 것이라고도 말한다. 교육과 젊은 수학자 양성에서는 이 일의 환원할 수 없는 인간적 측면을 강조하고 AI 도구 사용을 꽤 엄격하게 제한하는 것이 결정적이라는 것이다. 다른 영역에서는 거꾸로 수학자들이 먼저 나서서, 공급 업체가 정해 주는 조건이 아니라 자신의 조건으로 도구를 작업 흐름에 들이는 모범 사례를 정해야 한다는 것이다. AI를 막자고 하지 않는 타오가 교육에서만큼은 제한 쪽에 선다는 점은 5절의 처방을 읽을 때 같이 두어야 할 단서다.

4.4세 갈래 밑에 깔린 네 번째 문제, 귀속

네이처 칼럼이 짧게 짚고 넘어가는 문제가 하나 더 있다. AI가 낸 결과가 선행 연구에 얼마나 기대고 있는지 알 수 없어서 공로를 누구에게 돌릴지가 불명확해진다는 것이다. 8월 에세이는 이 문제를 라이덴 선언의 권고 두 개를 그대로 인용해 다룬다. 하나는 저자됨의 인간성을 확인하라는 권고로, 공로와 책임은 수학 공동체 안의 사람에게 계속 속하며 자동화 시스템에 주어져서는 안 된다는 것이다. 다른 하나는 적절한 귀속에 공을 들이라는 권고다. 자동화 도구는 아이디어의 출처를 제대로 밝히지 못하니, 결과를 가능하게 한 출처를 찾아 밝힐 의무는 사람에게 그만큼 더 커진다. 만족스러운 귀속이 불가능하면 그 사실을 논문에 명시하라는 말까지 선언에 적혀 있다.

페블러스는 이 축을 두 번 다뤘다. 6월 30일 라이덴 선언 글은 선언이 명문화한 다섯 가치를 출처와 책임이라는 한 줄로 묶었고, 8월 9일 리포트는 형식 검증이 닫지 못하는 계보의 공백을 다섯 패턴으로 정리했다. 그 리포트가 옮긴 수치 하나가 귀속 문제의 밑바닥을 보여 준다. 학술지 열에 일곱이 AI 사용 공시 정책을 두고 있는데도, 2023년 이후 논문 7만 5천 편 가운데 AI 사용을 명시적으로 공시한 것은 76편, 약 0.1%였다. 공시 의무는 있는데 지켜지지 않는 상태에서 AI가 낸 수학 결과가 수백 건씩 들어오면, 타오가 적은 네 틈 어디에도 "누구의 결과인가"를 적을 칸이 없다.

타오의 처방은 AI의 문제 풀이를 막자는 것이 아니다. 수학자의 일을 평가하는 기준 자체를 바꾸자는 것이다. 「수학 2.0」이라는 이름이 처음 붙은 10월 6일 글의 넷째 편이 그 기준을 세 가지 방향으로 적는다.

"'수학 2.0'은 날것의 문제 풀이가 차지하던 중심 자리를 내리고 수학의 진보를 더 총체적으로 평가해야 할 것이다. 예컨대 설명의 역할을 높이되, 공동체를 세우는 일과 새로운 연구 방향을 여는 일의 역할도 함께 높이는 식이다. … 우리 공동체는 교육, 출판, 경력 진전의 기준을 '수학 2.0' 시대에 맞게 명시적으로 다시 평가해야 할 것이다." 원문: "'Math 2.0' will need to decenter the role of raw problem solving and value mathematical progress more holistically - for instance by elevating the role of exposition, but also that of community building and opening up new directions of study. … our community will need to explicitly re-evaluate its criteria for education, publication, and career advancement, to reflect the 'Math 2.0' era." (10월 6일 글 4/4)

8월 에세이는 같은 처방을 3절의 사슬 위에 놓는다. 우리 문화가 증명 생성에, 특히 어떤 문제를 "처음" 푸는 일에 두는 비중을 줄이고, 그만큼 증명의 소화에, 곧 설명과 심사와 출판과 정전화에 두는 비중을 늘려야 한다는 것이다. 에세이는 이 대목에서 다비드 베시스의 4월 글을 함께 들어, 증명 생성에 주로 기대는 「정리 경제」에서 벗어나야 한다고 쓴다. 온라인에 도는 요약문은 이것을 흔히 "수학 2.0에서 중요하게 다뤄야 할 활동 네 가지"로 간추리지만, 넷이라는 수는 어느 문헌에도 없다. 10월 6일 글의 셋과 칼텍 강연의 아홉이 있을 뿐이다.

5.1칼텍 강연이 든 활동 아홉 가지

칼텍 강연은 아홉 가지 활동 예시 앞에 실험수학의 새 시대를 먼저 둔다. 전에는 만들 수 없던 대규모 수학 데이터셋을 이제 모을 수 있게 됐고, 그 데이터로 사례 연구가 아니라 인구 조사 같은 수학을 할 수 있다는 것이다. 든 예는 둘이다. 등식 이론 프로젝트(ETP)는 보편대수의 참·거짓 명제 2,200만 개를 사람의 논증과 자동 논증을 함께 써서 57일 만에 가렸고, 역갈루아 문제 챌린지(IGP24)는 차수 24에서 가능한 갈루아군 25,000개 각각에 대응하는 다항식을 크라우드소싱으로 전부 찾아낸 뒤 차수 31까지 확장 중이다. 그다음에 오는 아홉 예시를 아래 표로 옮기고, 이미 돌아가는 것에는 날짜와 수치를 붙였다. 아홉 가운데 날짜나 수치를 붙일 수 있을 만큼 이미 돌아가는 것은 앞의 셋이고, 강연이 곧 공개라 한 오픈소스 수학 모델은 아직 나오지 않았다.

활동 아홉의 요지는 칼텍 강연 슬라이드 세 장(Examples / More examples / Even more examples)의 문장을 옮긴 것이다. 셋째 열의 날짜와 수치는 각 프로젝트의 공식 페이지와 보도를 확인한 것이고, "구체 프로젝트 없음"은 강연이 예를 들지 않았다는 뜻이지 아무도 하지 않는다는 뜻이 아니다.

그런 요약문이 "타오가 별도로 정리한 수학 2.0 구상"이라 부르는 세 가지, 곧 왜 참인지 이해하기 어려운 결과를 다시 설명하는 연구, 여러 논문을 통합하는 작업, 형식 증명 라이브러리 구축은 이 표의 1·2·3번이다. "AI 결과의 의미와 한계를 검증하는 일"은 9번과 네이처 칼럼의 검증 언급에서 온다.

8월 에세이는 강연보다 두 달 앞서 같은 자리를 부록으로 채워 두었다. 전통적 작업 흐름을 보완할 새 기반으로 공동 형식화 프로젝트, 구조화된 문제 데이터베이스, 설명을 위한 새 지면, 부정적 결과와 부분적 결과를 출판할 새 지면을 들고, 이미 있는 예로 일곱을 든다. 형식 수학 라이브러리 Mathlib, 연구 강연을 동료 심사해 싣는 영상 학술지 Mathematical Discourse, 에르되시 문제 데이터베이스, 최적화 상수 데이터베이스, SAIR 재단의 수학 경진, First Proof, 그리고 형식 증명 등록소 Palomar다. 표의 3번 Mathlib과 3.4절의 First Proof가 이 일곱에 들어 있다. 표의 "구체 프로젝트 없음"이 강연의 침묵일 뿐이라는 캡션의 단서가 여기서 일부 채워진다.

5.2라이덴 선언, 권고 스물셋과 가치 다섯

8월 에세이는 전체 프로그램을 스스로 제안하는 대신 라이덴 선언을 가리킨다. 2026년 6월에 발표되고 국제수학연맹이 지지한 이 선언을 타오는 「훌륭한 출발점」이라 부른다. 2025년 라이덴 로렌츠 센터 워크숍에서 나온 것으로, 개인 수학자, 수학 단체와 비영리 재단, 정책 입안자를 향한 권고 스물세 개로 이뤄져 있다고 소개한다. 그중 개인 수학자 대상 권고 넷을 인용해 하나씩 논평하는데, 4절에서 옮긴 귀속 관련 둘 외에 도구 사용을 공개하라는 것과 심사의 필요를 지원하라는 것이다. 피해야 할 최악의 시나리오로 타오가 드는 것은 저자가 동료의 비판을 피하려고 AI 사용을 숨기는 것이다. 페블러스의 6월 30일 글이 같은 선언을 다섯 가치로 정리했으니, 선언은 가치 다섯과 권고 스물셋으로 읽으면 된다. 발표 첫날 130명이 서명했고 24시간 안에 1,000명을 넘긴 문서다.

권고 넷에 논평을 붙인 끝에 타오는 자기 자신의 경험칙 하나를 내놓는다. 3절의 사슬에서 설명과 출판 사이에 걸어 둔 문턱이고, 형식 검증이 끝이 아니라는 이 글의 논지를 타오 자신의 말로 적은 문장이다.

"내 나름의 경험칙은 이렇다. 저자가 자기 결과에 대해 명료하고 전문가 수준인 강연을, 그것도 맞고 제대로 귀속된 강연을 할 수 있음을 설득력 있게 보이지 못한다면 그 결과는 출판되어서는 안 된다. 어떤 사람도 제대로 설명할 수 없는 증명은 형식 검증을 통과했더라도 불완전한 것으로 봐야 한다." 원문: "My own suggested rule of thumb: if the authors cannot convincingly demonstrate that they are able to give a clear, expert-level talk on their results, one that is correct and properly attributed, then the result should not be published. A proof that no human can properly explain should be viewed as incomplete, even if it has been formally verified." (8월 에세이 8절)

5.3반론, 그리고 병목은 상상력이라는 결론

타오보다 비관적인 목소리도 있다. 뉴욕시립대 버룩 칼리지의 맥스 와인라이히는 「AI 생성 수학의 위기」라는 글에서 제도 재설계로 이 위기가 풀린다는 전망 자체에 회의적이고, 채용과 승진에서 AI 없이 한 작업에 더 무게를 두자는 쪽에 선다. 와인라이히의 글은 8월 초 arXiv에 올라 10월 18일 개정됐고 미국수학회 노티시스 게재가 확정됐다. 타오는 그 글을 자기 AI 관련 자료 목록에 올려 두었다. 두 사람이 갈리는 자리는 진단이 아니라 처방이다.

타오 자신의 결론은 칼텍 강연의 마지막 장에 있다. 네이처 칼럼도 같은 낙관으로 닫힌다. AI가 수학을 깎아내려야 하는 것은 아니며, 창의적으로 쓰고 보상 구조를 정비하면 사람의 이해를 깊게 하는 도구가 될 수 있다는 취지다.

"'수학 2.0'에 이르는 길의 주된 병목은 기술이 아니고, 제도 문화조차 아니다. 상상력이다." 원문: "The primary bottleneck to achieving 'Math 2.0' is not technology, or even institutional culture. It is imagination." (칼텍 강연 마지막 장)

온라인에 도는 요약문들이 통째로 빠뜨린 자리가 여기다. 타오는 소화불량을 순수수학 안의 문제로 두지 않았다. 칼텍 강연은 수학 1.0의 생태계를 한 장의 도식으로 그린다. 순수수학 문제는 객관적으로 검증 가능한 순수수학의 해로 풀린다. 그 과정에서 얻은 통찰은 사람의 이해를 거쳐 응용수학 문제로 옮겨 가고, 거기서 주관적 판단이 필요한 응용 해가 나온다. 열린 문제는 재생 가능한 순환 속에서 풀리고, 순수수학에서 얻은 통찰은 안전하게 응용으로 옮겨진다. 다음 장이 AI를 이 도식에 끼워 넣는다. AI가 재생 불가능한 방식으로 문제를 마구 풀면 분야의 장기 건강만이 아니라 더 지저분한 현실 응용으로의 안전한 이전도 손상된다는 것이다. 그리고 그 손상이 어디에서 나는지를 네 칸짜리 표 하나로 정리한다.

▲ 칼텍 강연의 네 칸 표를 다시 그린 것. 원 슬라이드의 도식은 AI로 생성한 이미지라고 강연 마지막 장이 밝히고 있어 직접 싣지 않았다. 칸의 이름은 원문 그대로이고 작은 글씨 설명은 이 글이 붙였다.

타오의 설명은 이렇다. 현실 세계 시스템에 대한 사람의 이해가 부족한 것 자체는 위험하지 않다. 그 분야가 아직 만족스럽게 수학화되지 않았다는 뜻일 뿐이다. 그러나 그런 이해 부족이 AI의 최적화 능력과 결합하면 오정렬이 생길 수 있다. 슬라이드 한 장은 그것을 공식처럼 적는다. 강력한 AI 더하기 사람 이해의 부재는 오정렬 위험이라고.

6.1암 치료 사고실험과 한국의 반론

강연이 든 사고실험은 이렇다. 고급 AI에게 "3상 임상시험을 통과하는 암 치료법을 찾아라, 실수하지 마라"라고 지시한다. 막대한 연산 뒤 AI는 전에 없던 화학물질 칵테일을 내놓고, 섞어서 주사하면 암세포를 다 죽인다고 주장한다. 어떻게 찾았는지는 아무도 모르지만 AI는 어떻게든 Lean 인증서까지 붙이고, 칵테일은 실제로 3상을 통과한다. 그런데 이 해답이 시험 절차나 그 수학 모델의 약점을 파고든 오정렬일 가능성은 없는가. 여기서 타오는 질문을 독자에게 돌린다. 당신이 초기 암 진단을 받았고 챗봇이 이 치료를 권한다면, 혈관에 주사하기 전에 그 치료의 기전을 부분적으로라도 이해하는 사람 암 전문가가 적어도 한 명은 있다는 사실이 안심이 되겠는가. 혹은 그 칵테일을 찾고 분석하는 데 쓰인 수학 모델을 이해하는 사람 수학자가 있다는 사실이.

한국 보도는 이 대목에 반론을 붙였다. AI타임스는 10월 12일 미국 종양학자 프라사드의 반박을 전했는데, 작동 원리를 모른 채 쓰이는 항암제가 이미 있다는 요지다. 모비인사이드는 10월 16일, 타오의 질문에 들어 있던 "부분적으로라도"라는 단서가 SNS에서 떨어져 나간 채 조롱받은 경위를 적었다. 두 반론은 타오의 논지를 뒤집지 않는다. 타오가 요구한 것은 완전한 기전 이해가 아니라, 이해하는 사람이 한 명이라도 있는 상태와 아무도 없는 상태의 구분이기 때문이다. 네 칸 표에서 위험한 칸은 이해가 약한 칸이 아니라 이해가 약한데 AI가 무거운 칸이다.

6.2신용 승인과 금융 리스크, 그리고 올해 반대로 움직인 규제

네이처 칼럼이 이 사고실험의 현실판으로 든 자리가 금융이다. 칼럼은 순수수학에 한정하면 증명의 소화불량이 사소한 걱정일 수 있다고 인정한다. 그러나 그 기전에 걸맞은 이해 없이 현실 세계에 배치된 AI 생성 수학 모델은 심각한 결과를 낳을 수 있다고 경고하고, 그 예로 신용 승인과 시장 리스크 측정에 이미 쓰이는 AI 모델을 든다. 모델이 사람이 따져 묻기에 너무 불투명하거나 너무 빠르면 오류가 공공 시스템으로 번진다는 것이다. 그 모델을 이해하는 수학자가 있는가라는 물음이 암 치료 칵테일과 같은 구조로 돌아온다.

이 경고를 받칠 규제가 있는지 보면 뜻밖의 그림이 나온다. 미국 연준의 모델 리스크 관리 지침 SR 11-7은 2011년부터 모델의 개발과 사용에서 금융기관의 입증된 모델 이해를 요구했다. 문서화는 모델을 모르는 제3자도 작동 방식과 한계와 핵심 가정을 이해할 수 있을 만큼 상세해야 한다고도 적었다. 그 지침이 올해 4월 17일 SR 26-2로 전면 대체됐다. 새 지침은 원칙 기반으로 돌아서서 획일적 검증 주기를 없앴고, 생성형 AI와 에이전틱 AI를 모델 리스크의 범위에서 명시적으로 뺐으며, 이 지침이 집행 가능한 기준이나 처방적 요구를 세우지 않는다는 문구를 새로 넣었다. 타오가 네이처에 경고를 쓴 10월은, 미국의 모델 이해 요구가 정확히 그 유형의 AI를 범위 밖에 둔 지 여섯 달째였다.

유럽은 반대 방향인데 아직 켜지지 않았다. EU AI법은 부속서 III의 5(b)항에서 자연인의 신용도 평가와 신용 점수 산정 AI를 고위험으로 분류하고, 기술 문서와 사용 지침, 그리고 영향받는 개인에게 결정의 명확하고 의미 있는 설명을 받을 권리(86조)까지 세 층의 설명 의무를 둔다. 그런데 디지털 옴니버스 개정으로 이 의무의 시행일이 2027년 12월 2일로 미뤄졌다. "이해를 요구하는 규제가 곧 온다"가 아니라 "이해를 요구하던 규제가 AI 앞에서 비어 있다"가 2026년 10월의 정확한 상태다. 네 칸 표의 오정렬 칸을 비워 두는 일은 지금 규제가 아니라 모델을 쓰는 조직 자신의 몫으로 남아 있다.

페블러스 관심의 이유

타오의 다섯 단계는 데이터 파이프라인에 그대로 포개진다

페블러스가 하는 일은 데이터가 AI에 쓸 만한 상태인지 판정하고 그 판정을 뒤에 읽을 수 있는 기록으로 남기는 일이다. 타오가 수학에서 그린 사슬은 그 일의 사슬과 모양이 같다. 자동 라벨러와 합성 데이터 생성기와 코드 생성 모델은 생성 단계를 수백 배 빠르게 했고, 스키마 검사와 교차 라벨러 같은 자동 검증기는 검증 단계를 따라붙었다. 그러나 왜 이 라벨인지 설명하는 일, 팀이 받아들이는 심사, 데이터시트와 정본 데이터셋으로 남기는 정전화는 사람 속도 그대로다. 타오가 네 틈에서 난다고 적은 소화불량이 데이터 쪽에서는 라벨 소화불량으로 난다. 아래 표가 그 대응이다.

페블러스 원본 대응표. 왼쪽 열은 8월 에세이 그림 4의 다섯 단계이고 가운데와 오른쪽 열은 이 글의 해석이다.

DataClinic의 진단 리포트가 하는 일을 이 표에 놓으면 검증 뒤의 세 칸이다. 데이터를 설명 가능한 상태로 만들고, 팀이 소화하게 하고, 정본으로 남기는 일이다. Physical AI 쪽은 6절이 바로 닿는다. 시뮬레이션에서 뽑은 데이터로 학습한 로봇 정책을 아무도 이해하지 못한다면, 그 정책은 타오의 네 칸 표에서 오정렬된 수학 칸에 들어간다.

소화되지 않은 산출물이 다시 학습 데이터가 된다

2절의 셋째 조건과 3절 끝의 인용이 데이터 품질의 자리에서 만난다. 타오가 수학이 먼저 뚫린 조건으로 꼽은 것이 대규모 고품질 데이터였고, 에세이는 그 데이터가 문자 그대로 정전화 과정의 산출물이라 적었다. 소화불량은 이 선순환을 끊는다. 소화되지 않은 증명은 정전이 못 되고, 정전이 안 되면 다음 모델의 학습 데이터가 못 된다. 데이터 품질의 말로는 검증되지 않은 산출물을 다시 학습 데이터로 쓰는 되먹임이고, 페블러스가 합성 데이터 글에서 반복해 온 경고와 같은 구조다.

데이터 쪽 수치가 그 구조를 보여 준다. 이커머스 합성 라벨링의 재분석(SynthAVE)에서 "자동 검증을 거쳤다"며 보고된 정확도 92.6%는 불일치 사례만 사람이 검사한 조건부 수치였고, 합의한 사례까지 층화 추정으로 다시 재면 90.5%였다. 경쟁 프로그래밍 합성 데이터(X-Coder)에서는 사람이 감사한 과제 150개의 정답 해 가운데 12.7%가 틀려 있었다. 정리 자동 형식화 파이프라인(Theorem Prover as a Judge)에서는 23.1%가 질문의 형식화부터 틀렸다. 세 수는 수학 도메인의 수치가 아니라서 타오의 24~42%와 같은 수가 아니다. 같은 구조다. "검증을 통과했다"는 수가 거의 언제나 조건부이고, 조건을 걷어 내면 5%에서 13%의 잔여 오류가 남는다는 것, 그리고 그 잔여가 다음 학습 데이터로 흘러든다는 것이다.

조직이 세울 것은 더 빠른 검증기보다 소화의 제도다

AI 산출물을 대량으로 받는 조직에 타오의 처방을 옮기면 네 가지 물음이 된다. 산출물마다 누가 이해하는가. 설명 가능한 문서가 있는가. 팀의 지식으로 흡수됐는가. 정본으로 남았는가. 넷 중 첫째가 비어 있으면 뒤의 셋은 세울 수 없다. 타오가 수학 2.0 활동의 첫째로 든 열린 설명 문제는 이미 있는 결과를 이해 가능하게 다시 쓰는 과제다. 조직으로 옮기면, 이미 쌓인 데이터셋을 설명 가능하게 다시 쓰는 과제가 된다. 새 데이터를 더 빨리 만드는 일이 아니라, 있는 데이터가 왜 그렇게 생겼는지를 적는 일이다.

금융과 공공 쪽 고객에게는 6절의 규제 상황이 그대로 닿는다. 미국은 올해 4월 모델 리스크 지침에서 생성형 AI를 뺐고, 유럽의 신용 평가 고위험 의무는 2027년 12월로 밀렸다. 이해를 요구하던 규제가 비어 있는 동안 그 빈자리를 메우는 것은 조직 자신의 소화 제도뿐이다.

타오의 아홉째 칸에 서 있는 회사

5절 표의 마지막 행을 다시 본다. 순수 모델을 이해해 얻은 전문성으로 응용 모델의 실패 양상을 분석하고 오정렬을 탐침하는 일이다. 페블러스가 서는 자리가 그 칸이다. 생성 능력을 파는 회사가 아니라 이해와 소화의 능력을 파는 회사다. 페블러스의 앞선 세 편, 8월의 계보 공백 리포트와 9월의 필즈상 수상자 선언 글과 10월의 722편 장부 리포트는 모두 "검증의 칸이 비어 있다"를 수치로 보였다. 이 글이 더하는 것은 그 빈 칸을 채우는 일이 수학계 안에서도 새 평가 기준으로 떠오른다는 당사자의 말이다. 대응은 여기까지다. 타오의 칸과 데이터의 칸이 같은 모양이라는 것을 보이는 데서 이 절은 멈춘다.

참고문헌

1차 문헌, 타오

• 1.Terence Tao, Mathematics in the age of AI, arXiv:2608.16753 v1, 2026-08-17. 이 글의 「8월 에세이」. 2026년 7월 국제수학자대회 공개 강연을 논문 꼴로 옮긴 것이라고 감사의 글에 적혀 있다. 다섯 단계 사슬(그림 4), 증명의 소화불량 네 틈(7절), 라이덴 선언 권고 인용(8절)의 출처.
• 2.Terence Tao, Mathstodon 스레드 네 편, 2026-10-06 18:00 UTC. 이 글의 「10월 6일 글」. 「수학 1.0 / 수학 2.0」 대비가 처음 공개된 자리. ⚠️ 오픈AI 저장소 공개보다 약 네 시간 앞서고 오픈AI를 이름으로 지목하지 않는다.
• 3.Terence Tao, Math 2.0, AIM 공개 강연 슬라이드 30장, 칼텍 베크먼 강당, 2026-10-09. 이 글의 「칼텍 강연」. 세 가지 성질, 네 칸 표, 암 치료 사고실험, 활동 예시 아홉의 출처. 마지막 장에 "이 강연의 이미지와 도식은 AI로 생성했다"는 고지가 있어 도식은 이 글이 다시 그렸다. 블로그 안내: terrytao.wordpress.com, 2026-10-10.
• 4.Terence Tao, Can maths survive AI? Fields medallist Terence Tao calls for a 'Maths 2.0' world, Nature 658, 1103, 온라인 2026-10-22, doi:10.1038/d41586-026-03389-1. 이 글의 「네이처 칼럼」. ⚠️ 유료 장벽 때문에 전문을 읽지 못했다. 큰따옴표로 옮긴 것은 표제문 한 문장뿐이고, 본문 내용은 검색 발췌와 아래 5번의 요약을 거친 간접화법이다.
• 5.Terence Tao, Terence Tao on AI. a living summary, 2026-10-28 갱신. 타오 자신이 위 네 문헌을 요약·링크한 페이지. 다섯 단계 이름을 「생성, 검증, 설명, 출판, 정전화」로 적어 1번과 일치한다.
• 6.Terence Tao, 『Six Math Essentials』, Quanta Books / FSG, 128쪽, ISBN 978-0-374-62179-7, 2026-10-27(영국판 Pelican, 96쪽, 같은 날). 1절의 사이드. 이 글의 주제가 아니다.

기관과 프로젝트

• 7.Leiden Declaration on Artificial Intelligence and Mathematics, 2026-06-02, doi:10.5281/zenodo.20302944. 국제수학연맹 지지. 권고 23개라는 수는 1번 에세이 8절의 축자에서 확인했다.
• 8.First Proof. 2차 배치(10문제, 4시스템, 7문제 합격, 2026-05-28 테스트)는 1번 에세이의 서술, 3차 배치(10문제, 2026-10-14 ICARM 웨비나 공개)는 프로젝트 공개 결과를 확인한 것이다. 두 배치는 문제가 다르다. M. Abouzaid, N. Srivastava 외, First Proof Second Batch, arXiv:2606.18119.
• 9.AIM, Terence Tao Presents "Math 2.0" at the 2026 AIM Public Lecture, 2026-10-19. 강연 예고 제목이 「Machine Assisted Proof」였다가 당일 「Math 2.0」으로 바뀐 경위. · 칼텍 매서선 공식 페이지(11월 13~15일 일정, "Old Problems, New Proofs") 및 9월 재설계 보도.
• 10.미국 연방준비제도, SR 26-2, 2026-04-17(SR 11-7 대체). 생성형·에이전틱 AI를 모델 리스크 범위에서 명시적으로 제외한 조항과 "집행 가능한 기준을 세우지 않는다"는 문구. · EU AI Act 부속서 III 5(b)항, 11·13·14·86조, 디지털 옴니버스에 따른 시행일 2027-12-02.
• 11.Mathlib statistics, 2026-10. 정리 291,414개, 기여자 772명. · Equational Theories Project(명제 22,028,942건, 57일) · SAIR/LMFDB IGP24(갈루아군 25,000개, 차수 31 확장). 수치는 3번 슬라이드 축자와 각 프로젝트 페이지에서 확인.

반론과 인접 학술

• 12.Max Weinreich, The crisis of AI-generated mathematics, arXiv:2608.02859 v2, 2026-10-18, Notices of the AMS 게재 확정. 5.3절의 반론. 저자는 뉴욕시립대 버룩 칼리지 조교수.
• 13.David Bessis, 「The fall of the theorem economy」, 2026-04-21. 1번 에세이가 「정리 경제」 대목에서 인용.
• 14.SynthAVE, arXiv:2607.07469(합성 라벨 조건부 92.6% → 무조건부 90.5%) · X-Coder(합성 SFT 정답 해 오류율 12.7%) · Theorem Prover as a Judge, arXiv:2502.13137(질문 형식화 오류 23.1%). 「페블러스 관심의 이유」의 데이터 쪽 수치. ⚠️ 수학 도메인이 아니라 같은 구조의 예로만 썼다.

보도와 반응

• 15.Elisabeth Bumiller, The New York Times, 2026-10-16. "I'm on a war footing", 공개 전 "toxic waste" → 공개 후 "maybe treated waste", 선임 연구자는 덜 위협받는다는 발언. · The Observer, 2026-10-23. "toxic waste" 재언급과 오픈AI 반박. · Science Friday. "There's nobody at OpenAI I can call to help me understand this dump of 300 papers."
• 16.AI타임스, 2026-10-12(암 치료 사고실험에 대한 종양학자 프라사드의 반론) · 모비인사이드, 2026-10-16(강연 요지와 "부분적으로라도" 단서가 빠진 채 조롱받은 경위) · 긱뉴스, 2026-10-12(슬라이드 PDF). 한국 보도 세 건 모두 3번 칼텍 강연을 다뤘고 4번 네이처 칼럼을 다룬 한국어 글은 2026-10-31 현재 찾지 못했다.
• 17.proofsandprompts.com, 2026-10-22. 익명 박사후연구원의 글. "Almost daily, I fear being scooped by someone, perhaps using AI, who posts first." · 36kr 2026-10-14, GIGAZINE 2026-10-13, hyper.ai, note.com(일본어 요약). 해외 반응 census. ⚠️ 36kr·note.com의 "여섯 단계"는 소화와 정전화를 둘로 센 것이라 쓰지 않았다.

페블러스 블로그 인접 글

• 18.오픈AI 수학 논문, 누가 검토했는지 적는 칸이 비어 있다(2026-10-13). 3.2절의 722편·372묶음·24~42%의 출처. · AI 수학 증명의 계보 공백(2026-08-09). 야코비안 반례, 소수정리 형식화 18개월→3주, AI 사용 공시율 0.1%, Astra 대조. · 필즈상 수상자 25인의 선언(2026-09-14). · 라이덴 선언(2026-06-30). 다섯 가치, 서명 130명→1,000명. · 에르되시 단위거리 추측 반증(2026-06-19). 검증자 9명.