Executive Summary

우리는 과학이 이렇게 흘러간다고 배운다. 세상을 관찰하고, 데이터를 모으고, 규칙을 찾아내면 이론이 된다. 관찰에서 이론으로 곧게 뻗은 사다리다. 아인슈타인은 이 그림이 틀렸다고 보았다. 1952년 그는 오랜 벗이자 철학 토론 상대였던 마우리스 솔로빈에게 보낸 편지에 자신이 생각하는 과학의 실제 모양을 손으로 그려 넣었다. 사다리가 아니라 순환이었고, 그 순환에는 논리로 메울 수 없는 틈이 하나 있었다.

도식은 세 단계로 이루어진다. 아래쪽에는 감각 경험(E, Erlebnisse)의 층이 있다. 우리가 실제로 겪고 측정하는 세계다. 위쪽에는 공리(A, Axiome)가 있다. 이론을 떠받치는 기본 가정이다. 그리고 공리에서 여러 명제(S)를 연역해 내려, 그 명제들을 다시 아래의 경험과 맞대어 검증한다. 문제는 경험에서 공리로 올라가는 첫 화살표다. 아인슈타인은 여기에 “J”라고 적고, 이것이 직관적 도약(a leap, ein Sprung)이며 경험과 공리 사이에는 “논리적 다리가 없다(there is no logical path)”고 못 박았다. 관찰을 아무리 쌓아도 그 자체로는 공리가 튀어나오지 않는다. 누군가 도약해야 한다.

이 그림이 오늘 다시 중요해진 이유는 간단하다. 자하비 논문은 아인슈타인의 세 화살표를 오늘의 언어모델에 겹쳐 놓는다. 모델은 방대한 텍스트에서 통계적 규칙을 찾아 경험을 정리하는 일(E)을 잘한다. 공리가 주어지면 그로부터 명제를 연역하고 증명하는 일(A와 S)도 점점 더 잘한다. 그런데 정확히 왼쪽 화살표, 경험에서 공리로 건너뛰는 그 도약(J)만은 비어 있다. 논문의 제목이 “LLM은 도약하지 못한다”인 것은 이 때문이다.

중요한 것은 이 진단이 “아직 성능이 부족하다”는 말이 아니라는 점이다. 아인슈타인이 J에 논리적 다리가 없다고 한 것은, 도약이 관찰의 연장선이나 더 나은 요약으로 환원되지 않는 다른 종류의 추론임을 뜻한다. 그렇다면 그 “다른 종류”에는 이름이 필요하다. 다음 장의 주제다.

그 이름은 귀추(歸推, abduction)다. 미국 철학자 찰스 샌더스 퍼스가 1900년 무렵 정리한 개념으로, 우리말로는 관찰된 결과로 거슬러 올라가 원인을 짐작한다는 뜻이다. 퍼스는 사람이 하는 추론을 세 가지로 나눴는데, 이 셋의 차이를 잡으면 “LLM은 왜 연역은 되고 발견은 안 되는가”라는 질문이 선명해진다.

연역은 규칙에서 결론으로 내려간다. “모든 사람은 죽는다, 소크라테스는 사람이다, 그러므로 소크라테스는 죽는다.” 귀납은 사례를 모아 규칙으로 올라간다. “지금까지 본 백조는 모두 희었다, 그러므로 백조는 희다.” 귀추는 방향이 또 다르다. 놀라운 사실을 마주하고 “만약 이런 가설이 참이라면 저 사실이 자연스러울 텐데” 하고 설명이 될 만한 새 가설을 만들어내는 추론이다. 퍼스는 세 형식 가운데 오직 귀추만이 새로운 생각을 세상에 들여온다고 보았다. 나머지 둘은 이미 가진 것을 정리하거나 확장할 뿐이다.

연역과 귀납은 오늘의 언어모델이 잘하는 일과 정확히 겹친다. 대량의 텍스트에서 패턴을 요약하는 것은 귀납이고, 가정을 받아 정리를 증명하는 것은 연역이다. 발견에 필요한 것은 세 번째 칸, 귀추다. 그리고 이 칸이 비어 있다는 주장은 사변에 그치지 않는다. 최근 연구가 옆에서 이를 뒷받침한다. 듀크대 연구진이 PNAS Nexus(2026)에 발표한 분석에 따르면, 개별 응답의 독창성 점수는 사람과 비슷해도 여러 모델이 내놓는 답의 집단적 다양성은 사람보다 유의하게 좁았다. 다양한 가설 후보를 흩뿌리는 능력은 귀추의 필요조건인데, 바로 그 폭이 통계적으로 눌려 있다는 뜻이다.

이 경계를 가장 극적으로 보여 주는 것이 ARC-AGI-3라는 벤치마크다. 대부분의 시험은 풀어야 할 문제가 주어진다. ARC-AGI-3는 다르다. 규칙도 목표도 알려 주지 않은 채, 무엇을 해야 하는지부터 스스로 알아내게 한다. 귀추가 요구되는 상황에 가장 가깝다. 결과는 아래와 같다.

스케일을 키워 한 종류의 추상화를 포화시킬 때마다 다음 축이 열리고, 격차는 다시 나타난다. 성능이 부족한 것이 아니라 요구되는 추론의 종류가 다르다는 논문의 주장이 여기서 눈에 보이는 숫자가 된다.

AI 창의성을 이야기할 때 오래 인용된 아이디어가 하나 있다. 위르겐 슈미트후버의 “창의성은 압축”이라는 관점이다. 좋은 이론이란 세상의 규칙성을 더 짧게 담아낸 것이고, 새 발견이란 데이터를 더 효율적으로 압축하는 표현을 찾는 일이라는 생각이다. 이 관점이 매력적인 이유는 그대로 기계학습의 목표 함수가 되기 때문이다. 데이터를 잘 압축하도록 모델을 훈련하면, 언젠가 창의성도 따라 나오지 않을까.

자하비 논문은 일반상대성이론을 들어 이 등식을 정면으로 반박한다. 아인슈타인이 등가원리와 시공간 곡률에 도달할 때, 그를 압박한 데이터는 거의 없었다. 수성 근일점의 미세한 이동 같은 작은 변칙 몇 개가 전부였다. 그는 이 빈약한 관찰을 더 잘 압축한 것이 아니라, 중력이 곧 시공간의 휘어짐이라는 완전히 새로운 개념 틀을 세웠다. 압축할 데이터가 부족한 곳에서 개념이 먼저 태어났고, 그 개념이 나중에 관측될 현상(빛의 휘어짐, 중력파)을 예언했다. 압축이 발견을 낳은 것이 아니라, 도약이 압축할 대상을 새로 정의한 것이다.

그렇다면 “AI가 물리 법칙을 재발견했다”는 화려한 사례들은 무엇인가. 대표적인 것이 기호 회귀(symbolic regression)다. 데이터를 넣으면 그것을 설명하는 수식을 자동으로 찾아 주는 기법이다. AI Feynman 계열 연구는 물리 교과서에 실린 방정식들을 잡음이 없을 때 91.6%, 잡음이 10% 섞였을 때도 79.4% 복원했다. 숫자만 보면 발견처럼 들린다. 그러나 최근 연구는 여기에 단서를 단다. 복원된 방정식들이 하나같이 이미 유명한 공식이라, 모델이 사전학습 과정에서 이미 접한 형태를 되짚었을 가능성이 크다는 것이다.

불과 3주 전, 우리는 같은 회사의 정반대 이야기를 이 블로그에서 소개했다. 딥마인드의 AI Co-Scientist는 AI가 스스로 가설을 세우고 서로 비평하며 실험을 설계하는 낙관적인 그림이었다. 그리고 지금 같은 딥마인드의 연구자가 “LLM은 가설을 세우는 그 도약을 못 한다”고 말한다. 모순처럼 보이지만, 두 이야기는 한 회사 안에서 건강하게 긴장하고 있다. 낙관과 회의가 공존한다는 사실 자체가 이 주제가 아직 열려 있다는 증거다.

긴장을 풀 열쇠는 “AI가 발견했다”는 성취들을 논문의 잣대로 다시 분류하는 데 있다. 좋은 예가 딥마인드의 AlphaEvolve다. 이 시스템은 4×4 복소 행렬을 곱하는 데 필요한 곱셈 횟수를 48회로 줄여, 1969년 슈트라센 이후 처음으로 이 기록을 갱신했다. 56년 만의 쾌거다. 그러나 논문의 틀로 보면 이것은 도약이 아니라 탐색이다. “더 적은 곱셈으로 같은 계산을 한다”는 목표는 사람이 미리 고정했고, AI는 그 거대한 탐색 공간을 훑어 더 나은 해를 찾았다. 답을 잘 찾았을 뿐, 물어야 할 질문 자체를 새로 세운 것은 아니다.

수학자 테런스 타오는 여기에 실무적인 경고를 더한다. 그는 한 학생이 챗봇의 도움으로 80분 만에 만든 에르되시 문제의 증명을, 자신이 직접 이해하고 검증하는 데 24시간이 걸렸다고 전했다. 생성은 폭발적으로 빨라졌지만, 그것이 옳은지 판단하고 어떤 문제가 풀 가치가 있는지 고르는 일은 여전히 사람의 몫이자 훨씬 느린 병목이다. 데미스 하사비스가 말한 “아인슈타인 테스트”도 같은 지점을 가리킨다. 기존 지식으로 시험을 잘 보는 것과, 그 지식의 틀을 새로 짜는 것은 다른 능력이다.

진단이 옳다면 다음 질문은 자연스럽다. 도약은 어떻게 가르치는가. 논문의 대답은 모델을 더 크게 키우는 것이 아니다. 텍스트만 먹고 자란 모델은 세계를 글로 읽었을 뿐 겪어 본 적이 없다. 귀추의 재료가 되는 신호, 그러니까 “이걸 건드리면 저게 어떻게 변하는가” 같은 개입과 반사실, 물리적 인과는 인터넷 텍스트에 잘 담기지 않는다. 그래서 논문이 제시하는 방향은 신체화된 멀티모달 world model이다. 시뮬레이션과 감각과 개입을 통해 세계를 직접 겪으며, 그 경험에서 새로운 원리의 재료를 길어 올리는 모델이다.

이것은 먼 사변이 아니라 이미 진행 중인 산업 전환이다. world model 시뮬레이터 시장은 2026년 약 1억 7,000만 달러에서 2036년 30억 5,000만 달러 규모로, 연평균 33.5% 성장이 전망된다. 자본은 더 빠르게 움직인다. 2026년 상반기에만 관련 스타트업에 30억 달러가 넘는 벤처 투자가 몰렸다. 페이페이 리의 World Labs가 10억 달러를 조달하며 54억 달러의 기업가치를 인정받았고, 얀 르쿤이 세운 AMI Labs는 10억 달러가 넘는 시드 라운드로 출발했다. AI 분야에서 가장 이름난 연구자들이 텍스트 너머의 세계 모델에 대규모로 베팅하고 있다는 뜻이다.

여기서 논지가 한 걸음 더 나아간다. world model의 병목은 결국 데이터다. 세계를 겪은 경험을 어떻게 데이터로 확보하고, 그 데이터가 물리적으로 일관되며 인과 구조를 담고 있음을 어떻게 보장하느냐가 관건이 된다. 도약을 못 하는 이유를 거슬러 올라가면 “학습 데이터의 성질”에 닿는다. 통계 압축용 대량 텍스트는 연역을 키우지만, 새 개념을 낳는 재료는 담지 못한다. 학습 데이터의 종류가 모델 내부의 표현을 정하고, 그 표현이 가능한 추론의 종류를 정한다. 발견의 다음 관문은 파라미터의 수가 아니라 세계를 담은 데이터의 질이라는 결론이 여기서 나온다.

페블러스가 주목하는 이유

이 논문이 페블러스의 관심을 끄는 이유는 결론이 향하는 방향에 있다. “발견을 하려면 세계를 겪은 데이터가 필요하다”는 문장은, 우리가 오래 붙들어 온 문제 정의와 정확히 겹친다. 겹치는 지점은 네 곳이다.

데이터가 추론의 종류를 정한다

도약이 안 되는 이유를 데이터의 성질로 환원할 수 있다는 점이 핵심이다. 통계 압축용 텍스트는 연역을 키우지만, 반사실과 개입, 물리적 인과 같은 귀추의 신호는 담지 못한다. 어떤 데이터로 배웠느냐가 모델이 할 수 있는 추론의 한계를 긋는다. 데이터가 무엇을 가능하게 하고 무엇을 불가능하게 하는지를 진단하는 일은 DataClinic의 문제의식과 곧바로 이어진다. 참고로 이 분야의 데이터 정합성이 얼마나 취약한지는 벤치마크 자체에서도 드러난다. 정리 증명 데이터셋 MiniF2F의 개정 과정에서 형식 명제의 상당수가 원문과 일치하지 않는 결함이 발견된 바 있다.

신체화된 world model은 Physical AI의 문제다

논문이 해법으로 지목한 “세계를 겪는 모델”은 시뮬레이션 기반 데이터, 물리 그라운딩, 합성 데이터라는 페블러스 Physical AI의 작업 목록과 그대로 포개진다. 텍스트가 아니라 세계를 겪어야 한다는 결론은, 세계를 담은 데이터를 만드는 일이 다음 병목임을 가리킨다. 이 분야에 걸린 30억 달러 규모의 산업 베팅은 그 병목이 실재한다는 외부 신호다.

‘AI 과학자’를 다루는 실무 좌표

AI를 자율 발견자로 과신하는 연구·전략 조직에는 경계선이 필요하다. 언어모델은 가정으로부터의 추론과 검증에서 사람을 능가할 수 있지만, 가정 자체를 발명하지는 못한다. 그렇다면 사람이 가설과 문제를 세우고 AI가 대규모 연역과 검증을 맡는 역할 분담이 당분간 옳다. 타오의 증언은 여기에 한 겹을 더한다. 병목이 생성에서 이해와 검증으로 옮겨 가므로, AI가 쏟아내는 산출물을 소화하고 검증하는 사람의 역량이 새로운 희소 자원이 된다.

외부 최상위 연구가 가리키는 방향

딥마인드의 연구자, 르쿤과 페이페이 리의 베팅이 한 방향을 가리킨다. 발견의 다음 단계는 더 큰 언어모델이 아니라, 세계를 겪은 데이터라는 것이다. 이 글은 그 결론까지만 담담하게 따라간다. 세계 데이터가 병목이라면, 그 데이터를 어떻게 만들고 검증할 것인가라는 질문이 다음 장에서 우리를 기다린다.

참고문헌

논문·학술

• 1.Zahavy, T. (2026). LLMs can’t jump (Position paper). PhilSci-Archive #28024. philsci-archive.pitt.edu/28024
• 2.Novikov, A. et al. / Google DeepMind (2025). AlphaEvolve: A coding agent for scientific and algorithmic discovery. arXiv:2506.13131. arxiv.org/abs/2506.13131
• 3.Udrescu, S.-M. & Tegmark, M. (2020). AI Feynman: a physics-inspired method for symbolic regression. Science Advances 6(16). science.org
• 4.Chollet, F. et al. (2026). ARC-AGI-2: A New Challenge for Frontier AI Reasoning Systems. arXiv:2505.11831. ARC-AGI-3 프리뷰: arcprize.org/arc-agi/3
• 5.Wenger, E. & Kenett, Y. N. (2026). Large language models are homogeneously creative. PNAS Nexus. academic.oup.com

업계·언론

• 6.McKendrick, J. (2026. 8. 5.). AI Is Smart, But Not Yet Capable Of Original Thought. Forbes. forbes.com
• 7.Tao, T. (2026). “Mathematics in the Age of AI” — 증명 과잉(proof surplus) 관련 발언(에르되시 문제, 80분 대 24시간).
• 8.Hassabis, D. (2026. 2.). “Einstein Test” 발언, India AI Impact Summit, New Delhi.
• 9.Fact.MR (2026). World Model Simulators Market. factmr.com

이론 배경

• 10.Peirce, C. S. — 귀추(abduction) 정의. Collected Papers 5.171 등.
• 11.Einstein–Solovine 서한(1952)의 E–J–A 도식. Schilpp / Holton의 표준 2차 출처를 통해 전해진다. Schmidhuber, J. 의 “압축으로서의 창의성” 이론이 본문의 반박 대상이다.