Executive Summary

이 글은 남이 모아 둔 데이터셋을 원래 목적과 다른 주제에 옮겨 쓴 머신러닝 연구가 어떤 성과와 이어졌는지를 1만 2천여 편 규모로 잰 프리프린트 한 편을 읽는다. 결과는 한쪽으로 기울지 않았다. 데이터를 이전 용례에서 멀리 옮긴 논문일수록 분야의 인용 흐름을 갈라놓는 지표는 높았지만, 출판 후 3년 안에 받은 인용에서는 차이가 확인되지 않았다. 새로 모으기가 점점 비싸지는 국면에서 다시 쓰기에 값이 붙는다는 계량 근거이면서, 그 값이 언제 회수되는지는 따로 물어야 한다는 말이기도 하다.

연구진은 같은 데이터셋을 쓴 선행 논문과 초점 논문의 제목 임베딩 거리를 데이터셋 겹침으로 가중해 재활용의 정도를 연속값으로 만들고, 같은 해 같은 급의 논문들끼리 견주었다. 재활용이 클수록 3년 파괴성 지수가 올랐고, 그 효과는 같은 표에서 저자들 자신의 직전 연구가 잰 데이터셋 조합의 이례성보다 두 배 넘게 컸다. 다만 재활용한 데이터가 뒤따르는 연구로 실제로 건너간 경우는 드물었다. 절반이 넘는 논문에서 그 데이터셋의 나중 쓰임은 새 방향이 아니라 옛 자리로 돌아갔다. 건너간 소수에서만 파괴성과 인용이 함께 올랐다.

읽는 사람에게 이 분포는 실무 질문 하나로 번역된다. 한 번의 재활용이 값을 낼 확률이 낮다면, 값은 여러 번 시도할 수 있는 조건에서 나온다. 그 조건은 데이터가 발견될 수 있고, 수집 목적과 한계가 읽을 수 있게 남아 있고, 라이선스가 2차 목적을 막지 않는 상태다. 논문 자신도 마지막 문단에서 데이터셋 발견과 문서화와 상호운용성, 그리고 영역을 가로지르는 데이터 사용 훈련의 문턱을 낮추는 개입을 앞으로 검증할 가설로 든다. 아래에서는 그 가설이 왜 지금 국면에서 값이 큰지를, 그리고 이 논문의 효과 크기에 어떤 단서가 붙는지를 함께 놓는다.

+0.10 SD

재활용 1 표준편차가 올린 3년 파괴성

논문 1만 2,286편 회귀. 계수 0.1022, p는 0.001 미만이고 모형 설명력은 0.143이다

2.4배

데이터셋 조합의 이례성 효과 대비

같은 표에서 그 축의 계수는 0.0432였다. 둘 다 표준화돼 있어 1 대 1 비교가 성립한다

55%

재활용이 뒤로 건너가지 않은 논문

확산 지표가 0보다 작은 비율. 아무도 안 썼다는 뜻이 아니라 쓰임이 옛 자리에 머물렀다는 뜻이다

약 9%

건너갔을 때 오른 3년 인용

확산 1 표준편차당. 논문이 스스로 기계적 성분이 섞였을 수 있다고 적은 값이다

1

다시 쓴다는 것을 어떻게 세었나

논문이 왜 이것을 셀 만한 일로 보는지부터 짧게 적어 둔다. 기댄 틀은 둘이다. 재조합적 참신성에서 혁신은 기존 요소를 관례에서 벗어나되 알아들을 수 있게 다시 묶는 데서 온다. 변혁적 창의성은 개념 공간의 구조 자체가 바뀔 때 근본적으로 새로운 생각이 나온다고 본다. 앞의 틀에서 데이터셋을 이례적으로 묶는 일은 이미 측정됐지만, 데이터를 주제를 가로질러 옮기는 일은 비어 있었다. 저자들이 든 비유는 약이다. 아스피린은 통증과 열에 쓰이다가 뒤에 심혈관 질환 예방으로 옮겨 갔다. 손에 닿는 후보 물질이 소진될수록 새로 만드는 비용을 들이지 않고 값을 더 끌어내는 길이 된다. 데이터를 다룬 선행 연구가 세워 둔 것은 대체로 데이터가 있으면 도움이 된다는 데까지였다.

먼저 낱말을 고정한다. 이 글에서 재활용이라 부르는 것은 이미 있는 데이터셋을 원래 쓰이던 주제와 다른 주제의 연구에 쓰는 일이다. 논문의 말로는 repurposing이고, 같은 데이터를 같은 과제에 한 번 더 쓰는 일과는 구별된다. ImageNet을 다시 이미지 분류에 쓰는 것은 여기서 세지 않고, ImageNet을 전혀 다른 물음에 끌어다 쓰는 것을 센다. 문제는 그 거리를 어떻게 숫자로 만드느냐다. 사람이 한 편씩 읽어 판정하는 방식으로는 1만 편을 넘기지 못한다.

Yulin Yu(애리조나대 정보과학대학), Yong-Yeol Ahn(버지니아대 데이터사이언스대학), Daniel M. Romero(미시간대 정보대학) 세 사람이 택한 방법은 의미 공간의 거리를 쓰는 것이다. 어떤 논문이 쓴 데이터셋을 1년 이상 앞서 이미 쓴 논문들이 있다. 그 선행 논문들과 초점 논문이 주제적으로 얼마나 떨어져 있는지를 재고, 데이터셋이 겹치는 정도로 가중해 평균을 낸다. 멀수록 재활용 점수가 높다. 프리프린트는 2026년 9월 15일 arXiv에 올라왔고, 게재지 표기는 아직 없다.

1.11만 2,286편이 남기까지

재료는 Papers with Code의 2021년 6월 16일 스냅샷이다. 이 스냅샷을 고른 이유는 논문이 직접 밝힌다. 여기에는 논문이 인용한 데이터셋이 아니라 분석이나 모델 학습에 실제로 쓴 데이터셋이 기록돼 있다. 데이터 인용은 자주 빠지거나 실제 사용을 반영하지 못한다는 선행 관측이 그 선택의 근거로 붙어 있다. 논문 서지와 인용망은 SciSciNet 1판과 2024년 8월 OpenAlex 스냅샷에서 가져왔다. 표본은 다섯 단계로 좁혀졌다. 원자료 60,647편에서 OpenAlex에 맞출 수 없는 20,016편을 빼면 40,631편이 남고, 2021년 이전 출판이면서 주제 태그와 참고문헌을 갖춘 것이 35,801편이다. 여기서 학회나 저널 소속이 없는 19,850편을 걷어 내 15,951편이 되고, 마지막으로 데이터셋을 다시 쓸 기회 자체가 없던 3,665편을 뺀 12,286편이 분석 대상이다. 다룬 데이터셋은 1,689종이고, 코퍼스는 CVPR과 ACL과 NeurIPS 같은 주요 학회를 지난다.

마지막 단계의 정의는 정확히 짚어 둘 필요가 있다. 뒤에 나올 55%가 여기에 걸려 있다. 다시 쓸 기회가 있는 논문이란, 그 논문이 쓴 데이터셋 가운데 하나가 1년보다 더 이전에 이미 쓰인 적이 있고, 동시에 1년보다 더 뒤에도 그 데이터셋을 공유하는 논문이 있는 경우다. 두 조건이 함께 걸린다. 그러니 이 표본에는 미래에 아무도 그 데이터셋을 다시 쓰지 않은 논문이 애초에 들어 있지 않다. 확산이 완전히 0인 극단은 계산 전에 제거된 셈이다. 이 조건은 논문이 번호를 매겨 둔 다섯 가지 한계에 들어 있지 않고, 5절에서 다시 필요해진다.

1.2거리로 재기

재활용 점수는 두 재료를 곱해 만든다. 하나는 의미 유사도다. 학술 논문으로 학습된 임베딩 모델 SPECTER2로 논문 제목을 벡터로 바꾸고 코사인 유사도를 잰다. 본문 전체가 아니라 제목이다. 다른 하나는 데이터셋 겹침이다. 두 논문이 쓴 데이터셋 집합의 자카드 지수를 쓴다. 선행 논문마다 겹침으로 가중한 유사도의 평균을 구하고, 1에서 그 평균을 뺀 값이 재활용 점수다. 값이 클수록 멀리 옮겨 갔다는 뜻이고, 이론 범위는 0에서 2까지지만 실제 관측된 범위는 0.009에서 0.659였다. 회귀에는 표준화한 값을 넣는다.

의미 공간 — 거리가 가까울수록 주제가 비슷하다 초점 논문 ① 선행 논문들 곁에 남았다 재활용 점수 낮음 초점 논문 ② 같은 데이터, 멀리 떨어진 주제 재활용 점수 높음 같은 데이터셋을 쓴 선행 논문들 선행 논문 초점 논문
▲ 페블러스 원본 도식 (arXiv:2609.16736 Figure 1(A) 재해석) — 같은 데이터셋을 쓴 선행 논문들에서 얼마나 멀어졌는가가 재활용 점수다

1.3이 자가 못 재는 것

가장 무거운 한계부터 논문이 먼저 꺼낸다. 측정 도구 자체의 오염 가능성이다. SPECTER2는 인용 관계로 학습된 모델이라, 나중에 같은 논문에 인용되는 두 논문은 임베딩 공간에서 가까워진다. 그러면 결국 영향력을 발휘한 재활용일수록 선행 논문에 인위적으로 가까워 보여 점수가 낮게 잡히고, 반대로 확산 쪽은 같은 기전으로 부풀려 잡힌다. 저자들은 이 문제를 본문에서 먼저 적고, 인용망을 학습하지 않은 OpenAI의 text-embedding-3-small로 세 그림을 다시 그렸다. 판정은 방향이 같았다는 데까지다. 크기가 같았다는 말은 논문에 없다.

점수가 사람의 판단과 맞는지도 검사했다. 다만 조건이 붙는다. 3편에서 5편에 쓰인 데이터셋 가운데 같은 해 안에서 점수 분산이 큰 상위 30%만 남기고, 각 데이터셋에서 최고점과 최저점 논문을 짝지어 39개 묶음을 만들었다. 평가자는 두 명인데 그중 한 명이 저자 본인이고, 다른 한 명은 석사과정 학생이다. 평가자끼리의 일치는 71.2%, 점수와 사람의 판단이 일치한 비율은 73.1%, 두 평가자가 서로 동의한 건만 보면 82.1%다. 논문 스스로 이 절차가 대비가 뚜렷한 사례를 의도적으로 고르므로 더 전형적이거나 모호한 비교에서는 정확도를 과대평가할 수 있다고 적는다.

논문은 표본의 편향도 경고한다. Papers with Code는 주로 벤치마크 주도 연구를 색인하므로 성능 중심 연구가 과대 대표되고, 이론 연구나 벤치마크가 아닌 실증 연구는 과소 대표될 가능성이 크다. 수록 기준이 분명하지 않다는 점도 첫 번째 한계로 적혀 있다. 이 글이 아래에서 다루는 것은 AI 연구 전체가 아니라 벤치마크가 도는 영역에서 관측된 패턴이다.

2

인용은 그대로였고, 다른 지표가 움직였다

움직인 지표를 말하기 전에 그 지표가 무엇을 재는지부터 풀어야 한다. 파괴성 지수는 어떤 논문이 나온 뒤의 인용망 모양을 본다. 후속 연구가 그 논문만 인용했는지, 그 논문과 그 논문의 참고문헌을 함께 인용했는지, 아니면 참고문헌만 인용했는지를 센다. 첫 번째가 많으면 값이 오르고 두 번째가 많으면 값이 내린다. 뒤에 오는 사람들이 앞선 문헌 대신 이 논문을 보게 되면 파괴, 이 논문을 앞선 문헌과 함께 보면 공고화다. 재는 것은 논문의 좋고 나쁨이 아니라 인용 흐름이 갈라졌는지 이어졌는지다.

이 연구는 출판 후 3년 창에서 계산했고, 인용을 최소 한 번 받고 참고문헌을 최소 하나 가진 논문만 대상으로 삼았다. 이 지수가 참고문헌 수와 인용 수에 민감하다는 비판이 있다는 것도 논문이 먼저 적고, 두 수를 통제변수로 넣어 대응했다. 지수 자체를 둘러싼 논쟁은 뒤에서 따로 본다.

2.1흔한 요약과 표가 어긋난다

회귀는 같은 표본 1만 2,286편 위에서 두 번 돌았다. 종속변수만 바꾼 것이다. 파괴성 쪽은 최소제곱, 인용 쪽은 음이항 모형을 썼고, 출판 연도를 범주로 통제해 같은 해 논문끼리 견주도록 했다. 논문의 본 그림은 통제변수를 하나씩 넣은 모형 열두 개의 계수를 나란히 세워 보여 준다. 수치표로 공개된 것은 통제를 전부 넣은 마지막 모형뿐이고 아래 표의 값이 그것이다.

종속변수 (3년 창) 재활용 1 표준편차당 계수 p 읽는 법
파괴성 지수 (표준화)+0.1022< 0.001재활용이 클수록 높았다. 모형 설명력 0.143
인용 수−0.00840.412차이가 확인되지 않았다. 낮아진 것이 아니다

arXiv:2609.16736 부록 Table S1·S2. 두 모형 모두 N은 12,286이고 출판 연도·데이터셋 수·저자 수·기관 영향력 등을 통제한 완전 모형이다. 인용 계수를 배율로 바꾸면 −0.84%이며 이 환산은 우리가 했다.

두 줄을 한 문장으로 뭉개면 안 된다. 흔히 보이는 요약은 재활용한 연구가 판은 흔들었지만 주목은 덜 받았다는 식인데, 표는 그렇게 적혀 있지 않다. p가 0.412라는 것은 덜 받았다는 증거가 없다는 뜻이지 덜 받았다는 뜻이 아니다. 점추정은 음수 쪽으로 아주 약간 기울어 있지만 완전 통제 모형에서 유의하지 않다. 논문 본문도 정확히 그렇게 적는다. 다만 같은 논문의 Significance Statement는 재활용된 데이터셋 대부분이 즉각적 주목을 받는다고 쓰고, 초록은 단기적으로 폭넓은 가시성을 얻지 못한다고 쓴다. 세 판본이 미세하게 어긋나 있고, 이 글은 표와 정합한 판본을 따른다.

인용이 왜 움직이지 않았는지에 대한 확정된 설명은 논문에 없다. 저자들은 자기 연구 방향을 바꾼 연구자가 단기적으로 손해를 본다는 선행 연구를 후보로 꺼낸다. 그러다 데이터 재활용이 저자 수준의 방향 전환을 뜻하지는 않는다며, 그 설명이 충분한지는 불분명하다고 스스로 거둬들인다. 아직 모른다가 논문의 입장이다.

2.20.10이라는 값의 눈금

표준편차 하나당 0.10 표준편차는 그 자체로는 작은 효과다. 그래서 비교 대상이 필요하다. 논문은 이 효과가 데이터셋 개수의 효과와 비슷한 크기라고 적는데, 그 비교는 쓰지 않는 편이 낫다. 데이터셋 개수는 로그 변환만 하고 표준화하지 않은 변수라 1 표준편차 대 1 표준편차 비교가 성립하지 않는다. 같은 표에서 표준화된 변수는 둘뿐이고, 서로 견줄 수 있는 짝도 그 둘이다.

같은 표 안의 비교 대상 계수 재활용(0.1022) 대비 비고
데이터셋 조합의 이례성 (표준화)+0.04322.37배저자들의 직전 연구가 만든 축. 이번 논문에서는 통제변수다
논문 참신성 (표준화)−0.24360.42배부호가 반대다. 크기만 견준 값이다
데이터셋 개수 (로그)−0.1379비교 불가표준화되지 않아 같은 자로 잴 수 없다

arXiv:2609.16736 Table S1의 같은 열에서 읽었다. 배율 계산은 우리가 했다. 참신성 계수의 부호는 음수다. 크기만 떼어 절반이라고 쓴 문장은 방향이 반대다.

첫 줄이 가장 정직한 자다. 데이터셋 조합의 이례성은 제1저자와 교신저자가 2024년 PNAS에 발표한 직전 논문이 만든 지표이고, 이번 논문은 그것을 통제변수로 깔았다. 같은 표, 같은 표본, 같은 표준화, 같은 저자다. 그 위에서 주제를 가로질러 다시 쓰는 일의 효과가 데이터셋을 이례적으로 조합하는 일의 효과보다 2.4배 컸다. 이것이 이 논문이 새로 더한 값의 크기다.

두 표를 나란히 놓으면 한 겹이 더 보인다. 인용 쪽 모형에서 데이터셋 조합의 이례성은 계수 0.1400으로 p가 0.001 미만인데, 재활용은 같은 자리에서 움직이지 않았다. 두 축은 서로 다른 성과를 건드린 셈이다. 이례적 조합은 인용과 파괴성 양쪽에서 잡히고, 주제를 가로질러 옮기는 일은 파괴성에서만 잡힌다.

여기까지 오면 제목의 비유를 회수할 수 있다. 판을 흔든다는 말은 좋은 연구라는 뜻이 아니라 후속 연구의 인용 흐름을 앞선 문헌에서 이쪽으로 갈라놓는다는 측정치다. 그리고 그 측정은 3년 창 안에서만 이뤄졌다. 논문이 결과를 단기적 파괴 영향의 증거로만 읽으라고 못 박은 이유는 조금 뒤에 나온다.

3

뒤로 이어진 경우는 드물고, 이어지면 컸다

앞 절들은 재활용을 시도한 논문들의 이야기였다. 그런데 어떤 데이터를 새 주제로 끌어왔다고 해서 그 쓰임이 남에게 이어진다는 보장은 없다. 혼자 한 번 해 보고 끝날 수도 있다. 연구진은 그 이어짐을 따로 쟀고, 이 글의 무게 중심은 여기 있다.

확산 지표는 뺄셈 하나다. 초점 논문이 쓴 데이터셋을 1년 이상 뒤에 다시 쓴 논문들과 초점 논문의 평균 유사도에서, 1년 이상 앞서 쓴 논문들과의 평균 유사도를 뺀다. 값이 양수면 그 데이터셋의 나중 쓰임이 초점 논문이 연 새 방향 쪽으로 옮겨 갔다는 뜻이고, 음수면 옛 자리로 돌아갔다는 뜻이다. 이론 범위는 −2에서 2까지지만 실제 값은 훨씬 좁은 구간에 몰린다.

3.1분포의 모양

분포는 0을 조금 넘어선 자리에서 한쪽으로 기운다. 중위값은 −0.008이고, 사분위 범위는 −0.023에서 0.008 사이다. 그리고 55%가 음수다. 이 치우침은 부호검정에서 우연으로 설명되지 않았다. 재활용을 시도한 논문의 절반 이상에서, 뒤따른 사용은 새 방향보다 원래 용례에 가까웠다.

확산 지표의 분포 — 0 왼쪽에 55%가 있다 0 −0.4 0.4 확산 지표 (미래 유사도 − 과거 유사도) 음수 55% 옛 자리로 돌아갔다 양수 45% 새 방향으로 건너갔다 중위 −0.008
▲ 페블러스 원본 도식 (arXiv:2609.16736 Figure 3(A) 재해석) — 막대 높이는 분포의 모양을 나타낸 개념도이고, 표시한 수치는 본문과 표의 값이다. x축 범위는 원 그림의 눈금을 따랐다

이 55%를 읽을 때 반드시 붙여야 할 조건이 1.1절에 있다. 아무도 다시 쓰지 않았다는 뜻이 아니다. 표본 자체가 나중에 그 데이터셋을 다시 쓴 논문이 있는 경우로 제한돼 있으니, 여기 있는 1만 2,286편은 전부 후속 사용자가 있는 논문이다. 55%가 말하는 것은 그 후속 사용자들이 어디로 갔느냐다. 새로 열린 방향이 아니라 원래 쓰이던 자리였다는 것이 절반을 넘었다.

논문은 이 낮은 확산을 두 가지로 설명한다. 하나는 가로등 효과다. 데이터가 연구자의 상상을 좁혀, 값은 더 크지만 덜 뚜렷한 방향보다 손에 닿는 쪽을 먼저 집게 만든다는 선행 연구를 끌어온다. 다른 하나는 순서 문제다. 더 넓은 확산은 그 데이터셋의 원래 영역 안에서 값이 소진된 뒤에야 일어날 수 있고, 그런 탐색은 어렵고 불확실하니 드물 수밖에 없다는 것이다. 둘 다 저자들의 해석이지 측정된 기전은 아니다.

3.2건너갔을 때 일어난 일

확산이 일어난 쪽에서는 두 지표가 함께 올랐다. 확산 1 표준편차당 3년 파괴성은 0.0285 표준편차 높았고, p는 0.003이다. 3년 인용은 계수 0.0831로 배율로 바꾸면 약 9% 증가다. 재활용 자체는 인용을 움직이지 못했는데, 그 재활용이 남에게 건너가면 인용도 함께 움직였다는 그림이다.

다만 인용 쪽 9%에는 논문이 스스로 적어 둔 기계적 성분이 있다. 확산 지표는 같은 데이터셋을 다시 쓰면서 초점 논문과 의미적으로 가까운 미래 논문들로부터 계산되는데, 바로 그 논문들이 초점 논문을 인용할 가능성이 가장 높은 논문들이기도 하다. 인용 분포가 심하게 치우쳐 있으니 그런 논문 몇 편만으로도 인용 수에 의미 있게 기여할 수 있다. 저자들은 후속 연구에서 확산 집합에 속한 논문을 인용 수에서 빼거나 확산 창과 겹치지 않는 시기의 인용으로 재 보라고 적는다. 이 캐비엇을 떼고 9%만 옮기면 과장이 된다.

귀속 자체에도 조건이 붙는다. 확산이 양수라는 것은 나중 논문들이 초점 논문 쪽으로 옮겨 갔다는 관측일 뿐이고, 초점 논문이 그 이동을 일으켰다는 뜻은 아니다. 분야 전체가 같은 주제로 움직인 결과일 수도 있고, 그 데이터셋의 원래 영역에서 값이 소진된 결과일 수도 있다. 논문은 이 대안을 결과 절과 방법 절에서 두 번 적어 둔다.

p값 하나는 논문 본문과 부록이 어긋난다. 본문 산문은 확산과 파괴성의 관계를 p가 0.001 미만이라고 적지만, 부록 Table S3의 그 행은 t가 2.939이고 p는 0.003이다. 표가 심판이므로 이 글은 0.003으로 쓴다. 프리프린트 v1에는 이런 편집상 거칠기가 몇 군데 더 있다. 본문이 부록 표를 Tables 5–212라고 부르고 부록 머리글은 15개라 적지만 실제로 존재하는 회귀표는 14개다.

4

누가 다시 쓰고, 무엇이 갈리지 않았나

세 번째 물음에서는 사람을 본다. 어떤 팀이 데이터를 다른 자리로 옮겨 쓰는가, 그리고 그 옮김이 남에게 받아들여지는 것은 어떤 팀일 때인가. 연구진은 팀 변수 일곱 개를 하나씩 따로 넣어 열 개의 모형을 돌렸다. 통제는 데이터셋 조합의 이례성, 데이터셋 개수, 데이터셋 사용 빈도 셋뿐이고, 표본은 앞 절들과 같은 1만 2,286편이다.

팀 특성 7개 — 재활용 축은 거의 다 갈리고, 확산 축은 셋만 갈린다 점 하나 = 개별 모형(Table S5~S14) 계수 하나. 채운 점은 95% 신뢰구간이 0을 비켜간 경우다 재활용 점수 확산 점수 선진국 소속 (단독) 선진국·개도국 혼합 기관 영향력 팀 규모 팀 경력 (저자 평균 인용) 학계·산업계 혼합 산업계 단독 6 / 7 유의 3 / 7 유의 유의 (95% CI가 0을 비켜감) 무의
▲ 페블러스 원본 도식 (arXiv:2609.16736 Figure 4 재해석) — 점의 채움 여부는 아래 표의 유의성 표기를 그대로 옮긴 개념도이고, 좌표는 순서만 나타낸다. 정확한 계수·p값은 아래 표를 따른다
팀 특성 재활용 점수 확산 점수 읽는 법
선진국 소속 (단독)+0.3146무의 (p=0.267)재활용 쪽 최대 계수. 초록은 이 축을 말하지 않는다
선진국·개도국 혼합+0.1909무의 (p=0.443)단독보다 작지만 유의하다
기관 영향력+0.1014+0.0603두 쪽 모두 유의. 확산 쪽 p는 0.013
팀 규모+0.0449+0.0661확산 쪽이 오히려 크다. p는 각각 0.023과 0.002
팀 경력 (저자 평균 인용)+0.0410무의 (p=0.865)갈라지는 자리. 시작은 갈리는데 채택은 안 갈린다
학계·산업계 혼합+0.0452+0.0421이것이 산학 협업 항목이다. p는 0.010과 0.028
산업계 단독무의 (p=0.901)무의 (p=0.418)산업계 자체는 두 모형 모두에서 유의하지 않다

arXiv:2609.16736 부록 Table S5~S14를 한 표로 합쳤다. 계수는 변수별 개별 모형에서 나온 값이고, 무의 표기는 95% 신뢰구간이 0을 지난 경우다. 팀 경력의 확산 쪽 계수는 −0.0020(Table S11)인데, 같은 값이 Table S10의 다른 변수에도 나타나므로 인용할 때 표 번호를 붙여야 한다.

표에서 먼저 눈에 띄는 것은 초록에 없는 줄이다. 재활용 모형에서 계수가 가장 큰 축은 선진국 소속이고, 기관 영향력의 3.1배다. 초록은 이 축을 언급하지 않는다. 그리고 흔히 산업계가 데이터를 잘 돌려 쓴다는 식으로 읽히는 항목도 정확히는 그게 아니다. 유의한 것은 학계와 산업계가 섞인 팀이고, 산업계만으로 이뤄진 팀은 두 모형 어디에서도 유의하지 않았다.

논문 자신의 셈은 이렇다. 재활용 쪽에서는 일곱 계수 가운데 여섯이 유의하고, 확산 쪽에서는 셋만 유의하며 크기도 훨씬 작다. 그 셋이 팀 규모와 기관 영향력과 산학 혼합이라는 데 논문은 분야 차이를 붙인다. 사회과학처럼 데이터에서 발견을 끌어내는 분야는 물음과 자료 사이를 오래 왕복해야 하지만 AI 쪽 혁신은 협업과 연산 자원에 더 기댄다고 본다. 남은 세 축은 경력보다 사람과 자원을 끌어올 수 있는 능력에 가깝다.

4.1유의하다와 설명된다는 다른 말이다

초록은 팀 특성이 어느 재활용이 채택될지 잘 짚어 내지 못한다고 적고, 바로 다음 문장에서 성공적 채택이 더 큰 팀에서 더 흔하다고 적는다. 읽으면 자기모순처럼 보이는데, 표를 보면 모순이 아니다. 둘은 서로 다른 것을 말하고 있다.

모형 묶음 결정계수 범위 모형 전체가 무의한 것
팀 특성 → 재활용 (S5~S9)0.082 ~ 0.0940개 / 5개약하게나마 갈린다
팀 특성 → 확산 (S10~S14)0.000419 ~ 0.0013개 / 5개사실상 갈리지 않는다

arXiv:2609.16736 Table S5~S14의 적합도 행에서 읽었다. 배율 계산과 무의 개수 집계는 우리가 했다. 확산 모형에서 전체 F 검정이 통과하지 못한 것은 팀 경력·국가 지위·부문 배경 모형이다.

두 줄 사이의 차이는 80배에서 200배가 넘는다. 표본이 1만 2천 편을 넘으면 설명력이 0.001인 모형에서도 계수 하나는 p가 0.002로 유의해진다. 방향은 보이지만 갈라짐은 거의 설명되지 않는다는 뜻이다. 그러니 정확히는 두 문장이다. 재활용을 시작하는 팀은 팀 특성으로 어느 정도 가려진다. 그 재활용이 남에게 받아들여지는지는 팀 경력으로 갈리지 않는다. 두 문장을 섞으면 없는 결과가 만들어진다.

한 겹 더 벗기면 재활용 쪽 설명력도 대부분 팀에서 오지 않는다. 다섯 모형의 결정계수가 0.082·0.082·0.083·0.094·0.082로 거의 붙어 있고, 모든 모형에 공통으로 들어간 통제변수 하나가 t값 31.6으로 압도한다. 데이터셋 사용 빈도다. 그 변수는 확산 쪽 다섯 모형에서 부호가 뒤집혀 계수 −0.012 안팎으로 유의하다. 자주 쓰이는 데이터셋을 쓴 논문일수록 재활용 점수는 높게 잡혔지만, 그 재활용이 뒤로 건너간 정도는 오히려 낮았다. 재활용 점수의 설명력 대부분을 데이터셋의 인기도가 가져간다는 사실과 나란히 읽어야 한다. 통제만 넣은 기준 모형이 보고되지 않아 정확한 증분은 알 수 없지만, 표들 사이의 차이로 보면 팀 변수가 더하는 설명력은 0에서 1.2%포인트 남짓으로 추정된다. 이 추정은 우리가 한 것이다.

낱말 하나를 조심해야 한다. 이 논문에는 예측 모형이 없다. 검증용 표본을 떼어 둔 성능 지표도, 교차검증도, 곡선 아래 면적 같은 값도 하나도 나오지 않는다. 있는 것은 관찰 회귀와 그 설명력뿐이다. 그래서 이 글은 예측이라는 낱말을 쓰지 않고 연관과 설명력으로 쓴다. 연구 성과를 미리 가려내기가 왜 어려운지는 저자 본인의 순위 매기기가 심사 점수보다 잘 맞았다는 관측에서도 같은 결로 나온 바 있다.

4.2저자들의 직전 논문과 부호가 뒤집힌 자리

논문은 스스로 한 가지 긴장을 본문에 적어 둔다. 선행 연구는 작고 경험이 적은 팀이 데이터를 새롭게 다시 쓴다고 했는데, 이번 결과는 크고 경험이 많은 팀이 재활용한다고 말한다. 그 선행 연구가 바로 저자들의 2024년 PNAS 논문이다. 논문은 이 뒤집힘을 팀 규모와 확산 쪽에서만 받는다. 작은 팀이 파괴적 아이디어를 밀기에 유리할 수 있지만 큰 팀은 그 뒤의 확산과 채택을 도울 역량이 더 크다는 식이다. 재활용 행위 자체에서 부호가 왜 반대인지에 대한 설명은 본문 어디에도 없다.

다만 두 결과가 직접 모순은 아니다. 두 논문이 재는 축이 다르다. 직전 논문은 데이터셋 조합의 이례성을 쟀고, 이번 논문은 주제 거리를 쟀다. 그리고 이번 회귀에서 앞의 축은 통제변수로 들어가 있다. 정확한 진술은 두 논문이 서로 다른 축을 재고 있고 그 두 축에서 팀 크기의 부호가 반대로 나온다는 데까지다. 설계 차이도 하나 있다. 팀 특성 모형 열 개에는 출판 연도 더미가 들어 있지 않다. 앞 절의 모형들과 다른 점인데, 논문 본문과 캡션 어디에도 이 차이에 대한 언급이 없다.

5

이 수치를 어느 눈금으로 읽을 것인가

여기까지가 논문이 잰 것이다. 이제 그 결과에 붙는 단서를 정리한다. 목적은 논문을 깎는 것이 아니다. 저자들이 다섯 가지 한계에 스스로 번호를 매겨 두었고, 측정 도구의 오염 가능성도 먼저 인정한 뒤 다른 임베딩으로 다시 돌렸다. 여기서 할 일은 그 자기 진술을 읽기 방식으로 바꾸고, 논문이 적지 않은 자리 몇 군데를 더하는 것이다.

5.1파괴성 지수 논쟁은 이 설계에 닿는가

파괴성 지수는 지금 학계에서 가장 시끄러운 계량 지표 가운데 하나다. 한 달 전에는 그 논쟁이 정식 지면으로 올라왔다. 계보를 먼저 세워 두면 이 논문이 어느 자리에 서 있는지가 보인다.

자리 문헌 주장 이 논문에 닿는가
원전Funk & Owen-Smith, Management Science, 2017인용망에서 공고화와 파괴를 가르는 지수를 정의정의 제공
논쟁 촉발Park, Leahey & Funk, Nature, 2023시간이 갈수록 논문과 특허의 파괴성이 떨어진다이 논문은 추세를 주장하지 않는다
비판 ①Petersen 외, Quantitative Science Studies, 2024그 하락은 인용 인플레이션이 만든 인공물이다연도를 범주로 통제해 대체로 비켜간다
비판 ②Holst 외, Nature 656:E7–E13, 2026-08-12참고문헌 0개 항목이 하락의 상당 부분을 만들었다닿지 않는다. 설계상 배제돼 있다
응답Park, Leahey & Funk, Nature 656:E14–E21, 2026비판자의 자료와 지표로 다시 돌려도 하락이 남는다원 논쟁 내부의 공방

서지는 PubMed와 출판사 기록으로 확인했다. 2026년 8월 12일 Nature 같은 호에 반박과 원저자 응답이 함께 실렸다. 우리가 읽은 프리프린트는 Holst 외의 2024년 arXiv 판본을 인용한 상태인데, 제출이 정식 게재 한 달 뒤라 반영할 시간이 없었을 수 있다.

파괴성 지수를 겨눈 비판의 주력은 시간에 따른 하락 추세를 향한다. 이 연구는 추세를 주장하지 않고 같은 해 같은 급의 논문들을 옆으로 견준다. 연도를 범주로 통제하고, 인용 수와 참고문헌 수를 함께 통제하며, 참고문헌이 없는 문헌은 애초에 계산에서 뺀다. 2026년 8월 Nature의 반박이 지목한 데이터 인공물은 이 설계에 닿지 않는다.

남는 것은 셋이다. 첫째, 3년이라는 창이다. 논문 자신이 결과를 지속적 파괴가 아니라 단기적 파괴 영향의 증거로 해석해야 한다고 적었다. 재활용이 어떤 데이터셋을 새 주제 공동체로 들여놓았다면, 초기 인용은 그 공동체 안에서 몰려 오고 더 넓은 계보로는 아직 이어지지 않을 수 있다. 공동체를 가로지르는 다리 놓기에는 시간이 더 걸린다는 것이 저자들의 설명이다. 둘째, 지수의 다른 변형으로 바꿔 본 검사가 없다. 셋째, 재활용 지표와 파괴성 지수가 기계적으로 맞물릴 가능성이다. 이것도 논문이 스스로 가장 길게 적어 둔 한계다.

그 한계를 적은 자리에서 논문은 반론도 함께 펼친다. 재활용 논문은 그 데이터셋의 원출처를 거의 항상 인용하므로, 후속 논문들은 원출처와 재활용 논문을 함께 인용해 다리를 놓는 모양이 될 수도 있었다. 실제로 나타난 것이 갈라놓는 모양이라면 그것은 재는 방식이 만든 값이 아니라 공동체가 재활용된 데이터 위에 무엇을 쌓았는지를 비춘다. 게다가 재활용 점수는 인용이 하나도 생기기 전의 논문 내용만으로 계산되고, 파괴성 지수는 그 뒤에 생긴 인용으로 결정된다. 두 지표의 연관은 장부상의 인공물이 아니라 데이터 사용 행위와 그 뒤의 영향 사이의 관계라고 저자들은 적는다. 남는 우려는 참고문헌 수와 인용 수를 통제해도 그 겹침이 완전히 사라지지는 않는다는 데까지이며, 이 인정도 같은 문단에 있다.

5.2사실과 해석을 갈라 두기

논문이 밝힌 제약과, 이 글이 표를 읽으며 더한 관찰을 나눠 둔다. 앞의 여섯은 논문의 자기 진술이고, 뒤의 넷은 우리가 표를 대조하며 찾은 것으로 논문에는 적혀 있지 않다.

  • [논문의 자기 진술] 관찰 상관이다. 저자들은 정책 제언을 이 연관이 인과 효과를 반영한다면이라는 조건절로 시작하고, 추가 실험이나 인과 연구를 권한다.
  • [논문의 자기 진술] 출처인 Papers with Code는 수록 기준이 분명하지 않고 주류 학회에 집중돼 있어 대표성이 제한된다.
  • [논문의 자기 진술] 메타데이터를 맞출 수 없어 제외된 논문이 2만 편이 넘고, 그 때문에 국가·기관·게재지와 관련된 선택 편향이 들어갔을 수 있다.
  • [논문의 자기 진술] 결과는 3년 창의 단기 효과다. 일시적 효과와 지속적 효과를 가르려면 더 긴 후속 연구가 필요하다.
  • [논문의 자기 진술] 파괴성 지수와 재활용 지표의 기계적 겹침 가능성이 남아 있다.
  • [논문의 자기 진술] 확산과 인용의 연관에도 기계적 성분이 있을 수 있다.
  • [우리 관찰] 미래에 그 데이터셋이 다시 쓰이지 않은 논문은 표본에서 제외돼 있다. 이 조건은 논문의 한계 목록에 없는데, 확산 분포를 읽을 때는 이 사실이 필요하다.
  • [우리 관찰] 팀 특성 모형 열 개에는 출판 연도 더미가 없다. 앞 절 모형들과 다른 설계인데 논문이 언급하지 않는다.
  • [우리 관찰] 강건성 검사는 두 건뿐이다. 대체 임베딩으로 그림 셋을 다시 그린 검사는 산출물이 전부 그림이어서 방향이 같았다는 데까지만 말할 수 있고, arXiv 프리프린트를 포함해 다시 돌렸다는 검사는 표도 그림도 없이 결과가 비슷했다는 한 문장뿐이다. 인용 창을 바꾼 검사, 지수의 다른 변형으로 바꾼 검사, 표본 선택 편향을 보정한 검사는 없고, 모든 표준오차가 로버스트 보정 없이 계산됐다.
  • [우리 관찰] 같은 결과가 초록과 Significance Statement와 본문에서 조금씩 다르게 적혀 있고, 확산과 파괴성의 p값은 본문 산문과 부록 표가 어긋난다.

코드와 데이터는 게재 시점에 공개하겠다고 논문에 적혀 있고, 2026년 9월 17일 현재 해당 저장소는 비어 있다. 논문이 약속한 대로이므로 위반이 아니다. 다만 지금 시점에 이 결과를 밖에서 다시 돌려 볼 자산은 없다는 사실이며, 재사용될 수 있게 남기는 일이 이 글의 주제인 만큼 그 사실만 적어 둔다.

5.3같은 플랫폼을 본 앞선 연구와의 거리

이 논문이 쓴 플랫폼을 거의 같은 시기에 본 연구가 하나 더 있다. Koch 외 네 사람이 NeurIPS 2021에서 발표한 데이터셋 생애 분석이다. 그 연구는 2015년부터 2020년까지를 보면서 세 가지를 찾았다. 과제 공동체 안에서 소수 데이터셋으로 집중이 심해진다는 것, 다른 과제에서 온 데이터셋이 상당히 채택된다는 것, 그리고 소수 엘리트 기관이 만든 데이터셋에 쏠린다는 것이다. 수치로는 과제별 지니계수가 2020년에 중위 0.60이었고, 다른 과제에서 만들어진 데이터셋을 가져다 쓴 비율은 중위 57.8%였다. 가져다 쓴 비율은 분야마다 크게 갈려 컴퓨터 비전은 71.9%인데 자연어처리는 27.4%에 그쳤다. 그리고 2021년 6월 기준으로 12개 기관이 전체 데이터셋 사용의 절반을 넘게 차지했다.

세 발견 모두 이번 논문과 맞물린다. 두 번째는 이번 논문이 계량한 바로 그 현상이고, 세 번째는 기관 영향력 계수와 같은 방향이며, 첫 번째는 확산 중위값이 음수라는 관찰과 같은 현상의 다른 측정이다. 그런데 이번 논문은 Koch 외를 데이터 출처의 선례로만 인용하고 그 발견에는 응답하지 않는다. 결함이라기보다 독자가 알아 두면 좋은 맥락이다. 둘 가운데 한쪽은 분포를 쟀고 다른 한쪽은 성과를 쟀다. 같은 데이터가 여러 자리에서 겹쳐 쓰일 때 무엇이 보이는지는 물리 AI 벤치마크의 중복을 감사한 글에서도 다룬 적이 있다.

6

재사용되려면 무엇이 남아 있어야 하나

여기서 시차 하나를 밝혀 둔다. 지금까지 읽은 코퍼스는 2021년 스냅샷이고, 아래에서 다룰 사건들은 2024년부터 2026년 사이의 일이다. 논문이 이 국면을 예견했다는 식으로 쓰지 않는다. 다만 학술적인 다리는 이미 놓여 있다. 사람이 쓴 공개 텍스트의 재고가 언제 바닥나는지를 추정한 Epoch AI 연구진은 출구를 셋 들었는데, 그중 하나가 데이터가 풍부한 영역에서의 전이다. 다른 자리의 데이터를 이쪽으로 끌어오는 일이 바로 이 논문이 잰 것이다.

그런데 다시 쓰려면 먼저 찾을 수 있어야 한다. 그 층이 어떻게 사라질 수 있는지를 이 논문 자신의 출처가 보여 준다.

6.1표본을 만든 플랫폼이 이미 없다

1만 2,286편은 Papers with Code의 2021년 6월 스냅샷에서 나왔다. 그 플랫폼은 2025년 7월 24일경 문을 닫았다. 허깅페이스 공동창업자가 이튿날 후속 서비스를 함께 만들겠다고 알리면서 종료 사실이 확인됐고, 최종 공개 스냅샷은 2025년 7월 28일과 29일에 수집돼 허깅페이스의 보존 조직에 CC BY-SA 4.0으로 남아 있다. 각 데이터셋 카드에는 더 이상 갱신되지 않는다는 경고문이 붙어 있다.

종료 시점의 규모부터 바로잡아야 한다. 여러 2차 보도가 논문 18,000편이라는 수치를 종료 규모처럼 인용하는데, 그 값은 2019년 12월 페이스북 인수 발표문의 것이다. 최종 스냅샷을 직접 세어 보면 논문 576,261편, 데이터셋 15,008종, 논문과 코드의 연결 300,161건이다. 5년 반 남짓 사이에 32배가 됐다. 옛 수치를 종료 규모로 인용한 문장은 실제의 32분의 1에 해당한다.

문을 닫은 뒤의 상태가 더 구체적인 교훈을 준다. 원 저장소의 대표 문서는 지금도 데이터가 매일 재생성된다고 적혀 있다. 그 문구를 고치고 스냅샷 수집일을 적어 넣으려는 수정 요청이 2025년 9월 10일에 열렸는데 지금까지 병합되지 않았다. 정말 문을 닫았느냐고 묻는 문의는 2025년 8월에 올라와 답변 없이 열려 있다. 후속으로 제시된 서비스에는 옛 플랫폼의 핵심이던 과제별 리더보드가 이관되지 않았다. 데이터의 생존은 이제 한 회사의 운영이 아니라 여러 개인과 조직의 자발적 보존에 걸려 있다.

대비되는 설계가 같은 국면에 있다. MLCommons가 2024년 3월 6일 내놓은 Croissant는 한 회사의 규격이 아니라 학계와 기업과 정부기관이 섞인 컨소시엄의 메타데이터 표준이다. 출시 시점에 캐글과 허깅페이스와 OpenML이 동시에 지원을 발표했고, 2026년 2월 판본은 출처 추적과 거버넌스 태그를 더했다. 채택도 형식적이지 않다. NeurIPS 2025 데이터셋·벤치마크 트랙에서는 승인 논문 497편 가운데 426편(85.7%)이 조회 가능한 Croissant 문서를 붙였다. 로봇 데이터의 재사용 조건을 표준으로 다룬 글국내 표준 지형을 정리한 글이 이 층을 각각 다른 각도에서 본 적이 있다. 다만 형식을 채택했다는 것과 필수 항목을 실제로 채웠다는 것은 다른 지표다.

6.2문서는 인기를 따라간다

데이터셋 카드가 얼마나 채워져 있는지를 전수로 센 연구가 있다. 허깅페이스 허브의 카드 7,433개를 분석한 결과, 다운로드 상위 100개 데이터셋은 86.0%가 권장 섹션 다섯 개를 모두 채운 반면 다운로드가 0인 데이터셋은 7.9%만 그랬다. 라이선스와 주의사항이 들어가는 절은 전체 카드 텍스트의 2.1%에 그쳤다. 문서화는 이미 잘 쓰이는 데이터에 몰려 있고, 아직 발견되지 않은 데이터일수록 발견될 단서가 없다. 저장된 데이터가 실제로 쓰이기까지 무엇이 필요한지는 연구데이터 파이프라인을 다룬 글에서 따로 정리한 바 있다.

언어별로 보면 한국어가 가장 얇다. 허깅페이스 허브의 언어별 상위 700개 데이터셋을 견준 연구의 수치다.

지표 영어 중국어 일본어 한국어
권장 섹션 5개를 모두 채움18.41%7.67%1.64%2.46%
라이선스 불명23.5%20.3%35.3%
학술 논문과 연계됨39.20%16.97%10.48%8.89%

Choi, Park, Song의 CJK 데이터셋 비교 연구(arXiv:2507.04329)에서 옮겼다. 표본은 언어별로 다운로드 100건 이상인 상위 700개 데이터셋이며, 허브 전체를 대상으로 한 값이 아니다. 일본어의 라이선스 불명 비율은 원문에 없어 비워 두었다.

라이선스가 불명인 비율이 가장 높고, 문서화 완성도와 학술 연계는 가장 낮다. 다시 쓰려는 사람에게는 세 줄이 같은 말을 한다. 한국어 데이터는 찾더라도 쓸 수 있는지 판단할 근거가 모자란다.

기록이 없으면 쓰였다는 사실 자체가 남지 않는다. 공개 저장소 드라이아드의 데이터셋 6만 4,774개를 놓고 피인용을 세 소스로 각각 조회한 2026년 연구에서, 집계는 4만 6,873건과 5만 4,335건, 그리고 492건으로 갈렸다. 어느 하나로는 빠짐없이 덮이지 않아 연구진은 셋을 합쳐 썼다. 가장 적게 잡은 쪽이 논문 인용망을 보는 소스다. 의료영상 학회 논문을 본 분석에서는 공개 데이터를 쓰면서 정식 인용 없이 각주나 주소로만 적은 비율이 21.6%였고, 인용할 개체 자체가 없던 경우도 5.0%였다. 1절에서 본 것처럼 이 논문이 인용 대신 플랫폼의 사용 기록으로 재활용을 센 이유도 여기에 있다.

6.3국내에서는 같은 문제가 중복 제작으로 나타났다

2026년 8월 12일 공개된 감사원의 AI 학습용 데이터 감사 결과가 그 비용을 실측했다. 2017년부터 2024년까지 공공 AI 학습데이터 구축에 들어간 예산은 1조 6,328억 원이고, AI 허브에 공개된 데이터는 908종이다. 문제는 그 옆이다. 26개 공공기관이 313종을 자기 포털에만 올려 두어 검색되지 않는 상태였다. 찾을 수 없으면 다시 쓸 수 없고, 다시 쓸 수 없으면 다시 만들게 된다. 감사에서 확인된 사례로 대전 서구가 구축한 생활폐기물 이미지 9,000장 중 5,200장(57.8%)이 과학기술정보통신부의 2020년 구축분과 유사했고, 한국도로공사의 야생동물 데이터에서는 6만 장 중 2만 5,000장(약 42%)이 2021년 구축분과 유사했다. 이 감사는 지난달 따로 자세히 다룬 적이 있다.

논문의 확산 분포가 음수로 기운 이유에 한국 사례가 한 가지 답을 보탠다. 논문 표본에서는 데이터가 원래 쓰이던 주제로 돌아갔고, 국내 사례에서는 아예 건너갈 수 있는 상태가 아니었다. 카탈로그에 없으면 재활용은 시도조차 되지 않는다.

반대편 사례도 같은 달에 있었다. 2026년 8월 27일 과학기술정보통신부와 한국지능정보사회진흥원은 독자 AI 파운데이션 모델 사업 참여 기업들이 구축한 데이터 29종, 약 3,544만 건, 1.56조 토큰을 AI 허브에서 누구나 내려받을 수 있게 열었다. 2025년 데이터 구축·가공 예산 150억 원으로 만든 것이고, 보안이 필요한 데이터는 안심존을 거치게 했다. 국내 사정을 실패담으로만 요약할 수는 없다. 한쪽에는 찾을 수 없어 다시 만든 기록이 있고, 다른 쪽에는 다시 쓰일 수 있게 내놓은 기록이 있다.

층 자체가 얇아지는 압력도 함께 온다. 2025년 7월 1일 클라우드플레어는 광고로 수익화된 페이지에 한해 AI 봇을 차단할 수 있는 선택 옵션을 도입했다. 같은 발표에서 크롤링 대 리퍼럴 비율도 공개했다. 2025년 6월 기준 구글은 리퍼럴 한 건당 14회를 크롤링하는데, OpenAI는 1,700회였고 앤스로픽은 73,000회였다. 공유지가 마르는 국면의 다른 얼굴은 위키백과에서 본 적이 있고, 데이터 공급이 소수에게 쏠리는 흐름은 따로 정리해 두었다.

7

우리 데이터로 같은 질문을 해 보면

이 논문에서 실무로 넘어오는 다리는 앞서 본 확산 분포다. 성공률이 낮은 일에서 값이 나오려면 시도 횟수가 받쳐 줘야 한다. 그러니 조직 차원의 관건은 어느 데이터가 대박이 날지 고르는 일이 아니라 한 번 시도하는 비용을 낮추는 일이 된다. 여기서부터는 우리 추론이다. 논문은 문서화에 투자하라고 말하지 않았다. 마지막 문단이 내놓은 것은 앞서 본 네 가지 문턱이 낮아지면 값이 특히 클 수 있다는 가설이다. 검증은 후속 과제로 남겨 두었다.

그 가설을 조직의 데이터셋 앞에 놓으면 점검할 자리가 넷 생긴다. 다음 표의 마지막 열은 그 항목이 없을 때 무엇이 막히는지를 적은 것이다.

점검 항목 무엇을 확인하나 없으면 막히는 것
목적·조건·제외 기준왜 모았는지, 어떤 환경에서 측정했는지, 무엇을 뺐는지가 읽을 수 있게 남아 있는가2차 사용자가 자기 목적과의 거리를 잴 수 없다. 쓸 수 있는지 판단 자체가 불가능해진다
라이선스원래 목적 밖의 사용을 허용하는가. 수집 동의의 범위가 어디까지인가기술적으로 가능해도 법적으로 막힌다. 한국어 데이터셋의 35.3%가 이 칸이 비어 있다
발견 가능성조직 밖에서, 또는 다른 팀이 검색으로 찾을 수 있는가재활용이 시도조차 되지 않고 중복 제작으로 귀결된다. 국내 공공 데이터 313종이 이 경우다
결합 가능성다른 데이터와 붙일 수 있는 형식·식별자·스키마를 갖췄는가다른 주제로 옮겨 가려면 대개 다른 데이터와 붙여야 하는데 그 지점에서 비용이 폭증한다

네 항목은 논문이 든 개입 후보 넷 가운데 데이터 자체에 관한 셋(발견·문서화·상호운용성)을 조직 단위 점검표로 정리한 것이다. 항목 구성과 마지막 열은 우리 해석이며 논문에 이런 표는 없다. 세 번째 행의 사례는 감사원 감사 결과, 두 번째 행의 수치는 6.2절의 CJK 비교 연구에서 가져왔다.

실제로 가장 자주 깨지는 것은 세 번째 항목이다. 품질이 나빠서 못 쓰는 경우보다 있는지를 몰라서 못 쓰는 경우가 많다. 그리고 두 번째는 비용으로 되돌아온다. 라이선스가 정리되지 않은 데이터를 쓰려면 사후에 확인 비용이 붙고, 그 비용이 얼마나 되는지는 공개 데이터셋 라이선스 감사 비용을 따져 본 글에서 다룬 바 있다.

논문의 정책 제언도 같은 방향을 가리킨다. 저자들은 데이터 저장소가 먼 연구 영역에서 비슷한 데이터셋을 다시 쓴 논문을 보여 주는 것을 먼저 든다. 학회 투고 시스템이 좁은 주제 안에서만 쓰인 데이터셋에 표시를 다는 것, 언어모형 기반 추천이 아직 시도되지 않은 데이터셋과 주제의 짝을 제안하는 것이 그다음이다. 마지막은 데이터 큐레이션 관행과 저장소가 그 데이터셋이 지금까지 어떤 주제에 쓰였는지를 요약해 함께 싣는 것이다. 그 항목은 곧 사용 이력을 메타데이터로 남기라는 말이다. 지금 대부분의 데이터 카드에 없는 칸이기도 하다.

8

페블러스 관심의 이유

페블러스가 파는 것의 상당 부분은 데이터를 다시 쓸 수 있는 상태로 만드는 일이다. DataClinic은 이미 있는 데이터셋을 진단해 무엇이 빠졌는지 알려 주고, AI-Ready 데이터 작업은 수집 목적과 조건과 한계를 남겨 다음 사람이 그 데이터를 쓸 수 있게 한다. 이 논문은 그 작업이 겨누는 대상, 곧 데이터가 원래 자리에서 다른 자리로 옮겨 가는 일이 연구 성과와 어떤 관계였는지를 대규모로 잰 계량이다.

8.1비즈니스·기술 연결

지금까지 데이터셋에 값을 매기는 축은 대체로 크기와 정확도였다. 이 논문이 더하는 축은 다른 자리로 옮겨 갈 수 있음이고, 그것을 성과 지표로 말한다. 그리고 논문이 마지막 문단에서 든 개입 후보 넷 가운데 셋이 우리가 하는 일의 목록과 겹친다. 데이터셋 발견, 문서화, 상호운용성이다. 남은 하나는 영역을 가로지르는 데이터 사용 훈련인데, 이것은 도구가 아니라 조직의 교육 과제다. 논문이 그 넷을 검증한 것은 아니다. 가설로 내놓았을 뿐이고, 그 구별을 지켜야 이 연결이 쓸 만해진다.

8.2데이터 품질 관점

이 논문이 재는 것은 데이터의 내부 품질이 아니라 주제 공간에서의 이동 거리다. 정확도나 완전성 같은 내부 지표로는 다른 목적으로 옮겨 쓸 수 있는가가 잡히지 않는다. 결측이 하나도 없고 라벨이 완벽해도, 수집 조건과 측정 환경과 라벨 정의와 제외 기준이 남아 있지 않으면 다음 사람은 그 데이터가 자기 물음에서 얼마나 먼지를 알 수 없다. 품질 특성 표준 가운데 어느 항목이 재사용 가능성에 걸리는지를 짚으면 기존 논의와 이어지는데, 이 연결은 논문에 없고 우리가 놓는 다리다.

6.2절의 언어별 표가 이 축이 국내에서 왜 더 비싼 문제인지를 보여 준다. 한국어 데이터셋은 문서화 완성도가 비교 대상 가운데 낮은 축이고 라이선스가 불명인 비율은 가장 높다. 품질 진단의 결과가 좋아도 그 데이터는 다음 사람에게 건너가지 못한다.

8.3고객·파트너 실무 함의

이 논문의 분포에서 실무가 가져갈 것은 셋이다.

  • 새로 모으기 전에 가진 것을 세는 절차가 있는가. 데이터 제작 예산과 재사용 예산의 배분 문제다. 국내 공공 부문에서 이 절차가 없을 때 무슨 일이 생기는지는 6.3절의 감사 결과가 보여 준다.
  • 재사용을 막는 것은 대개 품질이 아니라 기록의 부재다. 라이선스 표기, 수집 동의 범위, 제외 기준. 세 칸이 비어 있으면 품질 점수와 무관하게 2차 사용이 멈춘다.
  • 한 번의 시도로 값이 날 확률이 낮으니 시도 비용을 낮춰야 한다. 확산 분포가 음수로 기울어 있다는 관찰에서 우리가 끌어낸 추론이고, 논문의 주장이 아니다. 비용을 낮추는 수단이 문서화와 카탈로그다.

8.4페블러스가 서 있는 자리

데이터 품질 진단에서 재사용 가능성 평가로 한 걸음 옮길 근거가 여기 있다. 그리고 6.1절의 종료 사례가 그 평가의 대상을 넓힌다. 재사용의 값은 데이터 자체의 속성만이 아니라 그 데이터를 찾을 수 있게 해 주는 층에 얹혀 있고, 그 층은 한 회사의 운영 결정 하나로 사라질 수 있다. 진단과 문서화가 조직 안에 남아 있어야 하는 이유가 그것이다. 밖에 있던 층이 닫혔을 때 남는 것은 조직이 스스로 적어 둔 것뿐이다.

1절부터 5절까지는 논문이 잰 것과 우리가 부록 표를 직접 대조해 확인한 것을 옮겼다. 표본 제한 조건·팀 모형의 설계 차이·확산과 파괴성의 p값 정정·초록과 표의 어긋남은 논문에 적혀 있지 않은 우리 관찰이다. 6절과 7절의 국내 수치와 점검표, 그리고 이 8절은 논문이 하지 않은 일이다. 나눠서 읽어 주시기 바란다. 또한 이 글이 읽은 것은 2026년 9월 15일 arXiv에 올라온 심사 전 프리프린트이고, 결과는 모두 관찰 상관이며 3년 창 안에서 측정됐다. 긴 글 읽어 주셔서 감사하다.

R

참고문헌

본문의 수치는 세 갈래다. 1번 프리프린트의 값은 arXiv 공개본의 본문과 부록 회귀표 14개를 직접 대조해 옮겼고, 그림에서 눈으로 읽은 값은 하나도 쓰지 않았다. 산업계 사실은 플랫폼 API와 공식 발표문을 직접 조회했다. 국내 감사 수치는 보도 두 건 이상에서 같은 값이 확인된 것만 실었고, 감사 보고서 원문은 열지 못했다.

이 보고서의 뼈대

  • 1.Yulin Yu, Yong-Yeol Ahn, Daniel M. Romero. "Dataset repurposing and disruptive AI research." 프리프린트, arXiv:2609.16736v1 [cs.CY], 2026년 9월 15일 제출. arXiv: 2609.16736 — 이 글의 1차 출처다. 소속은 애리조나대 정보과학대학·버지니아대 데이터사이언스대학·미시간대 정보대학이며, 미국 국립과학재단 연구비 2404109의 지원을 받았다. arXiv Comments 필드가 비어 있어 심사 전 프리프린트로 읽었다. 코드와 데이터는 게재 시 공개 예정으로 적혀 있다. 5.2절에서 현재 상태를 확인했다.
  • 2.Yulin Yu, Daniel M. Romero. "Does the use of unusual combinations of datasets contribute to greater scientific impact?" PNAS 121(41):e2402802121, 2024. DOI 10.1073/pnas.2402802121 — 2.2절의 눈금이자 4.2절에서 부호가 뒤집힌 상대다. 이번 논문은 이 연구의 지표를 통제변수로 깔고 그 위에서 새 축을 잰다. 출판사 사이트 접근이 막혀 본문은 열지 못했고, 1번 논문이 인용한 범위 안에서만 옮겼다.

선행 연구와 측정 도구

  • 3.Bernard Koch, Emily Denton, Alex Hanna, Jacob G. Foster. "Reduced, Reused and Recycled: The Life of a Dataset in Machine Learning Research." NeurIPS 2021 Datasets & Benchmarks. arXiv:2112.01716 — 5.3절이다. 같은 플랫폼의 거의 같은 시기를 보면서 분포를 쟀다. 1번 논문은 이 연구를 출처 표기에만 쓴다. 5.3절의 지니계수 0.60·채택 중위 57.8%·12개 기관 수치는 이 논문 PDF 본문과 직접 대조했다. 기관 12곳은 2021년 6월 스냅샷 본표이며, 강건성 부록의 9개 기관 표와는 다른 표다.
  • 4.Amanpreet Singh, Mike D'Arcy, Arman Cohan, Doug Downey, Sergey Feldman. "SciRepEval: A multi-format benchmark for scientific document representations." EMNLP 2023, 5548–5566 — 1.2절 재활용 지표가 쓴 SPECTER2 임베딩의 출처로 1번 논문이 인용한 문헌이다.
  • 5.Zihang Lin, Yian Yin, Lu Liu, Dashun Wang. "SciSciNet: A large-scale open data lake for the science of science research." Scientific Data 10(1):315, 2023 — 1.1절의 서지·인용망 출처다. 인용 수가 2022년까지만 있어 3년 인용은 OpenAlex 2024년 8월 스냅샷으로 보완됐다.
  • 6.Brian Uzzi, Satyam Mukherjee, Michael Stringer, Ben Jones. "Atypical combinations and scientific impact." Science 342(6157):468–472, 2013 · Margaret A. Boden. "Creativity and artificial intelligence." Artificial Intelligence 103(1–2):347–356, 1998 — 1번 논문이 든 두 이론 틀의 원전이다. Boden은 단행본이 아니라 1998년 학술지 논문이 인용 판본이다.
  • 7.Johannes Hoelzemann, Gustavo Manso, Abhishek Nagaraj, Matteo Tranchero. "The streetlight effect in data-driven exploration." NBER Working Paper 32401, 2024 · Ryan Hill 외. "The pivot penalty in research." Nature 642(8069):999–1006, 2025 — 3.1절과 2.1절에서 1번 논문이 후보 설명으로 든 문헌들이다. 뒤엣것은 논문이 꺼냈다가 스스로 거둬들였다.

파괴성 지수와 그 논쟁

  • 8.Russell J. Funk, Jason Owen-Smith. "A dynamic network measure of technological change." Management Science 63(3):791–817, 2017 — 2절이 푼 지수의 원전이다.
  • 9.Michael Park, Erin Leahey, Russell J. Funk. "Papers and patents are becoming less disruptive over time." Nature 613(7942):138–144, 2023. DOI 10.1038/s41586-022-05543-x — 논쟁을 촉발한 논문이다.
  • 10.Vincent Holst, Andres Algaba, Floriano Tori, Sylvia Wenmackers, Vincent Ginis. "Dataset artefacts can partially drive the measured decline in disruption." Nature 656(8127):E7–E13, 2026년 8월 12일. DOI 10.1038/s41586-026-10787-y · Michael Park, Erin Leahey, Russell J. Funk. "Reply to: Dataset artefacts can partially drive the measured decline in disruption." Nature 656(8127):E14–E21, 2026. DOI 10.1038/s41586-026-10788-x — 5.1절 표의 두 행이다. 서지는 PubMed로 확인했고 본문은 열지 못해 정량 수치는 옮기지 않았다. 1번 논문은 앞엣것을 2024년 arXiv 프리프린트 판으로 인용한다.
  • 11.Alexander M. Petersen, Felber Arroyave, Fabio Pammolli. "The disruption index is biased by citation inflation." Quantitative Science Studies 5(4):936–953, 2024 · Christoph Leibel, Lutz Bornmann. "What do we know about the disruption index in scientometrics?" Scientometrics 129(1):601–639, 2024 — 5.1절 비판 ①과 창 민감성 논의의 근거다.
  • 12.Lingfei Wu, Dashun Wang, James A. Evans. "Large teams develop and small teams disrupt science and technology." Nature 566(7744):378–382, 2019 — 4.2절에서 1번 논문이 대립항으로 든 선행 연구다.

데이터 재사용 인프라와 문서화

  • 13.허깅페이스 pwc-archive 조직 — Papers with Code 최종 공개 스냅샷(2025년 7월 28~29일 수집, CC BY-SA 4.0). 6.1절의 종료 시점 규모 576,261편·15,008종·300,161건은 이 조직의 데이터셋 카드와 API 응답에서 직접 셌다. 각 카드에 갱신 중단 경고가 달려 있다.
  • 14.Robert Stojnic. "Papers with Code is joining Facebook AI." Medium, 2019년 12월 13일 — 이 글의 수치(논문 18,000편 등)는 2019년 인수 시점의 값이다. 여러 2차 보도가 이를 종료 시점 규모로 인용하고 있어 6.1절에서 바로잡았다.
  • 15.MLCommons. Croissant 메타데이터 규격 출시(2024년 3월 6일) 및 Croissant 1.1(2026년 2월), NeurIPS 2025 Datasets & Benchmarks 채택 집계(승인 497편 중 426편) — 6.1절이다. MLCommons 공식 발표와 구글 리서치 블로그를 대조했다.
  • 16.Xin Yang 외. "Navigating Dataset Documentations in AI: A Large-Scale Analysis of Dataset Cards on Hugging Face." ICLR 2024. arXiv:2401.13822 — 6.2절의 86.0%·7.9%·2.1%다. 카드 7,433개 전수 분석이며 허브 전체가 아니다. 같은 절 마지막 문단의 인용 추적 수치는 별개 두 연구에서 왔다. 드라이아드 데이터셋 6만 4,774개를 세 소스로 조회한 값(4만 6,873 / 5만 4,335 / 492)은 "Sustaining Dryad"(arXiv:2604.27580)의 저자 직접 조회분이며 조회일은 2025년 2월과 7월이다. 정식 인용 없이 표기한 21.6%와 인용할 개체가 없던 5.0%는 Heller 외의 MICCAI 2014~2018년 논문 분석(arXiv:1908.06830)에서 가져왔다. 두 값 모두 이 보고서가 원문 PDF로 직접 대조했다.
  • 17.Yebin Choi, Jaehyung Park, Hyunsoo Song. "No Language Data Left Behind: A Cross-Cultural Study of CJK Language Datasets in the Hugging Face Ecosystem." arXiv:2507.04329 — 6.2절 언어별 표다. 표본은 언어별 상위 700개 데이터셋이다. 저자 표기는 재확인이 필요하다.
  • 18.Timnit Gebru 외. "Datasheets for datasets." CACM 64(12):86–92, 2021 — 문서화 규격의 원전이며 1번 논문의 참고문헌에도 올라 있다.
  • 19.Pablo Villalobos 외. "Will we run out of data? Limits of LLM scaling based on human-generated data." arXiv:2211.04325 (v2, 2024년 6월 4일) — 6절 도입의 출구 셋이다. 1번 논문은 이 연구를 인용하지 않는다. 다리를 놓은 것은 우리다.
  • 20.Cloudflare. "Control content use for AI training." 공식 블로그, 2025년 7월 1일 — 6.3절 마지막 문단이다. 원문은 광고 수익화 페이지에 한한 선택 옵션으로 적고 있으며, 기본 차단이라는 2차 보도 표현은 범위를 넓힌 것이다. 크롤링 대 리퍼럴 비율도 이 글의 1차 수치다.

국내 자료

  • 21.감사원. 「인공지능산업 육성 실태Ⅲ(AI 학습용 데이터)」 감사 결과, 2026년 8월 12일 공개 — 6.3절의 1조 6,328억 원·908종·313종·대전 서구 57.8%·도로공사 약 42%다. 감사 보고서 원문은 대조하지 못했고 언론 두 매체 이상에서 교차 확인된 수치만 실었다. 검색엔진 요약에서 돌던 63%·58%라는 값은 원 기사에 없어 쓰지 않았다.
  • 22.과학기술정보통신부·한국지능정보사회진흥원. 독자 AI 파운데이션 모델 데이터 개방 발표, 2026년 8월 27일 — 6.3절의 29종·3,544만 건·1.56조 토큰·150억 원이다. 부처 발표를 받은 복수 매체 보도를 교차 확인했다.

페블러스 블로그 인접 글