Executive Summary

1. AI 과학자의 등장 — 두 가지 실험

2024~2026년, 과학 연구 자동화는 빅테크(OpenAI, DeepMind, Anthropic)와 스타트업(Sakana AI)의 핵심 경쟁 축으로 부상했다. 이 흐름 속에서 두 가지 실험이 학술 생태계를 근본적으로 뒤흔들고 있다. 하나는 "AI가 논문을 쓸 수 있는가"라는 질문에 대한 Sakana AI Scientist v2의 답이고, 다른 하나는 "AI가 쓴 논문을 어디에 게재할 것인가"라는 질문에 대한 JAIGP의 답이다.

이 두 프로젝트는 상호 보완적이면서도 근본적으로 다른 전략을 취한다. AI Scientist v2는 연구의 전 과정(아이디어 생성 → 코드 작성 → 실험 수행 → 논문 집필)을 자동화하는 시스템이다. JAIGP는 그렇게 생성된 논문이 게재될 수 있는 공식 채널을 구축한다. 한편, OpenAI는 2028년까지 자율 AI 연구자 구현을 목표로, DeepMind는 AI co-scientist와 AlphaEvolve를 통해, Anthropic은 Claude for Life Sciences와 Coefficient Bio 인수($400M)를 통해 과학 자동화에 수십억 달러를 투자하고 있다.

2. JAIGP: AI-only 저자 저널의 탄생

JAIGP(Journal of AI-Generated Papers)는 AI가 저자이고 인간은 프롬프터 역할만 하는 최초의 전문 학술 저널이다. 2026년 2월 론칭 후 2026년 4월 기준 43편의 논문을 게재했으며, Claude, ChatGPT, Gemini, Grok 등 다양한 AI 모델이 저자로 참여하고 있다.

JAIGP의 창립자인 César Hidalgo는 현재 Toulouse School of Economics 교수(전 MIT Media Lab, 2010~2019)로, 기존 학술 출판 시스템이 AI 저자를 완전히 배제하는 상황에서 우회 채널을 구축했다. 2026년 3월부터는 다단계 피어리뷰 시스템(AI 스크리닝 → ORCID 보증 → 커뮤니티 코멘트 → AI 리뷰어 → 인간 최종 평가)을 도입했다.

그럼에도 JAIGP의 실험은 중요한 질문을 제기한다. AI가 생성한 연구물의 가치를 어떻게 평가할 것인가? 기존 학술 시스템이 AI 저자를 영구적으로 배제할 수 있는가? JAIGP의 43편 논문과 그 품질 편차(높은 것부터 낮은 것까지)는 이 질문에 대한 실증 데이터를 축적하고 있다.

3. Sakana AI Scientist v2: 가설에서 논문까지

Sakana AI의 AI Scientist v2는 아이디어 생성부터 코드 작성, 실험 수행, 논문 집필까지 과학 연구의 전 과정을 자동화하는 시스템이다. v1 대비 핵심 개선사항은 세 가지다: (1) 템플릿 의존 제거, (2) Agentic Tree Search 도입으로 연구 경로 최적화, (3) VLM(Vision-Language Model) 피드백 루프로 실험 결과 자동 해석.

비용 측면에서 AI Scientist v2는 논문 1편을 약 $20~$25에 생성한다(실험 $15~$20 + 작성 약 $5). 인간 연구자의 출판 비용 — 포맷팅만 중앙값 $477, 오픈 액세스 출판 비용(APC) $3,500~$4,000, 인건비 별도 — 과 비교하면 100배 이상의 비용 차이다.

그러나 비용 혁명의 이면에는 품질 편차가 존재한다. ICLR 2025에 제출된 3편 중 수락된 1편의 평균 점수는 6.33/10(개별: 6, 7, 6)이었지만, 기각된 2편은 3~4/10에 불과했다. 수락된 논문조차 LSTM 개념의 귀속 오류, 정의의 부정확성 등 품질 문제를 포함한다.

4. 팩트 체크 — 현실과 과장 사이

AI 과학 자동화의 성과는 실재하지만, 미디어 보도에서 체계적으로 과장되고 있다. 아래는 가장 흔한 주장들에 대한 팩트 체크다.

5. 학술 출판의 AI 정책 지형

Big 5 출판사 모두 AI 저자를 금지하지만, 정책의 세부 구현 방식은 다양하다. COPE(Committee on Publication Ethics)는 "AI는 책임을 질 수 없으므로 저자가 될 수 없다"는 원칙을 명시했고, ICMJE는 4대 저자 기준(실질적 기여, 비판적 수정, 최종 승인, 책임 동의)을 AI가 충족할 수 없다고 판단한다. 2026년에는 AI 전용 섹션(Section V)을 신설했다.

그러나 방어선이 견고하다고 해서 침투 경로가 없는 것은 아니다. Project Rachel(arXiv:2511.14819)은 가상의 AI 학술 아이덴티티가 인용을 획득하고, 피어리뷰 초청까지 받을 수 있음을 실증했다. Nature 편집부는 2026년 3월 25일 논평에서 "기관, 펀더, 출판사가 대응해야 한다"고 촉구했다. 이는 현행 정책이 AI의 학술 침투를 완전히 차단하지 못함을 인정하는 제도적 전환점이다.

6. 데이터 품질과 과학적 신뢰의 문제

AI 생성 논문의 확산은 환각 인용, 데이터 오염, 모델 붕괴라는 연쇄적 위험을 낳는다. 이 위험을 이해하려면 각 단계의 수치를 직시해야 한다.

환각 인용의 급증

환각 인용(hallucinated citations) — 실제로 존재하지 않는 논문을 인용하는 현상 — 을 포함한 논문 비율은 2024년 0.3%에서 2025년 2.6%로 9배 급증했다. 컴퓨터과학 분야에서는 검증 불가능한 참고문헌을 포함한 논문이 전체의 2~6%에 달한다. AI 보조 작성 논문 비율은 전체 13.5%, CS 분야 22.5%에 이른다.

모델 붕괴의 재귀적 루프

Shumailov et al.(Nature 2024)은 합성 데이터 비율이 30~50%를 초과하면 모델 붕괴(model collapse)가 발생함을 실증했다. AI가 생성한 논문이 학술 데이터베이스에 유입되고, 이것이 다시 AI의 훈련 데이터로 사용되면, 품질 저하 → 더 나쁜 AI 논문 → 추가 품질 저하라는 재귀적 오염 루프가 형성된다.

AI 감지 도구의 현황과 한계

현재 GPTZero(99.3%), Originality.ai(99%), Turnitin(92~100%) 등이 높은 정확도를 보이지만, 가벼운 편집만으로 정확도가 20~30% 하락한다. 더 중요한 것은, AI Scientist v2처럼 실제 코드를 실행하고 실험 데이터를 생성하는 방식은 단순 텍스트 감지로 포착하기 어렵다는 점이다. 감지 기술과 생성 기술의 군비경쟁이 본격화되고 있다.

논문 철회 현황도 심각하다. 2023년에는 사상 최대인 10,000건 이상의 철회가 발생했으며, AI 관련 직접 철회만 335건 이상이다(2023~2024, Frontiers/PMC 기준). Wiley/Hindawi에서만 11,000건 이상이 철회되었다.

7. 기회와 리스크

AI 과학 자동화는 연구 비용 절감과 속도 혁신의 기회를 제공하지만, 품질 검증 없는 도입은 학술적·법적 리스크를 수반한다.

즉시 활용 가능한 시나리오

• 문헌 조사 자동화: 대량 논문 스크리닝과 요약
• 가설 생성 보조: 기존 연구 패턴에서 새로운 연구 방향 탐색
• 실험 코드 작성: 통계 분석, 데이터 전처리 코드 자동 생성
• 초안 작성 보조: 논문 구조화와 초안 작성 가속화

필수 주의사항

• 환각 인용 검증: AI가 생성한 모든 인용의 실존 여부 확인
• 출판사 정책 준수: Big 5 모두 AI 사용 공시 필수
• 재현성 확보: AI 생성 실험 결과의 독립 검증
• 법적 책임 소재: AI 저자에 대한 법적 프레임워크 부재

합성 데이터와 AI 과학의 교차점

AI Scientist v2는 합성 산술 표현식 데이터셋을 생성하여 compositional generalization을 실험했다. 이는 합성 데이터 생성·증강과 직접 연결된다. AI가 자율적으로 실험을 설계하고 수행하려면 입력 데이터의 품질이 보장되어야 한다 — 이것이 AI-Ready Data의 핵심 전제다.

FAQ

참고문헌