Executive Summary

주요 수치

네 칸을 뽑았다. 앞의 둘은 반복 심사가 얼마나 흔들리는지, 뒤의 둘은 그 흔들림을 줄이려 할 때 치르는 값이다.

출처: Zongrui Yang 외, "Can We Believe AI Peer Review?"(arXiv:2610.19339, 2026년 10월 14일) 표 1·3·4·7.

실험에 쓰인 논문은 ICLR 2025와 ICLR 2026에서 각각 100편씩, 모두 200편이다. 아무렇게나 고르지 않았다. 학회가 붙인 공식 분야와 인간 심사자들의 평균 점수 구간을 함께 묶어 층화 추출했다. 점수 눈금은 ICLR이 쓰는 1점에서 10점까지이고, 1점이 강한 거부, 10점이 강한 수락이다.

심사자 자리에는 세 가지 설정을 세웠다. 추론 강도를 중간으로 둔 GPT-5.6-Sol, 낮게 둔 GPT-6-Luna, 역시 낮게 둔 GPT-6-Sol이다. 설정마다 논문 한 편을 열 번씩 심사하게 했으니 이 기본 실험에서만 6,000건이 쌓였다. 프롬프트도 논문도 바뀌지 않았다. 바뀐 것은 몇 번째 심사인가뿐이다.

▲ 논문 표 1. 합격 예측 AUC는 열 번 평균이 실제 채택과 거부를 얼마나 갈라내는지를 보는 값이다.

표를 세로로 읽으면 두 가지가 함께 보인다. 열 번 내내 한 점수를 고수한 비율은 가장 좋은 설정이 56.5%이고 나머지 둘은 서른 번에 열 번꼴이다. 그런데 바로 옆 칸의 점수 폭은 1점 안쪽에 몰려 있다. 모델이 어떤 논문을 8점으로 봤다가 다음 번에 3점으로 보는 식의 널뛰기를 한 것이 아니다. 4점과 5점 사이에서 계속 마음을 바꾼 쪽에 가깝다.

열 번 평균과 인간 심사자 평균 점수의 순위 상관은 0.346에서 0.409 사이에 머물렀다. 채택 여부를 맞히는 AUC는 0.648에서 0.714다. 사람과 완전히 다른 기준으로 읽지도 않고, 사람을 대신할 만큼 겹치지도 않는다.

점수 하나보다 실제 결정에 가까운 질문은 따로 있다. 논문 두 편을 놓고 어느 쪽이 나은지 가릴 때 그 순서가 다시 심사해도 유지되는가. 연구진은 심사 결과를 두 덩어리로 나눠 같은 논문 쌍의 순서가 양쪽에서 어떻게 나오는지를 셌다. GPT-5.6-Sol의 수치는 이렇다.

▲ 논문의 순위 일관성 수치(GPT-5.6-Sol). 다른 두 설정에서도 다섯 번으로 늘렸을 때 순서 일치가 74%에서 86% 사이로 올라간다.

여기서 흔한 오해 하나를 걷어낼 수 있다. 한 번 심사가 동전 던지기라는 말은 이 표와 맞지 않는다. 순서가 실제로 뒤집힌 비율은 1.15%뿐이다. 한 번 심사의 문제는 틀린 순서를 내놓는 것이 아니라 순서를 아예 못 내놓는 것이다. 36.71%, 그러니까 논문 쌍 셋 중 하나가 동점으로 끝난다. 1점에서 10점까지 정수 열 칸으로 200편을 줄 세우면 같은 칸에 여럿이 겹치는 것이 당연하다.

다섯 번으로 늘리면 평균이 소수점을 갖게 되면서 동점이 13.38%까지 풀린다. 다만 풀려난 쌍이 전부 원래 순서로 가지는 않는다. 뒤집힘이 1.15%에서 2.15%로 함께 올라간다. 심사를 더 시키면 더 많은 쌍에 순서가 생기고, 그중 일부는 지난번과 반대 방향으로 선다.

세 설정을 나란히 놓으면 한 가지가 더 보인다. 한 번 심사에서 동점으로 끝난 비율은 GPT-5.6-Sol 36.71%, GPT-6-Luna 35.60%, GPT-6-Sol 42.14%다. 1절에서 반복 일치율 56.5%로 가장 안정적이었던 GPT-6-Sol이 두 논문을 가려낼 때는 가장 자주 멈춰 선다. 다섯 번으로 늘려도 이 설정의 동점은 25.08%에 머물러, 나머지 둘이 11.85%와 13.38%까지 내려간 것과 벌어진다. 대신 순서가 뒤집힌 비율은 거꾸로 가장 낮아 한 번에 0.34%, 다섯 번에 0.79%다. 반복해서 같은 점수를 내는 성질과 서로 다른 논문에 다른 점수를 매기는 성질이 이 표에서는 따로 움직인다.

동점이 많고 점수가 흔들린다면 떠오르는 해법은 하나다. 채점 눈금을 더 잘게 쪼개는 것. 연구진은 그 방법을 실제로 걸었다. 정수만 쓰던 채점에 소수점 자리를 반드시 붙이도록 요구하는 프로토콜을 만들고, 같은 논문 200편을 모델마다 다섯 번씩 다시 심사하게 했다.

의도한 효과는 나왔다. GPT-6-Luna의 표준편차는 0.390에서 0.329로 15.6% 줄었고, GPT-6-Sol은 0.286에서 0.249로 13.2% 줄었다. 그런데 같은 표에 의도하지 않은 수치가 함께 적혔다. 평균 점수가 Luna에서 0.693점, Sol에서 0.266점 올라간 것이다. 두 값 모두 95% 신뢰구간이 0을 한참 비껴간다.

점수의 의미가 바뀌었다는 뜻이다. 소수점 채점에서 나온 4.8점은 정수 채점에서 나온 4.8점과 같은 자리가 아니다. 합격선을 4.5점으로 정해 둔 조직이 채점 기준만 정교하게 바꾸면, 손대지 않은 합격선 위로 넘어오는 집단이 달라진다.

두 번째 실험은 AI 심사가 실제로 쓰이는 방식을 그대로 흉내 냈다. 심사 의견을 받아 원고를 고치고, 고친 원고를 다시 채점해 점수가 올랐는지 보는 흐름이다. 역할은 셋으로 갈렸다. 수정안을 쓰는 쪽, 그중 무엇을 반영할지 고르는 쪽, 원본과 개정본을 채점하는 쪽이다. 각 자리에 GPT-6-Luna와 Claude Haiku 5.5를 번갈아 넣었다. 수정안 후보 9,327개 가운데 양쪽 선별자가 모두 받아들인 것은 8,459개였고, 논문 199편을 대상으로 원본과 개정본을 각각 세 번씩 채점했다. 200편 가운데 한 편은 그림이 224장이나 되어 Claude 쪽 이미지 처리 한도를 넘기는 바람에 빠졌다.

▲ 논문 표 7 전체다. 역할 조합은 여덟 가지가 나오지만, Haiku가 쓰고 Luna가 고른 수정안을 Haiku가 채점하는 한 조합은 실험에 들어가지 않았다.

첫 행과 셋째 행을 나란히 보면 상황이 분명해진다. 원고도 같고 수정 내용도 같다. 다른 것은 채점하는 모델뿐인데, 한쪽은 0.474점을 올려 주고 다른 쪽은 0.348점을 깎았다. 0.822점 차이다. 수정 선별을 누가 했는지는 거의 영향을 주지 않았다. 둘째 행과 넷째 행이 각각 첫째, 셋째와 거의 같은 값을 보인다.

채점 칸만 따라 내려가 보면 차이가 채점자 쪽에 붙어 있다는 것이 더 분명해진다. 채점을 Luna가 맡은 네 행은 누가 쓴 수정안이든 전부 점수가 올랐다. 자기 수정안에는 +0.474점과 +0.472점을 줬고, Haiku가 쓴 수정안에도 +0.302점과 +0.281점을 얹었다. 채점을 Haiku가 맡은 세 행에서는 Luna의 수정안이 두 번 다 깎였고, 자기 수정안만 +0.050점으로 겨우 0을 넘겼다. 그 신뢰구간의 아래끝도 0.000이다.

점수가 오르내린 방향만 놓고 세어도 어긋남이 그대로 남는다. 논문 199편을 올랐다, 그대로다, 내렸다 셋으로 갈라 보면 Luna가 채점했을 때는 120편이 오르고 25편이 내렸다. 똑같은 수정안을 Haiku가 채점하자 32편이 오르고 104편이 내렸다. 두 채점자가 같은 방향을 가리킨 논문은 설정에 따라 28.1%, 30.2%, 41.2%였다. 둘 다 변화 없음으로 본 경우까지 포함한 수치다.

흥미로운 대목은 두 모델이 원본 논문을 볼 때는 꽤 잘 맞는다는 점이다. 원본 점수의 상관계수는 0.804이고, 반복 심사의 잡음을 보정하면 0.843까지 올라간다. 그런데 같은 두 모델이 개정으로 얻은 점수 변화를 두고는 상관계수가 0.415와 0.407로 떨어진다. 잡음을 보정해도 0.521과 0.518이다. Haiku가 쓰고 스스로 고른 수정안을 두고는 0.085까지 내려가 관계라 부를 것이 남지 않고, 논문은 이 행에만 보정값을 싣지 않았다.

연구진은 문제를 지적하는 데서 멈추지 않고 비용을 계산해 두었다. 어떤 논문의 평균 점수를 원하는 오차 안에서 95% 신뢰로 말하려면 심사를 몇 번 더 돌려야 하는가. 아래 숫자는 처음 열 번을 뺀 추가 심사 횟수다.

▲ 논문 표 3. 관측 분산 기준은 열 번의 시험 심사에서 관측한 분산을 그대로 쓴 값이고, 보수 기준은 그 분산 추정 자체의 불확실성까지 감안해 95% 상한을 쓴 값이다.

가장 일관된 설정에서도 오차 ±0.5점을 보장하려면 여섯 번을 더 돌려야 한다. 분산을 적게 잡았을 위험까지 막으려면 스물네 번이다. 오차를 절반으로 좁히는 순간 횟수는 네 배로 뛴다. 논문 한 편을 두고 하는 이야기이고, 심사 한 번마다 토큰 값이 붙는다.

이 표가 겨냥하는 관행은 분명하다. 지금 대부분의 AI 채점은 한 번 돌린 점수를 그대로 쓴다. 표 3은 그 한 번이 몇 점짜리 정보인지를 값으로 환산해 보여 준다. 저자들이 강조하는 것은 횟수를 늘리라는 권고라기보다, 점수 하나에 붙은 오차를 모른 채로는 어떤 기준선도 세울 수 없다는 쪽이다.

이 실험의 무대는 학회지만 구조는 학회 밖에서 더 흔하다. 지원서를 걸러 내고, 납품 문서를 심사하고, 데이터셋에 품질 등급을 매기는 일에 이미 같은 방식이 들어가 있다. 원고 대신 이력서가, ICLR 점수 대신 사내 품질 등급이 놓일 뿐이다. 그 자리에서 점수 하나로 합격선을 가르고 순위를 세운다.

논문은 모델이 틀렸다고 말하지 않는다. 같은 입력에 같은 출력이 나오지 않는다고 말한다. 데이터 품질에서 오래 쓰여 온 말로 옮기면 재현성 문제다. 사람이 하는 검수에는 평가자 간 일치도를 재는 절차가 붙어 있고, 그 수치가 낮으면 기준을 다시 쓴다. AI가 채점을 넘겨받으면서 그 절차만 조용히 빠지는 일이 생긴다. 사람보다 일관될 것이라는 기대가 검증을 대신한 셈이다.

이 글은 AI 심사의 신뢰성을 세 번째로 다룬다. 앞선 두 편은 ICLR 2026 리뷰 76,139건 가운데 21%가 AI 생성으로 추정된다는 탐지 연구와 내용을 그대로 두고 문장만 고쳐 쓴 원고 4,080편에서 AI 심사 점수가 갈린 실험이었다. 앞의 둘이 누가 썼는가와 어떻게 포장했는가를 물었다면, 이번 논문은 그보다 앞선 질문에 닿는다. 아무것도 바꾸지 않고 다시 물었을 때 같은 답이 나오는가.

저자들이 적어 둔 한계도 함께 읽을 만하다. 예산 계산은 모델 버전과 프롬프트와 서비스 환경을 고정했을 때의 값이라 설정이 바뀌면 목표치도 바뀐다. 비교 기준으로 쓴 인간 점수는 공개 기록에서 가져온 것이고, ICLR 2025와 2026은 평가 항목 자체가 달랐다. 개정 실험에 들어간 모델은 둘뿐이며, 수정이 사실을 보존했는지는 사람이 가려 보는 맹검 검증을 거치지 않았다.

그럼에도 이 실험이 남기는 숙제는 그대로다. AI로 점수를 매기는 조직이 치러야 할 가장 싼 검증은 같은 입력을 두 번 넣어 보는 일이다. 열 번까지 갈 것도 없다. 두 번 돌려 나온 두 점수의 차이를 보는 것만으로 지금 쓰는 기준선이 얼마나 두꺼운 선인지 알 수 있다.

여기까지 읽어 주셔서 감사하다. 논문 전문은 arXiv에서 볼 수 있다. 여러분의 팀이 AI로 매긴 점수는 두 번 재면 같은 값이 나오는가? 재어 본 적이 있다면 그 결과를 나눠 주시면 좋겠다.