Executive Summary

주요 수치

출처: Wu & Xiao, arXiv:2608.22887 (2026-08-24)

응급실 중증도 분류는 LLM이 사람에 관한 결정에 들어가는 대표적인 통로입니다. 의사 검토를 거친 모의 임상 결정 과제로 대규모 평가도 이미 이뤄졌습니다. 그런데 지금까지의 행동 평가는 이런 자리에서 법이 긋는 선을 그대로 옮겨 그리지 못합니다. 어떤 변수를 결과를 예측하기 때문에 쓰는 것은 통상 정당한 추론입니다. 같은 변수를 인종이나 성별 같은 보호속성 대신 쓰는 것은 지배적인 법적 해석으로 대리 차별입니다.

어려운 지점은 하나의 변수가 두 가지를 동시에 할 수 있다는 데 있습니다. 동네 지표는 환자의 인종과 상관되면서 환경 노출에 관한 실제 정보도 담습니다. 그 변수에 얼마나 기대는 것이 정당한가는 예 아니오로 답할 문제가 아니라 양의 문제이고, 시스템이 어떤 입력을 받는지 들여다보는 것만으로는 결론이 나지 않습니다.

지금 쓰이는 감사는 이 질문에 답하지 못합니다. 지배적인 방식은 인구통계 속성이나 그 상관물을 바꾼 뒤 모델의 결정이 달라지는지 관찰하고, 달라지면 편향의 증거로 취급합니다. 그런데 합리적인 판단자라면 조작된 속성이 진짜 신호를 담고 있을 때마다 결정을 바꿉니다. 반대로 결정이 그대로인 것도 공정일 수 있고 근거를 무시한 것일 수도 있습니다. 사회적 편향 벤치마크는 같은 한계를 다른 형태로 안고 있습니다. 집단 소속을 근거로 삼지 않아야 풀리도록 만들어져 있어서, 집단과 상관된 정보가 정당하게 중요해야 하는 상황에 대해서는 아무 말도 하지 못합니다.

이 한계를 짚는 시도가 없지는 않았습니다. 어떤 상황에서 집단 정보가 정당하게 중요해야 하는가를 되묻는 차이 인식 평가가 나왔고, 직무와 관련된 경로를 허용되지 않는 경로와 갈라내는 인과 감사도 제안됐습니다. 이 논문이 택한 길은 조금 다릅니다. 최근 연구들은 LLM의 확신도를 베이즈 갱신이라는 규범 기준에 대 보았고, 거기서 나온 것은 잡음이 아니라 구조화된 편향이었습니다. 이 논문은 그 방식을 차별 문제로 옮겨 옵니다. 확신도 연구에서 사후확률이 맡던 자리를 여기서는 다른 값이 대신합니다.

빠져 있던 것은 하나입니다. 지금 있는 근거가 어느 정도의 의존까지 뒷받침하는가에 대한 정량 기준입니다. 그것이 없으면 감사는 차이를 보고할 수는 있어도 판정을 내리지는 못합니다. 오사카대학의 Zengqing Wu와 Chuan Xiao는 그 기준을 하나 세웠습니다. 같은 정보를 가진 예측 최적 결정규칙이 집단과 상관된 속성에 보일 의존의 정도, 논문이 근거가 허용하는 수준이라 부르는 값입니다.

이 기준은 통계적이고 과제 조건에 묶여 있습니다. 지정된 결과 규칙과 순위 손실이 허용하는 의존을 재는 값이지, 그만큼의 의존이 법적으로 허용되거나 도덕적으로 정당하다는 것까지 말해 주지는 않습니다. 계산하려면 속성과 결과의 참 관계를 알아야 하는데 관측 데이터만으로는 강한 가정 없이 그것을 식별할 수 없어서, 연구는 완전히 명세된 합성 생성과정 위에서 돌아갑니다. 편의를 위한 선택이 아니라 이 양을 정의하기 위한 전제입니다.

실험 전체가 과제 하나 위에 얹혀 있습니다. 모델에게 트리아지 전문의 역할을 주고 이름 붙은 숫자 지표로 묘사된 두 환자를 보여 준 뒤, 먼저 볼 사람을 고르게 합니다. 임상 상황은 표면이고 그 아래 통계 구조는 전부 알려져 있습니다. 환자를 저자들이 직접 만들었기 때문입니다. 속성 개수는 6개, 12개, 18개 중 하나이고 정당한 속성과 대리 속성의 비율은 2 대 1로 고정입니다. 정당한 속성이 실제 위험도를 결정하고 대리 속성은 보호속성과 상관되는데, 보호속성 자체는 어느 프롬프트에도 등장하지 않습니다. 보호속성은 가리면서 그 상관물은 그대로 주는 실제 배포 환경을 옮긴 설정입니다.

측정 방식은 인과 개입입니다. 각 환자쌍마다 사실 조건 하나와 반사실 조건 둘을 돌립니다. 반사실 조건에서는 타깃 환자의 보호속성을 각각의 값으로 놓고 구조방정식을 통해 그 환자의 대리 속성만 다시 생성하되, 외생 잡음은 고정하고 비교 대상 환자에는 손대지 않습니다. 두 조건에서 모델이 타깃을 고를 확률의 차이가 방향성 대리변수 효과입니다. 구조 조건마다 99개의 고정된 환자쌍을 규칙, 명명, 모델, 근거 조건 전체가 공유하므로 비교가 짝지어집니다.

모델은 네 개입니다. Claude Sonnet 4.5, DeepSeek-V4-Flash-0731, Qwen3.7-max는 temperature 0에 강제 도구 선택으로 한 토큰만 답하게 하는 동일한 설정으로 돌았습니다. GPT-5.6 Terra는 temperature 설정을 받지 않고 추론이 꺼진 공급자 기본값으로 돌아 논문 전체에서 별도 채널로 보고되며, 나머지 셋과 합쳐도 판정은 하나도 바뀌지 않습니다.

핵심 조작 레버는 대리변수의 진짜 예측력입니다. 정보값 0 조건에서는 대리변수가 정당한 속성이 이미 담은 것 이상의 정보를 결과에 대해 전혀 갖지 않습니다. 그래서 근거가 허용하는 수준이 정확히 0이고, 여기서 측정되는 어떤 대리변수 효과도 정의상 근거 없는 의존입니다. 중립적으로 이름 붙인 필드에서 Sonnet의 대리변수 효과는 속성 6개일 때 11.1포인트, 12개일 때 19.7포인트, 18개일 때 14.6포인트였습니다. 95% 신뢰구간이 모두 0을 배제했습니다.

필드 수준에서 보면 두 대리 필드가 모델 선택과 가장 강하게 상관된 축에 들어갑니다. 대리 필드와 정당한 필드의 상관 비율은 속성들이 서로 얽힐수록 1.3배에서 4.2배로 올라갑니다. 모델이 대리변수를 스치는 정도가 아닙니다. 진단 정보가 전혀 없는 필드에 가중치를 싣고 있습니다. 동일한 설정으로 돌린 세 모델의 속성 12개 조건 초과 의존은 19.7, 22.2, 20.2포인트로 거의 같았습니다. 논문은 이를 한 시스템의 특이성이 아니라 공유된 기준선이라고 적었습니다.

2.1같은 신호에서 세 개의 판정이 나온다

대리변수가 실제로 결과를 예측하는 조건으로 바꾸면, 모델이 보는 것을 전부 고정한 채로도 판정이 뒤집힙니다. 중립 명명에서 속성 6개와 18개일 때 의존도는 기준선과 통계적으로 구분되지 않았고, 12개일 때는 기준선을 7.1포인트 넘었습니다. 신뢰구간은 1.0에서 13.6 사이입니다. 속성 치환 감사는 두 조건 모두에 대해 똑같이 결정이 바뀌었다고 보고할 텐데, 한쪽에는 맞게 깃발을 꽂고 다른 한쪽에는 틀리게 꽂는 셈입니다. 같은 조건에서 DeepSeek-V4-Flash-0731은 12.1포인트, Qwen3.7-max는 10.1포인트로 역시 기준선을 넘었습니다.

세 번째 판정은 필드 이름을 바꿨을 때 나옵니다. 생체지표 용어 대신 동네와 직업 용어로 대리 필드의 이름을 갈아 끼우자 Sonnet의 의존도가 기준선 아래로 9.6에서 12.1포인트 내려갔습니다. 차원 전체에서 신뢰구간이 0을 배제했습니다. 이 설계가 감지할 수 있는 범위 안에서 정확도 손실은 측정되지 않았으므로 논문은 이것을 과잉교정이라 부르지 않습니다. 다만 반대 방향으로 근거 수준을 벗어난다는 점은 분명하고, 초과 민감도만 찾는 감사는 이런 이탈을 아예 보지 못합니다.

판정이 조건마다 갈린다면 그다음 질문은 자연스럽습니다. 모델의 의존도가 근거를 따라 움직이기는 하는가입니다. 저자들은 총 결과분산, 그러니까 과제 난이도를 고정한 채 대리변수가 차지하는 신호 비중만 네 단계로 올렸습니다. 기준은 모델이 본 것과 정확히 같은 80개 예시로 학습한 베이지안 회귀, 논문이 이상적 학습자라 부르는 대조군입니다. 완전한 지식을 가진 판단자가 아니라 같은 정보량을 가진 판단자를 기준으로 삼은 이유는 분명합니다. 유한한 근거로 배운 학습자를 완전지식 기준에 대면 통상적인 통계적 신중함이 모델 실패로 오독됩니다. 이 이상적 학습자의 근거가 허용하는 의존도는 네 단계에 걸쳐 0에서 23포인트까지 올라갑니다.

평가 항목은 모든 단계에서 동일합니다. 같은 환자쌍이 모든 근거 강도에서 판정되므로 비교가 짝지어지고, 이 설계의 검정력이 여기서 나옵니다. 모델마다 회귀선 하나를 맞춥니다. 기울기가 1이면 근거를 보정된 형태로 추적하는 것이고, 0이면 전혀 추적하지 않는 것입니다.

네 모델과 두 명명 조건을 합친 여덟 개 회귀선의 기울기는 −0.08에서 +0.15 사이에 전부 들어갔습니다. 모든 구간이 보정된 추적을 배제했고, 어느 구간도 0을 배제하지 못했습니다. 상한선이 약한 추적, 최대 0.49까지는 허용하기 때문에 논문은 추적 불능이 증명됐다고 쓰지 않습니다. 검정된 범위 안에서 심각하게 과소추적한다는 것이 방어 가능한 서술이라고 적었습니다. 동일 설정 3개 모델의 여섯 기울기를 평균하면 0.05입니다.

대신 각 모델은 근거가 거의 움직이지 못하는 큰 양의 레벨에서 작동합니다. 절편은 18.3에서 30.4포인트 사이에 흩어져 있습니다. 여덟 개 회귀선 전체에서 모델 사이의 차이도, 명명 조건 사이의 차이도 기울기가 아니라 거의 전부 레벨에서 나타납니다.

3.1정확도가 오르는 것은 착시에 가깝다

근거가 강해지면 원시 정확도는 실제로 오릅니다. 문제는 대리변수의 예측력을 키우면 정답 순위 자체가 함께 움직인다는 데 있습니다. 결정을 하나도 바꾸지 않는 모델도 점수가 올라갑니다. 저자들은 각 모델이 가장 약한 근거 수준에서 내렸던 선택을 그대로 얼려 두고 가장 강한 수준의 정답으로 채점하는 통제 실험을 돌렸습니다. Qwen3.7-max의 정확도 상승 15.2포인트 가운데 12.1포인트가 이 방식으로 설명됐습니다. 중립 명명 기준입니다.

근거 강도에 실제로 반응해서 얻은 나머지 이득은 작고 부호도 양쪽으로 갈립니다. 여덟 개 회귀선 가운데 0을 배제한 것은 하나뿐입니다. Qwen3.7-max의 사회적 명명 조건에서 4.0포인트, 구간은 1.0에서 7.6 사이였습니다. 두 개는 음수이고 구간 경계가 0에 닿습니다. Sonnet 중립 명명이 −6.6, GPT-5.6 Terra 중립 명명이 −5.1입니다. 근거가 강해지면 결정 정책이 움직이기는 합니다. 다만 그 움직임이 이롭다는 보장이 없습니다.

사회적 명명에서 의존도가 내려가는 현상은 안전 속성처럼 보입니다. 논문은 그것이 안정적인 원칙이 아니라 이름에 반응해 켜지는 지름길이라고 봅니다. 근거는 셋입니다.

첫째, 억제는 조건부입니다. 대리변수로 가는 경로가 열려 있고 과제가 모호할 때만 나타납니다. 예시 없이 돌린 네 개 의존구조 조건에서 사회 명명과 중립 명명의 대비가 0을 배제하는 것은, 중립 명명에서의 의존도 자체가 0이 아닌 조건뿐이었습니다. 그 값은 −8.25포인트와 −6.7포인트입니다. 경로가 막혔거나 명시적인 채점 규칙이 주어지면 대비가 사라집니다. 무엇을 계산하라고 알려 준 모델은 필드 이름을 참고하지 않습니다.

둘째, 억제는 결정 난이도와 무관하게 고르게 나타납니다. 평가 쌍을 실제 위험도 격차로 층화하면 억제가 모든 층에서 관측됩니다. 대비는 −17.5, −25.0, −22.5포인트이고 구간이 전부 0을 배제합니다. 사회적 이름이 애매한 사례만 신중한 쪽으로 밀어 준다는 해석은 이 결과로 배제됩니다.

셋째, 억제의 세기는 모델 클래스의 속성이 아니라 공급자별 그라데이션입니다. Sonnet이 −20.7포인트, GPT-5.6 Terra가 −15.2, Qwen3.7-max가 −9.1, DeepSeek-V4-Flash-0731이 −6.6입니다. 예시가 유발하는 증가폭도 같은 순서를 따릅니다. 정보값 0 조건의 근거 없는 의존은 공급자 사이에 거의 같은데 억제 세기만 세 배로 갈립니다. 공유된 기저 편향 위에 공급자마다 따로 얹은 보호장치라는 해석과 들어맞습니다. 네 지점의 순서는 통계 검정이 아니라 패턴이지만, 정렬 파이프라인의 차이에 관한 독립적 증거들과 방향이 일치합니다.

4.1상관을 0으로 씻어 낸 예시로도 의존이 되살아난다

가장 결정적인 결과는 인컨텍스트 예시에서 나옵니다. 프롬프트에 예시를 넣으면 사회적 명명 조건에서도 의존도가 모든 모델에서 0 위로 확실히 올라갑니다. 예시가 대리변수의 예측력을 가르쳐 준 탓이라는 온건한 설명이 가능한 대목입니다. 저자들은 그 설명을 차단하려고 대리변수와 결과의 상관을 명시적 직교화로 정확히 0으로 만든 보정 세트를 썼습니다.

이렇게 상관이 없다는 것이 증명된 예시를 줬는데도 사회적 명명 조건의 의존도가 15.7포인트로 뛰었습니다. 구간은 9.1에서 22.2 사이입니다. 같은 예시를 본 합리적 학습자는 −1.0을 보였습니다. 상관을 의도적으로 주입하면 여기에 12.6포인트가 더 얹힙니다. 오도하는 근거가 효과를 키우기는 하지만, 깨끗한 예시만으로도 이미 의존도가 0을 한참 넘어선다는 뜻입니다. 예시가 제공된 여섯 개 사회 명명 셀이 전부 0 위에 있었고, 사회와 중립의 대비는 여섯 중 셋에서만 유지됐습니다.

정확도만 보는 평가로 대리변수 의존을 잡아내려면, 정확도와 의존도가 같은 요인에 함께 끌려다녀야 합니다. 이 연구의 조작 범위 안에서 둘은 함께 움직이지 않았습니다. 차원을 고정하고 구조만 조작하면 대리변수 의존은 최대 24포인트까지 움직이는데 정확도는 추정 오차 안에 머뭅니다. 차원을 통제 변수로 빼고 나면 오차 격차와 대리변수 의존 사이의 상관은 0과 구분되지 않습니다. 값은 0.26, 구간은 −0.12에서 +0.56입니다.

가장 시사적인 결과는 예시 수를 줄였을 때 나왔습니다. 80개에서 12개로 줄이자 정확도는 통계적으로 그대로인데 대리변수 의존만 14.6포인트 내려갔습니다. 근거 없는 의존이 능력 저하의 부산물이 아니라 예시에서 유도된 것이라는 뜻입니다. 정확도를 개선하면 의존이 줄어들 것이라는 가정도 여기서 무너집니다. 모델 사이의 비교에서도 같은 분리가 나타납니다. 네 모델이 가장 크게 갈리는 셀에서 대리변수 의존은 16.7포인트 차이 나는데 정확도는 약 2포인트만 갈립니다. 정확도가 구분되지 않는 조건과 모델끼리 대리변수 의존은 최대 24포인트까지 다릅니다. 정확도만 보는 평가가 대리변수 채널에 대해 눈이 멀어 있다는 말의 정량적 내용이 이것입니다.

반대 방향을 가리키는 관찰도 하나 있습니다. 셀 내부에서는 틀리게 답한 쌍이 보호속성에 더 민감한 경향을 보였습니다. 평균 상관 0.22입니다. 이 쌍 수준의 연관은 인과 방향을 특정하지 못하고, 감사 설계가 의존하는 조건 수준의 그림도 바꾸지 않습니다.

5.1속성을 늘리면 의존이 오를 수도 내릴 수도 있다

속성 개수와 의존구조는 서로 다른 채널에 작용합니다. 차원은 구조 발견을 방해하지 규칙 실행을 방해하지 않습니다. 80개 예시로부터 어느 필드가 중요한지 추론해야 할 때 이상적 학습자 대비 격차는 속성 6개, 12개, 18개에서 19.7, 27.8, 36.9포인트로 단조 증가했고 열두 개 구간이 전부 0을 배제했습니다. 반면 예시가 없으면 오차는 거의 움직이지 않으므로, 과제 자체가 못 풀 만큼 어려워진 것이 아닙니다. 속성들이 더 얽히면 예시 기반 학습의 격차는 최대 13포인트까지 오히려 줄어듭니다.

속성 개수를 바꾸면 과제가 저절로 어려워지는 것 아니냐는 의심은 설계 단계에서 막아 두었습니다. 실제 위험도는 모든 속성 개수에서 단위 분산으로 정규화해 순위 판단의 난이도를 맞췄고, 대리변수 기여분도 대리 속성이 늘어난다고 신호가 기계적으로 커지지 않도록 정규화했습니다. 구조 통계와 대리 경로의 세기는 차원마다 잠재 정렬을 다시 풀어 일정하게 유지했습니다. 속성 6개에서 18개로 갈 때의 17.2포인트 상승도 해당 대조의 최소 검출 가능 효과인 14.7포인트를 넘습니다.

이 논문에서 가장 반직관적인 결과는 여기서 나옵니다. 차원이 대리변수 의존에 미치는 효과가 의존구조에 따라 부호를 바꿉니다. 의존구조가 낮으면 속성을 늘릴수록 대리변수 의존이 올라갑니다. 중립 명명에서 15.7포인트에서 23.2포인트로 이동합니다. 의존구조가 높으면 같은 조작이 의존을 내립니다. 12.1포인트에서 −1.5포인트로 내려갑니다. 사회적 명명에서는 높은 의존구조의 궤적이 더 떨어져 0을 가로지릅니다. 속성 6개일 때 13.1포인트에서 18개일 때 −8.6포인트가 되고, 뒤쪽 구간이 0을 배제합니다. 동일 설정 3개 모델에서 재현됐고 풀링한 상호작용 크기는 −15.1포인트, 구간은 −22.4에서 −7.9 사이입니다. 저자들은 이 두 방향 반전을 탐색적이고 사후적인 분석으로 명시했습니다.

차원을 늘리면 대리변수 의존이 어떻게 된다는 단일한 주효과는 존재하지 않습니다. 속성들이 얼마나 얽혀 있는지에 달려 있습니다. 두 구조 레짐 모두 실제 데이터에 존재합니다. 공개 임상 데이터셋 7종에 같은 구조 통계를 계산하면 그중 여섯이 조작 범위 안에 들어오고, 세 개씩 각 극단 가까이에 자리합니다. 행정적 이용량 카운트 위에 얹힌 배포와 효소 패널 위에 얹힌 배포가 이 부호 반전의 반대편에 실제로 놓인다는 뜻입니다. 다만 이 대조는 공분산 구조만 비교한 것이고 모델 호출은 들어가지 않았습니다.

감사는 배포 조건 그대로 돌아가는 경우가 드뭅니다. 그 불일치에서 두 종류의 오류가 따라 나옵니다. 감사 모집단이 배포 모집단과 다르지만 모델이 같은 필드를 보는 경우는 분포 이동입니다. 감사 사례가 배포 분포의 지지집합을 덮는다는 전제 아래, 감사 사례를 배포 분포에 맞춰 다시 가중하는 중요도 재가중으로 원칙적으로 교정할 수 있습니다. 감사가 다른 필드를 보여 주거나 같은 필드를 다른 이름으로 보여 주는 경우는 다릅니다. 측정되는 양 자체가 달라지므로 어떤 재가중으로도 고칠 수 없습니다.

나란히 놓고 재 보면 교정 가능한 쪽이 가장 작습니다. 아래는 중립 명명 조건에서 잰 네 항목의 크기입니다.

라벨 불일치는 구성상 재가중이 안 됩니다. 재가중을 해도 다른 분포에서 잰 같은 양이 되는 것이 아니라 애초에 다른 양을 재고 있기 때문입니다. 완전 생략은 재가중을 거친 뒤에도 잔차가 0을 배제한 채 남습니다. 분포 이동 항이 교정 가능한지는 이 표본 크기에서 미해결로 남았습니다. 잔차가 0에서 분리된 적이 없어 교정 성공과 잔여 편향을 구분할 만큼 정밀하게 추정되지 않았기 때문입니다.

크기의 순서가 요점입니다. 재가중이 손대지 못하는 두 항, 완전 생략과 라벨 불일치는 표준 교정이 겨냥하는 유일한 항인 분포 이동의 5.3배와 3.1배입니다. 표에서 라벨 불일치에만 구간이 붙지 않은 것도 같은 구조 때문입니다. 이 값은 중립 명명과 사회 명명의 전체 패널 기준 셀을 뺀 차이라서 재표본으로 흔들어 볼 대상이 아닙니다.

불일치는 다른 방식으로도 생깁니다. 저자들이 예비 실험에서 확인한 두 설계는 대리변수 효과를 아예 0으로 만듭니다. 프롬프트가 채점 규칙과 필드 가중치를 함께 알려 주면 모델은 규칙을 그대로 실행합니다. 오류율은 0에 가까워지고 어떤 의미 조작도 효과를 내지 않습니다. 실제 위험도 격차로 층화하지 않고 뽑은 쌍은 대부분 정당한 필드만으로 순위가 뻔해서 대리변수가 결정에 끼어들 자리가 없습니다. 대리변수 경로는 채점 규칙을 주지 않고 모든 필드에 균질한 기술 용어를 붙여 모델이 스스로 무엇이 중요한지 판단해야 할 때, 그리고 비교 쌍에 근소한 차이가 섞여 있을 때만 열립니다. 명시적 규칙이나 넓은 격차 설계에서 나온 0은 모델이 편향되지 않았다는 뜻이 아니라 그 설계가 이 효과를 잡아낼 수 없다는 뜻입니다.

감사자를 위한 실무 규칙은 여기서 한 줄로 정리됩니다. 배포보다 적은 필드를, 또는 배포와 다른 이름의 같은 필드를 모델에게 보여 주는 감사는 배포 측정의 근사치가 아니라 다른 측정입니다. 그리고 이 연구가 관측한 오차 가운데 가장 큰 것이 그 차이였습니다.

6.1이 결과가 닿지 않는 곳

논문이 스스로 그은 경계가 셋입니다. 생성과정이 합성인 것은 근거가 허용하는 수준이 알려진 결과 규칙을 요구하기 때문이고, 이런 추상화에는 기록된 위험이 따릅니다. 실제 데이터 앵커링은 구조 축을 다루지 결과의 실제감까지 검증하지 않았으며, 준합성 설계가 다음 단계로 자연스럽습니다. 근거 스윕은 대리변수가 결과분산의 최대 3분의 1까지 기여하는 범위만 다루므로 대리변수가 압도적인 레짐은 포함되지 않습니다. 분포 이동 항의 교정 가능성도 앞서 적은 대로 열려 있습니다.

수치를 읽을 때 감안할 것이 둘 더 있습니다. 차원을 가로지르는 대조는 같은 평가 쌍을 공유할 수 없어 표본 사이 비교가 되고, 셀에 따라 최소 검출 가능 효과가 8에서 16포인트입니다. 그보다 작은 차원 간 차이는 논문도 확증이 아니라 방향으로만 보고합니다. 그리고 표시값을 표본 안에서 표준화한 탓에, 반사실 조건에서 비교 대상 환자의 값이 소수 둘째 자리에서 1단위 움직인 쌍이 있었습니다. 속성 12개 조건에서 99쌍 중 5쌍입니다. 그 쌍을 빼도 주요 대리변수 효과는 1.5포인트 넘게 바뀌지 않았습니다.

재현 쪽은 단단합니다. 핵심 셀을 두 모델에 대해 완전히 새로운 시드 두 벌로 다시 돌렸고, 정보값 0 조건 16개 셀 전부에서 근거 없는 의존이 재현됐습니다. 범위는 7.1에서 26.8포인트입니다. 용량반응 판정도 8개 곡선 전부에서 재현됐습니다. 원자료와 코드, 시드, 오프라인 설계 검증기가 GitHub와 Zenodo에 공개돼 있어 보고된 모든 값을 다시 계산할 수 있습니다.

규제 쪽 맥락도 논문이 짚어 둡니다. 규제는 편향이 식별되고 평가됐다는 입증을 점점 더 요구하면서, 바로 그 목적을 위해 보호속성 접근을 허용하는 방향으로 움직이고 있습니다. 저자들은 EU AI Act 10조 5항을 다룬 법학 연구를 인용해 이 흐름을 가리킵니다. 그리고 그런 입증이 의미를 가지려면 정량적인 근거 기준이 필요하다고 결론짓습니다. 기준 없는 감사는 근거가 뒷받침하는 의존을 처벌하는 오탐과, 부서지기 쉬운 표면적 억제에 안심하는 미탐을 동시에 만들어 냅니다.

원문은 arXiv:2608.22887에서 볼 수 있습니다. 원자료와 재현 코드는 GitHub 저장소와 Zenodo 아카이브에 공개돼 있습니다.

1차 사료

• 1.Wu, Z. & Xiao, C. (2026). "Proxy reliance in large language model decisions is uncalibrated to predictive evidence." arXiv:2608.22887.

관련 연구

• 2.Wang, A., Phan, M., Ho, D. E. & Koyejo, S. (2025). "Fairness through Difference Awareness: Measuring Desired Group Discrimination in LLMs." ACL 2025, 6867–6893.
• 3.Yu, S., Park, J. & Moon, T. (2026). "PopResume: Causal Fairness Evaluation of LLM/VLM Resume Screeners with Population-Representative Dataset." arXiv:2603.22714.
• 4.Kumaran, D. et al. (2026). "Competing Biases Underlie Overconfidence and Underconfidence in LLMs." Nature Machine Intelligence, 8, 614–627.