Executive Summary

재판 서면에 AI가 지어낸 가짜 판례가 들어오는 일이 얼마나 흔한지 법원이 직접 세어 봤다는 소식이다. 대법원 법원행정처가 10월 6일부터 16일까지 각급 법원 법관 360명에게 묻고 11월 2일 결과를 공개했다. 응답한 법관 가운데 243명, 셋 중 둘이 그런 서면을 한 번이라도 받아 봤다고 답했다.

이 조사의 숫자는 분모가 두 겹이다. 여러 기사 제목에 오른 80.7%는 전체 법관 가운데 가짜 판례를 겪은 비율이 아니라, 겪었다고 답한 243명 안에서 '아예 존재하지 않는 판례'를 본 사람의 비율이다. 두 겹을 포개 읽으면 실제보다 한 단계 센 문장이 나온다.

1절부터 3절까지는 법원행정처가 공개한 조사 결과와 후속 계획을, 4절 앞부분은 해외 법원의 집계와 제재 사례를 옮겼다. 법원이 꼽은 대응책을 출처 확인·도구 기록·오류 비용이라는 데이터 관리의 세 동작과 나란히 놓고 본 4절 끝과 5절은 이 글의 해석이다.

주요 수치

네 칸 가운데 앞의 셋은 이번 설문이 내놓은 값이고, 마지막 하나는 같은 일이 다른 나라에서 얼마나 쌓였는지 보여 주는 값이다. 세는 대상이 칸마다 다르니 작은 글씨를 함께 읽어야 한다.

출처: 법원행정처 법관 설문 결과 공개(2026-11-02)와 이를 전한 보도, AI Hallucination Cases 데이터베이스(2026-10-19 갱신)

67.5%

한 번이라도 겪은 법관

응답한 360명 가운데 243명이 허위·부존재 판례가 인용된 서면을 받아 봤다

80.7%

아예 없는 판례를 본 비율

전체가 아니라 겪었다고 답한 243명을 분모로 한 값이다

91.7%

제도적 대응을 요구

'매우 필요하다'는 응답만 따로 세면 64.8%다

2,202건

전 세계 AI 가짜 인용 결정

샤를로탱 추적 데이터베이스가 2026년 10월 19일까지 모은 수

1

법원이 처음으로 법관에게 직접 물었다

AI 환각 문제를 두고 법원이 법관에게 직접 물은 것은 이번이 처음이다. 법원행정처는 10월 6일부터 16일까지 각급 법원에서 민사·가사·행정 사건을 맡은 법관 360명에게 설문을 돌렸고, 결과를 11월 2일 공개했다. 존재하지 않는 판례나 허위 법령이 인용된 서면이 잇따라 들어오자 실태부터 파악하겠다는 취지였다.

응답한 360명 가운데 243명이 그런 서면을 한 번이라도 받아 봤다고 답했다. 전체의 67.5%, 셋 중 둘이다.

어떤 유형을 봤는지 물은 문항부터 분모가 바뀐다. 여기서부터 분모는 360명이 아니라 겪었다고 답한 243명이다. 그 243명 가운데 196명(80.7%)이 아예 존재하지 않는 판례를 봤고, 159명(65.4%)은 실제 판례의 내용이 바뀐 것을, 41명(16.9%)은 없는 법령을, 10명(4.1%)은 없는 논문이나 문헌을 봤다. 복수응답이라 넷을 더하면 100%를 넘는다.

80.7%의 분모는 360명이 아니라 243명이다 설문에 답한 법관 360명 겪었다 243명 (67.5%) 겪지 않았다 117명 겪었다고 답한 243명을 100%로 다시 놓으면 (복수응답) 존재하지 않는 판례 80.7% · 196명 내용이 바뀐 판례 65.4% · 159명 없는 법령 16.9% · 41명 없는 논문·문헌 4.1% · 10명 아래 네 값은 위 주황 칸 안에서만 성립한다. 360명을 분모로 바꾸면 전부 작아진다.
▲ 페블러스 원본 도식 — 응답자 수와 유형별 수치는 법원행정처 조사 결과를 옮겼고, 두 겹 분모를 위아래로 나눠 그린 구성은 이 글의 것이다

두 겹을 하나로 눌러 읽으면 "법관 열에 여덟이 가짜 판례를 겪었다"가 된다. 조사가 말한 것은 "셋 중 둘이 한 번이라도 겪었고, 겪은 사람 열에 여덟이 그중 가장 흔한 유형을 봤다"이다. 공개된 자료는 전체 360명을 분모로 한 유형별 비율을 따로 밝히지 않았다. 그래서 이 글도 "360명 중 몇 명"을 거꾸로 계산해 적지 않는다.

2

서면에 무엇이 섞여 들어왔나

누가 그런 서면을 냈는지도 물었다. 겪었다고 답한 법관 가운데 69.5%는 변호사 없이 직접 소송을 수행하는 당사자 본인을 지목했고, 57.6%는 변호사인 소송대리인이나 변호인을 지목했다. 이 문항도 복수응답이라 양쪽을 다 고른 법관이 있다.

조사에는 구체적인 장면도 담겼다. 대법원 판결서 형식을 그대로 본떠 AI로 만든 가짜 판결서를 제출한 경우가 많았다. 한 응답은 "처음 보는 법리와 함께 대법원 사건번호를 기재했지만, 막상 검색해보면 해당 판례가 존재하지 않았다"고 적었다. 실제 판결의 내용을 임의로 바꾸거나 판결 취지와 다르게 인용한 경우도 있었다. "AI와 나눈 대화 내용이나 소송 전략에 관한 문구가 소송 서면에 그대로 포함된 사례"까지 파악됐다.

마지막 유형은 성격이 조금 다르다. 앞의 것들이 틀린 근거를 집어넣은 일이라면, 이것은 작업 과정이 통째로 문서에 묻어 나온 일이다. 붙여넣기를 어디서 끊어야 하는지 몰랐다는 쪽에 가깝다.

법원행정처는 "특히 변호사 없이 직접 소송을 수행하는 당사자는 이러한 오류를 찾아내고 대응하는 데 어려움을 겪을 수 있다"고 밝혔다. 가짜 판례를 가장 많이 들고 오는 쪽과, 상대가 들고 온 가짜 판례를 가장 알아보기 어려운 쪽이 같다.

3

법원은 과태료 근거부터 만들려 한다

응답 법관의 91.7%가 제도적 대응 방안을 마련할 필요가 있다고 답했다. "매우 필요하다"는 응답은 64.8%였다. 무엇을 할 것인지 복수응답으로 고르게 했더니 네 가지가 비슷한 높이로 올라왔다.

대응책 고른 비율 무엇을 요구하는 장치인가
과태료 부과 근거 마련 61.4% 허위 인용을 낸 쪽에 금전 부담을 지운다
인용 판례 등 검증의무 부과 61.1% 서면에 적은 판례가 실재하는지 확인하게 한다
AI 활용 사실 기재의무 부과 60.6% 어떤 도구를 거쳐 만든 서면인지 밝히게 한다
변호사 징계의뢰 등 제재방안 55.4% 직업 윤리 절차로 사건을 넘긴다

법원행정처 설문 결과를 옮겼다. 오른쪽 칸의 설명은 각 대응책이 실제로 무엇을 하는 장치인지 이 글이 풀어 적은 것이다.

법원행정처는 민사소송법과 형사소송법을 고쳐 과태료 부과 근거를 마련하는 쪽을 추진하겠다고 밝혔다. 법무부를 비롯한 관계기관과 협의한 뒤 국회에 의견을 낼 계획이고, 전자소송 사이트에 'AI 활용 시 유의사항'을 안내하는 방안도 검토한다.

이유도 밝혔다. "AI 활용으로 인한 허위·부존재 판례 등의 인용은 상대방과 재판부 모두에게 부담이 되고 결국 국민의 재판받을 권리를 지연시킨다"는 것이다. 가짜 판례 한 건이 걸리면 상대방은 반박 서면을 쓰고 재판부는 사건번호를 일일이 검색한다. 그 시간은 다른 사건의 심리에서 빠져나간다.

4

미국 법원은 AI를 썼다는 확인 없이 제재했다

한국 법원만 겪는 일은 아니다. HEC 파리의 다미앵 샤를로탱이 운영하는 AI Hallucination Cases 데이터베이스는 AI가 지어낸 인용이나 내용이 문제가 된 전 세계 법원·심판기관 결정을 모은다. 2026년 10월 19일 갱신 기준 2,202건이다. 서면을 낸 쪽으로 나누면 변호사 없이 직접 소송한 당사자가 1,267건, 변호사가 872건, 판사가 32건, 전문가가 17건이다.

이 집계와 법원행정처 조사의 숫자는 뜻이 다르다. 한쪽은 결정 건수이고 다른 쪽은 법관이 겪은 비율이다. 그래도 당사자 본인 쪽이 변호사 쪽보다 두껍다는 방향은 같다. 법률 데이터베이스를 쓸 줄 모르는 사람이 챗봇에게 먼저 묻는다는 점에서, 두 나라의 법정에서 같은 일이 벌어지고 있다.

제재의 잣대가 어디에 놓이는지는 미국 사례가 더 분명히 보여 준다. 2026년 3월 13일 미국 제6순회항소법원은 Whiting v. City of Athens 사건에서 변호사 두 명을 제재했다. 항소심 서면에서 가짜 인용과 사실 왜곡이 스물네 건 넘게 나왔고, 법원은 이를 보수적으로 잡은 수라고 적었다. 제재는 변호사 한 명당 1만 5천 달러, 상대방 항소심 변호사비 전액 배상, 비용 2배 부담이었다.

눈여겨볼 대목은 AI가 아니다. 서면을 어떻게 검토했고 생성형 AI를 썼는지 법원이 묻자 두 변호사는 답하지 않고 법원의 권한 자체를 문제 삼았다. 결정문은 AI를 언급하되 AI를 썼다는 사실을 확정하지 않는다. 제재 근거는 법원에 성실해야 한다는, AI 이전부터 있던 의무였다. 도구를 썼는지 입증하지 않아도, 적어 낸 인용이 실재하는지 확인하지 않았다는 것만으로 제재가 선다.

그 의무를 집행할 때 법원이 손에 쥔 것도 새 규칙이 아니었다. 결정문이 든 것은 연방항소규칙 38조와 법원이 본래 가진 권한 두 가지다. 근거 없는 항소에 비용을 물리는 규칙, 그리고 악의로 소송을 끌고 간 쪽을 벌할 수 있다는 오래된 권한이다. AI를 겨냥해 새로 만든 조항은 하나도 쓰이지 않았다.

법원행정처가 꼽은 대응책도 같은 자리를 겨눈다. 네 가지 가운데 어느 것도 AI 사용 자체를 금지하지 않는다. 확인했는지 묻고(검증의무), 무엇을 거쳤는지 적게 하고(기재의무), 틀린 것을 넣은 쪽에 값을 치르게 한다(과태료). 금지가 아니라 기록과 책임으로 간다는 뜻이다.

5

페블러스가 이 설문을 주목하는 이유

법원이 고른 세 가지는 데이터를 다루는 쪽이 오래 써 온 동작이다. 출처가 실재하는지 확인하는 일, 어떤 도구와 경로를 거쳐 왔는지 기록하는 일, 틀린 것을 넣은 쪽에 비용을 지우는 일. 각각 출처 추적, 감사 기록, 책임 소재라는 이름으로 불린다. 모델을 더 크게 만들어 푸는 문제가 아니라, 문장 하나의 근거가 어디서 왔는지 적어 두는 문제라는 뜻이다.

법정에는 그 서면을 따로 검증하는 쪽이 둘 있다. 상대방 대리인이 서면을 뜯어보고, 재판부가 사건번호를 검색한다. 가짜 판례가 걸린 것도 그래서다. 누군가 실제로 열어 봤기 때문에 존재하지 않는다는 사실이 확인됐다.

회사에서 AI가 만든 보고서와 제안서, 계약서에는 그 둘이 다 없는 경우가 많다. 반대 입장에서 읽어 줄 사람도 없고, 각주의 출처를 한 건씩 열어 볼 사람도 대개 없다. 그래서 다음 세 가지를 지금 확인해 볼 만하다.

  • 그 문서에 적힌 수치와 인용의 출처를 누군가 실제로 열어 보는 절차가 있는가. 없다면 법원이 말한 검증의무에 해당하는 자리가 비어 있다
  • 어느 문단이 어떤 도구를 거쳐 나왔는지 문서 자체에 남는가. 외부로 나간 뒤 문제가 생겼을 때 돌아볼 자리는 이 기록뿐이다
  • 틀린 근거가 밖으로 나갔을 때 비용을 누가 지는가. 아무도 지지 않는 구조라면 아무도 확인하지 않는다

법원행정처 조사가 보여 준 것은 AI가 거짓말을 한다는 사실이 아니다. 거짓말이 걸러지지 않은 채 공식 문서로 올라가는 경로가 이미 열려 있다는 사실이다. 법정에서는 그 경로 끝에 판사가 있어 걸렸다. 회사 문서의 끝에는 누가 있는지 생각해 볼 일이다.

여기까지 읽어 주셔서 감사하다. 조사 기간과 응답자 360명, 경험자 243명(67.5%)과 유형별 196명(80.7%)·159명(65.4%)·41명(16.9%)·10명(4.1%), 인용 주체 69.5%와 57.6%, 제도적 대응 필요 91.7%와 '매우 필요' 64.8%, 대응책 네 가지의 비율, 가짜 판결서와 AI 대화 혼입 사례, 민사·형사소송법 개정 추진과 전자소송 안내 검토, 법원행정처의 두 인용문은 11월 2일 공개된 설문 결과와 이를 전한 보도에서 확인했다. 전 세계 2,202건 집계와 제출 주체별 내역은 AI Hallucination Cases 데이터베이스의 10월 19일 갱신분을, 제6순회항소법원 사건의 날짜와 제재 내용, 생성형 AI 사용 여부에 답하지 않았다는 경위, 제재 근거로 든 연방항소규칙 38조와 법원 고유 권한은 해당 결정문과 이를 분석한 법률 매체 보도를 따랐다. 대응책 세 가지를 출처 추적·감사 기록·책임 소재로 겹쳐 읽은 4절 끝과 5절, 회사 문서를 향한 세 가지 질문은 이 글의 해석이다. 사내에서 AI가 만든 문서의 출처를 어떻게 확인하고 계신지 들려주시면 좋겠다.

(주)페블러스 데이터 커뮤니케이션팀
2026년 11월 3일

R

참고문헌

법원행정처 설문 보도

해외 집계와 판례