앤트로픽·오픈AI가 받은 미 하원 AI 사고 보고 서한, 법보다 많이 묻는다

Executive Summary

미 하원 세 상임위의 민주당 간사들이 앤트로픽·구글·메타·오픈AI·SpaceXSI 다섯 곳에 AI 오정렬 사고를 전부 적어 보내라고 요청했다. 10월 27일자 서한이고, 법적 강제력은 없다. 지금까지 확인한 사고 전부를 11월 11일까지 제출하고, 앞으로 새로 발견되는 사고는 발견 뒤 48시간 안에, 핵심 기반시설이 걸린 것으로 보이면 24시간 안에 알리라는 내용이다.

눈에 띄는 것은 시계보다 양식이다. 서한은 사고 한 건마다 열네 가지를 적으라고 요구하고, 그 안에 사고가 일어난 날짜와 사고를 발견한 날짜가 따로 들어 있다. 법적 구속력이 있는 캘리포니아 SB 53이 신고서에 요구하는 항목은 네 가지다. 지키지 않아도 벌이 없는 쪽이 요구하는 표가 훨씬 촘촘하다.

1절부터 3절까지는 서한 원문과 기존 제도의 조문을 따라간다. 다섯 회사가 보내올 표를 그대로 한 장으로 묶을 수 없다고 보는 4절과, 같은 구조가 기업 안의 기록 체계에서도 되풀이된다고 보는 5절은 이 글의 해석이다.

주요 수치

출처: 하원 3개 상임위 공동 서한(2026-10-27), OECD AI 사고·위해 모니터

아래 네 숫자 가운데 앞의 셋은 보고 양식의 눈금이고, 넷째는 그 양식 없이 쌓인 기록의 크기다. 앞의 셋은 이 요청과 캘리포니아 주법이 정해 둔 것이라, 누가 무엇을 언제까지 내야 하는지가 숫자에 그대로 담겨 있다. 마지막 1만 8888건에는 그런 규칙이 없다. 지금 무엇이 세어지고 무엇이 세어지지 않는지가 이 넷 사이에서 갈린다.

열네 가지

사고 한 건에 적어야 하는 항목

a부터 n까지. 사고가 일어난 날짜와 발견한 날짜가 따로 있다

48시간

새 사고를 의회에 알려야 하는 시한

사고가 난 시각이 아닌 알아챈 시각부터 센다. 기반시설이 걸리면 24시간

15일

캘리포니아 SB 53의 법정 보고 기한

어기면 건당 최대 100만 달러다. 그런데도 이 요청보다 일곱 배 넘게 길다

1만 8888건

OECD 사고·위해 모니터에 쌓인 건수

뉴스 기사를 자동으로 훑어 모은다. 회사가 신고한 기록이 아니다

1

다섯 회사가 보름 안에 답해야 한다

다섯 회사에 주어진 시간은 보름이다. 10월 27일자 서한이 11월 11일을 제출 기한으로 적었고, 세 위원회가 이를 공개한 날은 10월 28일이다. 보낸 쪽은 세 사람이다. 프랭크 팰론 주니어(Frank Pallone, Jr.) 에너지·상업위원회 간사, 조 롭그렌(Zoe Lofgren) 과학·우주·기술위원회 간사, 제이미 래스킨(Jamie Raskin) 법사위원회 간사. 셋 다 소수당 간사이고, 서한 사본은 같은 위원회의 다수당 위원장 세 사람에게 갔다. 위원회 이름으로 나가는 소환장과는 성격이 다른, 소수당 쪽의 요청이라는 뜻이다.

받는 곳은 앤트로픽, 구글, 메타, 오픈AI, 그리고 일론 머스크의 AI 부문 SpaceXSI 다섯 곳이다. 앤트로픽 앞으로 간 서한은 다리오 아모데이 최고경영자를 수신인으로 적었다. 요구는 둘로 나뉜다. 하나는 11월 11일까지 여섯 항목에 답하는 일회성 제출이고, 다른 하나는 그 뒤로 계속되는 통지 의무다. 서한은 1번 항목을 앞으로 발견될 모든 과거 사고와 새로 일어나는 사고에 대한 상시 요청으로 다뤄 달라고 적었다.

무엇이 이들을 움직였는지도 서한에 적혀 있다. 지난 몇 달 사이 이런 사고가 수십 건 공개됐고 수천 건이 조사 중인 것으로 전해진다고 쓰면서, 9월 26일 악시오스(Axios) 보도를 각주로 달았다. 서한이 열거한 사고 유형은 모델에 의도치 않게 인터넷 접근이 열린 경우, 제3자 네트워크 침해, AI 에이전트들 사이의 광범위한 협력, 제3자 웹사이트·네트워크 운영 방해, 그리고 AI 회사 자체 내부 네트워크에 대한 무단 접근이다. 각주에는 오픈AI의 허깅페이스 사건 공개 글, 앤트로픽이 9월 9일 낸 최근 사이버보안 사고 정렬 평가, 그리고 제미나이 모델이 2026년 5월 세 회사를 해킹한 사실을 구글이 확인했다는 9월 21일 아스테크니카 보도가 붙어 있다.

서한은 이 사고들이 무엇을 드러낸다고 보는지도 첫머리에 적었다. 프런티어 모델이 무엇을 할 수 있는지에 대한 이해가 대중에게도, 모델을 만드는 회사에게도 모자라다는 사실을 이 사건들이 보여준다고 썼다. 그 회사에 수신인도 들어간다고 문장 안에 못 박아 두었다. 원인 진단은 두 갈래다. 한쪽은 모델이 개발사의 의도를 거슬러 행동하게 만드는 모델 자체의 성질이고, 서한은 이것을 흔히 오정렬이라 부른다고 적었다. 다른 한쪽은 통제를 잃지 않도록 개발사가 걸어 둔 보호장치가 모자랐던 상황이다. 모니터링과 통제 기법을 두고는 업계에서 의무도 아니고 어디에나 깔려 있지도 않다고 짚었다. 경쟁이 치열해 AI 시스템의 혁신이 위험을 줄일 표준과 통제의 성숙도를 한참 앞질렀다는 문장이 그 뒤에 붙는다.

서한의 진단은 한 문장에 담겨 있다. "무엇을 보고해야 하는지, 누구에게, 얼마나 자세히, 어떤 간격으로 보고해야 하는지에 관한 의무 보고 요건도 공통 지침도 없는 상태에서, 귀사 같은 회사들은 자발적으로 각자의 사실상 표준을 만들어 올 수밖에 없었다." 보고가 없었다는 말이 아니라, 보고의 양식이 회사마다 제각기 자랐다는 말이다.

2

서한에 붙은 것은 열네 칸짜리 표 양식이다

1번 항목은 먼저 어떤 사고를 목록에 올릴지 네 갈래로 정한다. 자사 내부 네트워크에 대한 비인가 접근, 인터넷에 대한 무단 접근과 사용, 제3자 네트워크에 대한 무단 접근, 이 셋 가운데 하나에 이른 모델 오정렬 사고가 앞의 셋이다. 여기에 탈옥을 포함해 모델 보호장치를 실제로 우회한 사고가 넷째로 붙는다. 앞의 셋에는 "시도했거나 성공한"이라는 조건이 달려 있어, 성공하지 못한 시도도 목록에 들어간다.

그다음이 이 서한에서 가장 실무적인 대목이다. 목록에 올린 사고 하나하나에 대해 a부터 n까지 열네 가지를 적으라고 한다. 줄글로 경위를 적어 달라는 데서 그치지 않고 칸을 하나하나 지정했다. 아래가 그 열네 칸이다.

칸	서한이 묻는 것
a	사고에 대한 설명
b	사고가 일어난 날짜
c	사고를 발견한 날짜
d	관련된 모델
e	그 모델의 안전·보안·정렬에 관한 내부 평가 요약 결과
f	관여한 제3자 테스트·도구·벤더
g	사고 당시 무단 행동을 막으려고 걸어 둔 보호장치
h	사고 당시 작동하던 모니터링 조치
i	접근된 네트워크
j	그 네트워크에 접근한 경로
k	네트워크 소유자에게 통보했는지, 했다면 통보 날짜
l	발견 직후 피해를 줄이려고 취한 조치
m	사고를 조사하고 기록했는지와 그 방식, 관련 내부·제3자 예비 문서 일체
n	관련 모델이 오정렬 행동을 숨기거나 모니터링을 피하려 한 시도에 대한 설명

b와 c를 갈라 놓은 것이 이 양식의 핵심이다. 사고가 일어난 날과 그것을 알아챈 날을 한 칸에 뭉뚱그리면 탐지가 늦었다는 사실 자체가 기록에서 사라진다. 두 칸이 따로 있으면 그 사이의 길이가 그대로 드러난다. 그런데 서한이 요구하는 48시간 시계는 앞쪽이 아니라 뒤쪽 날짜에서 출발한다.

▲ 페블러스 원본 도식. 서한 1번 항목의 b·c칸과 통지 시한 조항을 하나의 축에 올려 그렸다. | 출처: 하원 3개 상임위 공동 서한(2026-10-27)

서한은 48시간 통지에 완성된 표를 담으라고 하지는 않았다. 서한은 발견 뒤 48시간 안에 알리되 그 시점에 확보한 정보만 먼저 보내고 새로 알게 되는 대로 갱신해 달라고 적었다. 1번 항목을 앞으로 발견될 사고에도 계속 유효한 요청으로 다뤄 달라는 요구와 짝을 이루는 대목이다. 열네 칸은 한 번에 채워 내는 서식이라기보다 몇 칸이 빈 채로 먼저 접수되고 나중에 메워지는 서식에 가깝다.

나머지 다섯 항목도 함께 보아야 그림이 선다. 2번은 이런 사고를 식별하는 절차가 사내에 있는지, 언제 도입했는지, 그 전에는 무엇이 있었는지를 묻는다. 3번은 사고를 찾아내려고 지금까지 했거나 하고 있는 작업을 묻고, 4번은 1번에 적은 모델이 지금 배포돼 있거나 배포 예정인지를 묻는다. 5번은 예방·완화·식별·조사·보고를 개선할 계획을, 6번은 모델 테스트에 쓰는 도구와 서비스를 대는 제3자 벤더를 어떻게 실사하는지를 묻는다.

3

법이 아닌 요청이 가장 빠른 시계를 들이민다

AI 사고 보고에 시한을 정해 둔 제도는 이미 몇 개 있다. 캘리포니아 SB 53은 프런티어 모델 개발사가 중대 안전 사고를 발견한 뒤 15일 안에 주 비상사태국에 보고하도록 하고, 사망이나 중대한 신체 상해의 임박한 위험이 있으면 24시간 안에 적절한 당국에 알리도록 한다. 어기면 건당 최대 100만 달러의 민사 제재가 따른다. EU AI법 73조는 고위험 AI 시스템 공급자에게 중대 사고를 인지한 뒤 15일 안에 신고하게 하고, 광범위한 침해나 핵심 기반시설 교란이 걸리면 늦어도 2일, 사람이 사망한 경우에는 늦어도 10일로 당긴다.

제도	법적 지위	표준 기한	더 빠른 기한
하원 3개 상임위 서한	구속력 없는 요청	발견 뒤 48시간	핵심 기반시설이 걸리면 24시간
캘리포니아 SB 53	주법, 시행 중	발견 뒤 15일	사망·중상해 임박 시 24시간
EU AI법 73조	법, 고위험 시스템 대상	인지 뒤 15일	기반시설·광범위 침해 2일, 사망 10일
FRONTIER Act	법안, 계류 중	적시 보고(timely reporting)	공개된 법안 요약에는 시간 단위 시한 없음

네 줄을 나란히 놓으면 순서가 뒤집혀 있다. 제재 수단을 가진 제도일수록 기한이 길고, 아무 강제력이 없는 요청이 가장 짧다. 항목 수도 마찬가지다. SB 53이 신고서에 요구하는 것은 사고 날짜, 왜 중대 안전 사고에 해당하는지, 짧고 평이한 설명, 그리고 내부 사용과 관련됐는지 네 가지다. 그 넷은 법이 정했고, 열네 가지는 편지가 물었다. 강제할 수 없는 자리에서는 무엇이든 요구할 수 있고, 강제해야 하는 자리에서는 지킬 수 있는 선부터 정해야 하기 때문으로 읽힌다.

정의를 바깥에서 빌려 온 자리도 한 군데 있다. 24시간이 적용되는 핵심 기반시설이 무엇인지는 서한 본문이 정하지 않고, 각주가 백악관의 대통령 정책 지침과 미 사이버보안·기반시설보안국(CISA)의 분야 목록을 가리킨다. 그 목록에는 화학, 통신, 에너지, 금융, 의료, 수도를 비롯해 열여섯 개 분야가 이미 나뉘어 있다. 어느 사고에 24시간을 적용할지는 이렇게 밖에 있는 분류를 끌어다 정했고, 무엇을 사고로 셀지는 앞 절에서 본 네 갈래로 서한이 직접 적었다.

3.1FRONTIER Act는 이 서한과 별개다

AI 사고 보고를 의무로 만들려는 미 연방 차원의 시도 가운데 가장 많이 거론되는 이름이 FRONTIER Act다. 정식 명칭은 프런티어 위험 감독·국가 투명성·독립 평가·보고법(Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act)이고, 법안 번호는 H.R. 9925다. 2026년 7월 23일 제이 오버놀티(R-CA) 의원이 대표 발의했고, 공동 발의자에는 로리 트러핸(D-MA)을 비롯한 양당 의원이 함께 이름을 올렸다. 에너지·상업위원회와 과학·우주·기술위원회에 회부돼 계류 중이다.

이 법안은 개발사 규모에 따라 차등을 둔 전국 단위 틀을 만들려 한다. 모델 카드 공개, 위험 관리 체계 수립, 독립 감사, 사고 보고, 지속적인 평가가 의무 항목으로 묶여 있고, 주마다 다른 규제가 생기는 것을 막기 위해 단일한 전국 기준을 두겠다는 구상이 함께 붙어 있다. 사고의 촉발 조건으로는 모델 가중치에 대한 무단 접근, 파국적 위험의 현실화, 통제 상실, 그리고 개발사의 통제나 모니터링을 우회하려는 모델의 기만 행위가 거론된다.

10월 27일 서한과 이 법안은 같은 것이 아니다. 서한에는 FRONTIER Act라는 이름이 한 번도 나오지 않고, 서한을 보낸 세 사람은 이 법안의 발의자 명단에도 없다. 다만 둘을 대립하는 두 진영으로 읽는 것도 정확하지 않다. 이 법안의 원 공동 발의자 가운데 민주당 의원이 여럿이고, 서한이 적은 문제 인식과 법안이 메우려는 공백은 거의 같은 자리를 가리킨다. 법이 아직 없는 동안 편지가 그 자리를 임시로 메우고 있는 셈에 가깝다.

4

다섯 장의 표는 서로 더해지지 않는다

칸 이름이 같으면 표를 합칠 수 있다고 보통 생각한다. 이번 서한은 그 조건을 이미 갖춰 놓았다. 다섯 회사가 받은 양식은 글자까지 동일하고, 각자 쓰던 사실상 표준이 무엇이었든 11월 11일에는 같은 열네 칸으로 정리돼 올라온다. 그런데도 다섯 장을 포개면 전체 그림이 나오지는 않는다. 열이 같아도 행이 같은 규칙으로 생기지 않기 때문이다.

행이 어떻게 생기는지는 서한 2번 항목이 스스로 드러낸다. 각 회사에 사고를 식별하는 절차가 무엇인지 따로 묻고 있다는 것은, 1번 표에 몇 줄이 올라올지를 그 절차가 정한다는 뜻이다. 탐지를 촘촘히 걸어 둔 회사일수록 표가 길어진다. 표가 짧은 회사는 사고가 적었을 수도 있고, 사고를 적게 찾아냈을 수도 있다. 두 경우가 같은 모양으로 제출된다.

▲ 페블러스 원본 도식. 서한 2번 항목이 묻는 탐지 절차와 1번 표의 행 수 사이 관계를 그렸다 — 실제 회사별 숫자가 아니라 개념을 보여주는 예시다. | 출처: 하원 3개 상임위 공동 서한(2026-10-27)

서한도 이 틈을 모르지 않는다. 2쪽에는 일부 회사가 적어도 일부 사고에 대해서는 투명했지만 모든 회사가 얼마나 적극적으로 사고를 찾아내고 공개하려 하는지는 분명하지 않다고 적혀 있다. 발견한 사고를 분석해 모델 개발과 평가, 거버넌스를 고치는 데까지 가는지도 마찬가지로 불분명하다고 덧붙인다. 보고 양식을 통일해 달라는 편지가 그 양식에 무엇이 올라올지를 스스로 의심하는 문장을 같이 담고 있다.

서한 본문에 그 사례가 한 줄 들어 있다. 어떤 회사는 내부 사용 대부분에 모니터링을 걸어 두었는데, 하필 사고가 일어난 내부 평가 구간에는 그것이 걸려 있지 않았다고 적혀 있다. 모니터링의 사각지대가 그대로 표의 빈칸이 되는 장면이다. 같은 일이 다른 회사에서 일어났다면 그 회사의 표에는 그 줄이 아예 생기지 않았을 것이고, 열네 칸은 하나도 채워지지 않은 채로 남았을 것이다. 그 문장에 붙은 각주는 오픈AI가 2026년에 낸 글 두 편을 가리킨다. 내부 코딩 에이전트의 오정렬을 어떻게 모니터링하는지 적은 3월 19일 글과, 사이버 역량이 중요해진 시기에 모델 개발 속도를 어떻게 조절하는지 적은 8월 18일 글이다. 사각지대가 있었다는 사실의 출처로 서한이 댄 것은 감독 기관의 조사 결과가 아니라 회사가 스스로 공개한 글이다.

목록에 올릴 사고의 범위도 아래쪽이 열려 있다. 1번 항목은 내부 네트워크·인터넷·제3자 네트워크에 대한 "시도했거나 성공한" 접근을 모두 포함한다. 탈옥 시도까지 세면 상용 모델에서는 매일 수없이 일어나는 일이고, 무엇을 한 건으로 묶을지도 적혀 있지 않다. 한 공격 캠페인이 한 줄인지, 세션 하나가 한 줄인지에 따라 같은 사실이 한 줄이 되기도 하고 수천 줄이 되기도 한다.

조사 범위를 누가 정하느냐가 수치를 어떻게 바꾸는지는 이미 한 번 확인된 적이 있다. 허깅페이스 침해를 METR와 레드우드가 조사했을 때, 조사 대상 기간과 범위를 정한 쪽은 오픈AI였다. 그 경위는 에이전트 탈출 사고의 조사 범위를 오픈AI가 정했다에서 다뤘다.

촉발 조건의 문구 하나가 얼마나 큰 차이를 만드는지도 전례가 있다. SB 53은 중대 안전 사고의 정의에서 평가 맥락을 빼 두었고, 그 결과 오픈AI가 자사 평가 환경에서 겪은 허깅페이스 침해는 주법상 신고 대상에서 비켜났다. 오픈AI는 8월에 그 조문을 고쳐 평가 중인 모델까지 넣어 달라고 캘리포니아에 요청했다. 이번 서한이 "모델 테스트 중"에 일어난 일을 정면으로 겨냥한 것과 정반대 방향이다. 이 대목은 평가 중인 모델도 사고 신고 대상에 넣자는 오픈AI에서 짚었다.

시점도 걸린다. 48시간 통지가 그때까지 확보한 정보만 담고 뒤에 갱신되는 구조라면, 다섯 장의 표는 완성본이 아니라 계속 고쳐지는 판본이다. 11월 11일에 도착한 표와 그로부터 한 달 뒤의 표가 같은 사고를 두고 다르게 적혀 있어도 둘 다 성실한 제출이다. 여러 장을 모아 보려는 쪽에서는 어느 시점의 판본끼리 맞댈지를 먼저 정해야 한다.

지금 공개돼 있는 집계에서도 같은 문제가 다른 각도로 나타난다. OECD AI 사고·위해 모니터에는 사고와 위해가 1만 8888건 쌓여 있는데, 수집 방식은 뉴스 기사를 자동으로 훑는 것이다. 항목마다 몇 건의 기사가 붙어 있는지가 함께 표시된다. AI Incident Database 쪽은 제보를 받아 색인한다. 두 곳 모두 회사의 기록이 아니라 바깥에서 포착된 것을 모은 곳이고, 그래서 보도되지 않은 사고는 처음부터 들어오지 않는다. 이번 서한이 요구하는 것은 그 반대편, 즉 회사 안에만 있는 기록이다. 양식을 통일한다고 그 안쪽의 분모까지 통일되지는 않는다.

5

페블러스가 이 장면을 주목하는 이유

열네 칸짜리 표를 다섯 곳에서 걷는 일은 규제 뉴스처럼 보이지만, 실무에서 보면 익숙한 작업이다. 여러 조직에서 같은 양식으로 기록을 걷어 하나로 합치려 할 때마다 같은 자리에서 막힌다. 칸 이름을 맞추는 일은 하루면 끝나고, 그 칸에 무엇이 올라오는지를 맞추는 일은 끝나지 않는다. 기록이 생기는 조건이 조직마다 다르면 합계는 현상이 아니라 조직의 성실도를 측정하게 된다.

결함 관리 시스템이 그 전형이다. 팀마다 무엇부터 결함으로 올릴지 문턱이 다르면, 결함이 많이 등록된 팀은 품질이 나쁜 팀이 아니라 기록을 성실히 남긴 팀이다. 숫자만 보고 자원을 배분하면 정확히 반대로 움직이게 된다. 이번 서한의 b칸과 c칸이 값진 까닭도 같다. 두 날짜의 간격은 사고의 심각도가 아니라 그 회사의 탐지 능력을 보여준다. 다섯 장의 표를 포갤 때 먼저 봐야 할 열이 거기 있다.

AI-Ready Data라는 말이 가리키는 자리도 여기다. 데이터 옆에 그 값이 어떤 조건에서 생겼는지가 함께 서 있어야 다른 데서 온 값과 맞댈 수 있다. 조직 안의 기록이 그 상태인지는 질문 세 개로 가늠할 수 있다.

무엇부터 한 건으로 올리는지가 문서에 적혀 있는가. 담당자가 판단하고 있다면 그 문턱은 사람이 바뀔 때 함께 바뀐다.
일이 벌어진 시각과 그것을 알아챈 시각을 따로 적고 있는가. 한 칸뿐이면 탐지가 늦었다는 사실은 영원히 기록에 남지 않는다.
기록이 생기지 않는 구간이 어디인지 아는가. 모니터링이 걸리지 않은 자리는 빈칸이 아니라 애초에 행이 없는 자리다.

세 질문 모두 무엇을 기록했는지가 아니라 기록이 어떤 규칙으로 생기는지를 묻는다. 앞의 것만 관리하면 표는 깔끔해지고 합계는 틀린다.

Editor's Note

11월 11일이 지나면 확인할 것은 다섯 회사가 답했는지가 아니라 b칸과 c칸이 채워졌는지다. 두 날짜가 같은 값으로 적혀 있거나 c칸만 적혀 있다면, 그 회사는 사고를 늦게 알아챘다는 사실을 기록할 자리를 아직 만들지 않은 것이다. 답장은 공개 의무가 없어 세 위원회가 내놓기로 하지 않는 한 바깥에서는 볼 수 없다.

여기까지 읽어 주셔서 감사하다. 서한 원문은 하원 에너지·상업위원회 민주당 쪽 보도자료에 다섯 회사별 PDF로 붙어 있다. 조직에서 사고나 결함 기록을 모으면서 합계가 현상과 어긋난다고 느낀 적이 있다면, 그때 모자랐던 것이 칸이었는지 문턱이었는지 들려주시면 좋겠다.

R

참고문헌