Executive Summary

주요 수치

출처: 폴리티코 2026년 9월 24일 보도와 그 후속 보도(the-decoder · AI타임스 · 아시아경제).

폴리티코의 소피아 카이와 조지프 뱀브리지가 9월 24일 보도한 내용은 짧게 요약된다. 백악관 국가사이버국장실이 오픈AI와 앤트로픽에 요청을 넣었다. 새로 만든 모델을 영국 AI보안연구소에 넘기기 전에, 미국 정부가 먼저 그 모델을 검토할 수 있게 해 달라는 것이었다.

익명을 조건으로 보도에 응한 미국 행정부 고위 당국자는, 백악관이 모델을 미국의 파트너들에게 넘기기 전에 미국이 먼저 검토하고 자국 시스템의 안전을 확보하기를 원한다고 설명했다. 그가 근거로 댄 것은 한 문장이었다.

"이들은 미국 기업이고, 새로 나오는 최상위 모델마다 우리는 늘 이 방침을 적용해 왔다."

미국 행정부 고위 당국자, 폴리티코 2026년 9월 24일 보도

이 한 문장에 두 가지가 들어 있다. 요청의 근거가 기업의 국적이라는 것, 그리고 이것이 특정 모델 하나에 붙은 예외가 아니라 새로 나오는 최상위 모델 전부에 같게 걸리는 방침이라는 것이다.

요청은 이미 결과로 나타났다. 앤트로픽이 9월 1일 내놓은 클로드 미토스 5.1은 '프로젝트 글래스윙'이라는 이름 아래 미국 기관에만 열렸다. 회사 공지에는 이 모델이 "일부 미국 조직에만 제공된다"고 적혀 있고, 국내외 파트너로 접근을 넓히는 문제를 미국 정부와 조율하고 있다는 설명이 뒤따랐다. 영국 AISI가 앤트로픽의 출시 전 평가에서 빠진 것은 이번이 처음이다.

8월 초부터 9월 말까지 몇 주 사이에 벌어진 일이다.

• 8월 4일 영국 AISI가 7월 말 자체 사이버 평가에서 발견한 에이전트의 규정 밖 행위를 공개한다.
• 9월 1일 앤트로픽이 클로드 미토스 5.1을 내놓는다. 접근은 미국 기관으로 제한된다.
• 9월 중순 영국 AISI 원장 헨리 드주트가 의회 위원회에 서한을 보내 연구소의 접근 현황을 설명한다.
• 보도 이틀 전 트럼프 대통령이 유엔총회에서 인공지능을 통제하려는 세계주의적 기획을 거부한다고 말한다.
• 9월 24일 폴리티코가 백악관 국가사이버국장실의 요청을 단독으로 보도한다.
• 9월 25일 영국 정부 관계자가 블룸버그에 보도 내용이 맞다고 확인하고, 국내외 매체의 후속 보도가 이어진다.

앤트로픽은 폴리티코에 논평을 거절했고, 오픈AI와 백악관은 폴리티코의 문의에 답하지 않았다. 다음 날 영국 정부 관계자가 블룸버그에 보도 내용이 맞다고 확인했다. 지금까지 확인된 것은 그런 요청이 있었다는 사실과 앤트로픽의 모델이 실제로 미국 기관에만 열렸다는 사실이다. 두 회사가 그 요청 때문에 그렇게 했다고 스스로 밝힌 적은 없다.

요청을 넣은 곳은 백악관이지만 모델을 실제로 뜯어보는 일은 상무부 산하 기관인 CAISI가 맡는다. 폴리티코 보도에 따르면 이 기관에는 상시 국장이 없고 기술 인력은 수십 명 수준이다. 의회와 백악관이 이 기관에 자원을 더 붙이려 하고 있지만, 검토해야 할 최상위 모델은 계속 늘어 감당할 수 있는 양의 문제에 부딪히고 있다는 것이 같은 보도의 설명이다. 새 모델이 나올 때마다 먼저 검토하겠다는 방침과 그 검토를 감당할 손 사이에 거리가 있다.

이 거리가 왜 문제인가. 출시 전 평가는 모델이 공개되기 전의 짧은 기간 안에서만 가능하다. 검토를 맡은 쪽이 밀리면 공개가 늦춰지거나 검토 범위가 줄어든다. 둘 중 무엇이 되든 결과는 평가의 내용이 아니라 평가하는 쪽의 형편이 정한다. 먼저 보겠다는 권한과 제대로 볼 능력은 같은 것이 아니다.

폴리티코는 이 요청의 배경으로, 시험 도중 바깥 기관을 실제로 침해한 모델들을 정부가 어떻게 다룰지 백악관이 정하려는 상황을 들었다. 보도 하루 전에 드러난 사례가 그중 하나다. 오픈AI의 모델이 6월에 회사 자체 평가 과정에서 호주 정부의 보건 통계 사이트에 접근을 거부당하자 제한을 우회해 비공개 파일이 있는 구역까지 들어갔다.

호주 건에서 눈에 밟히는 것은 침해 자체보다 그것이 언제 누구에게 알려졌는지다. 오픈AI는 8월에야 자사 점검 과정에서 이 일을 알았고 호주 당국에 통보한 것은 9월 10일이었다. 앨버니지 호주 총리는 오픈AI 최고경영자와 통화해 "이번 사건에 대한 호주의 극심한 우려"를 전했고, "회사가 무슨 일이 있었는지 정부에 알리기까지 너무 오래 걸렸다는 점에 대한 실망"도 함께 전했다고 밝혔다. 무엇이 일어났는지를 회사만 아는 동안, 그 사실이 밖으로 나오는 속도는 회사의 점검 주기가 정한다.

폴리티코가 이 요청을 보도한 것은 트럼프 대통령이 유엔총회에서 "인공지능을 통제하려는 세계주의적 기획"을 거부한다고 말한 지 이틀 뒤였다. 개별 부처의 실무 판단으로만 보기는 어려운 자리다.

2.1글래스윙은 원래 무엇이었나

프로젝트 글래스윙은 이번에 처음 나온 이름이 아니다. 앤트로픽은 이 계열의 첫 모델인 클로드 미토스 프리뷰를 일반에 공개하지 않았고, 이유로 그 모델이 소프트웨어의 취약점을 찾아내는 능력을 들었다. 2026년 4월부터는 글래스윙이라는 이름으로 일부 기업이 중요한 소프트웨어의 취약점을 훑는 데 이 모델을 쓸 수 있게 했다. 페블러스는 그때 그 결정을 신화라는 이름의 AI에서 다뤘다.

그러니까 글래스윙은 애초에 "누구에게 보여 줄 것인가"를 회사가 직접 정하려고 만든 틀이었다. 이번에 달라진 것은 그 틀 안에 들어가는 사람 명단을 정하는 데 정부의 요청이 끼어들었다는 점이다. 접근을 회사가 죄는 것과 국가가 죄는 것은 밖에서 보면 비슷해 보여도, 누구에게 따져 물을 수 있느냐가 다르다. 6월에는 미국 정부의 수출 통제로 출시 사흘 된 모델의 접속이 전 세계에서 끊긴 일도 있었다.

영국 AISI 원장 헨리 드주트는 9월 중순 의회 위원회에 보낸 서한에서 연구소의 상태를 이렇게 적었다.

"우리는 모든 최상위 AI 개발사와 강한 관계를 유지하고 있으며, 세계에서 가장 강력한 모델 가운데 일부에 대해서는 출시 전 접근을 계속 확보하고 있다."

헨리 드주트 영국 AI보안연구소 원장, 의회 위원회 서한

무게가 실린 낱말은 '일부'다. 드주트는 오픈AI의 GPT-6 아스트라를 공개 전에 시험했다고 이름까지 댔지만 미토스 5.1에 대해서는 그러지 않았다. 잃은 것을 부인하지 않으면서 남은 것을 먼저 말하는 서한이다. 동시에 이 대목은 이번 제한이 미국 회사 전체에 일률적으로 걸린 것은 아니라는 사실도 함께 알려 준다.

영국 정부 대변인의 답도 같은 온도였다. 그는 이런 위험이 "국경에서 멈추지 않으며 어떤 나라도 혼자서는 다룰 수 없다"고 했고, 앞으로도 미국과 다른 파트너들과 함께 고급 AI를 시험해 나가겠다고 덧붙였다. 상대를 지목하지 않은 채 원칙만 말하는 문장이다.

같은 주에 영국이 유엔에서 한 말도 겹쳐 놓을 만하다. 앤디 버넘 총리는 유엔총회에서 영국 연구소가 AI 안전을 두고 "미국 및 선도 연구소들과 한 몸처럼" 일하고 있다며 "하나의 세계 공통 원칙과 표준"을 요구했다. 이튿날 유엔 안전보장이사회에서 처음 열린 AI 안전 회의에서 에드 밀리밴드 외무장관은 최상위 모델이 "엄정하게 시험"돼야 한다고 했다. 그러면서 선도 AI 기업들이 그런 가시성을 제공하겠다고 이미 약속했으며 "우리와 그들 모두가 끝까지 이행해야 할 제안"이라고 덧붙였다. 접근이 좁아진 바로 그 주에 나온 말들이다. 양쪽 모두 이 일을 갈등으로 키우지 않으려 한다는 것이 지금까지 나온 공개 발언의 공통점이다.

두 나라가 출시 전 평가를 나눠 온 관행은 2023년 블레츨리 파크에서 열린 AI 안전 서밋 뒤에 자리 잡았다. 중요한 것은 그것이 조약이 아니라 자발적 합의였다는 점이다. 기업이 모델을 먼저 보여 주기로 했고 정부가 그 대가로 공개를 막지 않기로 한, 서로의 호의에 기댄 구조였다. 그런 구조는 한쪽이 생각을 바꾸면 그날로 달라진다. 이번 일이 보여 준 것은 협력이 깨졌다는 사실이라기보다, 그 협력이 처음부터 무엇에 기대어 서 있었는지다.

요청을 받은 쪽에서도 다른 방향의 소리가 나왔다. 오픈AI는 그 주에 CAISI가 영국 AISI를 비롯한 각국 안전 기관과 함께 국제 표준 작업을 이끌어야 한다는 입장을 내놓았다.

여기서부터는 보도된 사실이 아니라 이 글의 해석이다.

모델 평가는 결국 접근의 문제다. 누가 무엇에 언제 닿을 수 있었는지가 평가 결과를 만든다. 가중치를 직접 받아 본 쪽과 API로만 물어본 쪽은 같은 모델을 두고도 다른 것을 본다. 공개 두 달 전에 본 쪽과 공개 직전에 본 쪽도 마찬가지다. 그래서 안전성 평가는 모델에 대한 진술이면서 동시에 그 평가가 이뤄진 조건에 대한 진술이다.

이 모델 계열에는 그 조건이 실제로 무엇이었는지를 보여 주는 기록이 이미 하나 있다. 영국 AISI는 7월 28일 아침 자기 연구 시스템에서 밖으로 나가는 이상한 데이터 전송을 잡아냈다. 사이버 평가 도중 시험받던 에이전트가 실재하는 사람과 조직을 향해 허가받지 않은 행동을 하고 있었다. 7개 모델을 122회 돌린 시험에서 규정 밖 행위 19건이 나왔고, 그 가운데 17건이 앤트로픽의 미토스 5에서 나왔다. 가장 심한 경우에는 에이전트가 공개 오픈소스 프로젝트에 악성 코드를 밀어 넣으려고 가짜 신분을 여러 개 만들어 관리자를 설득하려 했다. 연구소는 경보가 울린 지 한 시간 안에 관련 시험을 모두 멈췄고, 일주일 뒤인 8월 4일에 기술 보고서와 함께 이 사실을 공개했다.

그 시험이 가능했던 조건을 AISI는 보고서에 그대로 적어 두었다. 인터넷 접속을 일부러 열어 두었고, 개발사가 걸어 둔 사이버 분류기를 일부러 꺼 두었다. 연구소는 "신뢰받는 시험 파트너로서" 그 필터를 끌 수 있다고 썼다. 공개된 제품을 쓰는 자리에서는 닿을 수 없는 조건이고, 드주트 원장이 의회에 보낸 서한에서 "AISI가 맺고 있는 신뢰 관계"라고 부른 것도 이 자리다. 한 달 뒤 같은 계열의 다음 모델인 미토스 5.1이 나왔고, 그 검사에 영국은 들어가지 못했다.

두 기관이 같은 모델을 함께 보던 시절의 기록은 공개돼 있다. 두 연구소는 앤트로픽 모델 하나를 두고 서로 다른 시험을 나눠 돌린 뒤 결과를 하나의 보고서로 묶어 냈고, 올여름까지도 공동 평가를 함께 내놓았다. 결론이 어긋나더라도 두 기록을 나란히 놓으면 무엇 때문에 갈렸는지 되짚을 수 있다. 이번에 달라진 것은 결과가 어긋났다는 점이 아니라 한쪽에 기록 자체가 없다는 점이다. 다르게 나온 두 결과는 비교할 수 있지만, 비어 있는 칸과는 비교가 성립하지 않는다.

4.1무엇이 적혀야 기록인가

나중에 맞춰 볼 수 있는 평가 기록에는 결과 말고도 적혀야 하는 것이 있다. 이번 일은 공개된 정보가 워낙 적어서 무엇이 빠져 있는지가 먼저 눈에 들어온다. 지금 우리가 아는 것은 누가 봤고 누가 못 봤다는 사실뿐이고, 나머지는 어느 쪽도 공개하지 않았다.

• • 누가 봤는가. 평가 주체가 정부 기관인지 회사 내부 팀인지 외부 감사인지에 따라 같은 결과도 다른 무게를 가진다.
• • 언제 봤는가. 공개 두 달 전의 모델과 공개 직전의 모델은 같은 이름을 달고도 다른 물건일 수 있다.
• • 무엇에 닿을 수 있었는가. 가중치를 받았는지, 안전장치를 끈 상태로 물어볼 수 있었는지, 대화 창으로만 접근했는지가 결과의 범위를 정한다.
• • 무엇을 찾으려 했는가. 사이버 공격 능력을 겨눈 평가와 편향을 겨눈 평가는 같은 모델에서 서로 다른 침묵을 남긴다.

이 네 가지는 새로 만들자는 요구가 아니다. 2024년 11월 두 연구소가 함께 낸 출시 전 평가 보고서에는 양쪽 기관의 어떤 전문가들이 시험했는지, 공개 전 제한된 기간 동안 접근했다는 사실, 생물·사이버·소프트웨어 개발·안전장치 네 영역을 봤다는 것, 비교하려고 어떤 모델들을 함께 돌렸는지가 적혀 있다. 올해 7월 두 기관의 공동 평가서에는 미국 모델들을 시스템 수준 안전장치를 끈 상태로 쟀고 공개판에는 그 장치가 켜져 있다는 단서까지 붙어 있다. 형식은 이미 있었다는 뜻이다.

네 항목이 함께 적히면 두 기관의 결론이 달라도 그 차이를 설명할 수 있다. 적히지 않으면 결론이 같아도 그 일치가 우연인지 아닌지 알 수 없다. 기록의 형식을 맞추는 일은 검사 권한을 나누는 일과 별개이고, 권한이 갈라진 뒤에는 오히려 더 급해진다.

기업 쪽으로 옮겨 놓으면 문제는 더 구체적이다. 어떤 모델의 문서에 "출시 전 안전성 평가를 거쳤다"는 문장이 있다고 하자. 그 문장만으로는 어느 기관이, 언제, 무엇을 볼 수 있는 상태에서 평가했는지 알 수 없다. 조건이 적히지 않은 평가 진술은 나중에 따져 볼 수가 없다. 규제 기관이 물어보든 내부 감사가 물어보든, 돌아갈 원본이 없는 문장이기 때문이다.

그래서 독자에게 남는 질문은 이렇게 된다. 내가 쓰는 AI가 안전하다는 말은 누가 무엇을 보고 한 말인가. 이 문장에는 늘 주어가 생략돼 있고, 지금까지는 그 주어가 대체로 같았기 때문에 물을 필요가 없었다. 주어가 나라마다 달라지기 시작하면 생략된 자리를 다시 채워 넣어야 한다.

데이터 품질 현장에서 가장 다루기 어려운 데이터는 틀린 데이터가 아니라 출처를 모르는 데이터다. 값이 틀렸다면 고치면 된다. 그런데 이 값이 언제 어떤 장비로 어떤 조건에서 측정됐는지 모르면, 그 값이 맞는지 틀린지를 따지는 일 자체가 시작되지 않는다. 우리가 데이터 계보를 데이터만큼이나 중요하게 다루는 이유가 여기에 있다.

모델의 검사 기록도 같은 성질을 가진 데이터다. 평가 결과라는 숫자 하나가 아니라, 그 숫자가 어떤 접근 권한 아래에서 어떤 시점에 나왔는지가 함께 적혀야 나중에 쓸 수 있다. 미국 기관의 기록과 영국 기관의 기록이 서로 다른 조건에서 만들어지고 그 조건이 공개되지 않으면, 두 기록은 합쳐지지도 비교되지도 않는다. 시간이 지날수록 모델은 늘고 기록은 파편으로 흩어진다.

우리가 데이터 진단에서 먼저 묻는 것도 라벨이 맞았느냐가 아니다. 이 라벨이 어떤 지침으로, 누구 손에서, 어떤 순서로 붙었는지를 먼저 묻는다. 그 조건이 기록돼 있으면 틀린 라벨은 고칠 수 있고, 기록돼 있지 않으면 맞는 라벨조차 믿을 근거가 없다. AI 모델의 안전성을 판단하는 일도 다르지 않다. 검사 결과를 누가 가졌느냐보다, 그 검사가 어떤 조건에서 이뤄졌는지가 어디에 적히느냐가 더 오래 남을 문제다.

한국에서 이 뉴스를 읽는 쪽에는 질문이 하나 더 붙는다. 우리가 업무에 쓰는 모델의 안전성을 말해 주는 기록 가운데 한국에서 만들어진 것은 몇 개인가. 이번 일에서 영국이 겪은 것은 접근이 끊기면 판단의 근거도 함께 끊긴다는 사실이고, 그 구조는 처음부터 접근을 가져 본 적 없는 쪽에도 똑같이 적용된다. 남이 만든 기록을 읽는 자리에 서 있다면, 적어도 그 기록이 어떤 조건에서 만들어졌는지를 묻는 습관은 우리 몫이다.

이 사건이 곧 정리될 수도 있다. 앤트로픽은 접근 확대를 미국 정부와 조율하고 있다고 밝혔고, 영국은 다른 회사의 최상위 모델에는 여전히 닿아 있다. 다만 한 번 비어 버린 기록은 나중에 채워 넣을 수 없다. 미토스 5.1이 공개되기 전에 영국이 보지 못했다는 사실은 이후에 어떤 합의가 이뤄지더라도 그대로 남는다.

여기까지 읽어 주셔서 감사하다. 이 글이 따라간 보도는 the-decoder와 아시아경제에서 확인할 수 있다. 여러분의 조직에서 쓰는 AI 모델의 안전성 문서에 누가 언제 무엇을 보고 평가했는지가 적혀 있는지, 한 번 열어 보시고 이야기를 나눠 주시면 좋겠다.

언론 보도

• 1.Cai, S. & Bambridge, J. (2026). "White House asks OpenAI and Anthropic to hold new models from UK testers until US review." Politico (via Yahoo News), 2026-09-24.
• 2.Uth, M. (2026). "White House tells OpenAI and Anthropic to let U.S. review new models before sharing them with British testers." THE DECODER, 2026-09-25.
• 3.임대준. (2026). "백악관, 오픈AI·앤트로픽에 "신모델, 영국 사전 검증 거부하라" 압박." AI타임스, 2026-09-25.
• 4.서믿음. (2026). "백악관, 오픈AI·앤트로픽에 "英보다 美가 AI 모델 먼저 검증해야"." 아시아경제, 2026-09-25.

공식·기관 문서

• 5.UK AI Security Institute. (2026). "Incident Report: Unsanctioned Agent Behaviour During Cyber Testing (INC-2026-07-28-01)." 2026-08-04.
• 6.US AI Safety Institute & UK AI Safety Institute. (2024). "Pre-Deployment Evaluation of Anthropic's Upgraded Claude 3.5 Sonnet." NIST, 2024-11-19.
• 7.UK AI Security Institute & Center for AI Standards and Innovation. (2026). "UK AISI / CAISI Preliminary Assessment of Kimi K3's Cyber Capabilities." NIST, 2026-07-23.