Executive Summary

주요 수치

출처: Nextgov, CoinDesk (2026년 9월 29~30일), 한국 AI 기본법 제2조.

2026년 9월 29일 백악관에 여섯 회사 사람이 모였다. 구글의 순다르 피차이, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그, 오픈AI의 그렉 브록먼 사장, xAI의 일론 머스크, 엔비디아의 젠슨 황이다. 이들이 서명한 문서의 정식 이름은 '초지능에 관한 백악관 협약: 프런티어 책임에 관한 공동 서약'이다. 구속력이 있느냐는 질문에 트럼프 대통령은 도덕적으로 구속력이 있다고 본다고 답했고, 같은 자리에서 어떤 면에서는 거의 헌법 같은 것이라고 말했다. 여러 매체가 붙인 'AI 헌법'이라는 별칭은 여기서 나왔다. 서명된 협약문이 공개된 경로도 눈여겨볼 만하다. 백악관 문서 페이지가 아니라 트럼프 본인의 트루스소셜 게시물이었다.

같은 날 대통령은 행정명령에도 서명했다. 연방기관이 공식 서신, 대외 발표, 웹사이트, 보고서, 정책 문서에서 '인공지능'이라는 말 대신 '초지능(Superintelligence, SI)'을 쓰도록 하고, '인공지능'과 'AI'라는 표현을 더 이상 인정하지 않도록 하는 내용이다. 다만 적용 범위에 한정이 붙어 있다. 명령이 미치는 범위는 법령이 아닌 문서까지다. 법률 조문에 박혀 있는 '인공지능'은 그대로 남고, 기관이 스스로 만드는 문서의 표기만 바뀐다. 그리고 대통령 과학기술 보좌관에게 기관장들과 협의해 60일 안에 초지능의 법적 정의를 담은 입법안을 제출하라고 지시했다. 그 검토에는 초지능이 기존 AI의 법적 정의를 수정할지, 확장할지, 아예 대체할지를 판단하는 일이 포함된다.

두 문서가 서로를 가리키지는 않는다. 행정명령은 연방 문서의 용어와 앞으로 만들 법적 정의를 다루고, 협약은 업계가 스스로 지키겠다는 감독 절차를 다룬다. 경영진이 서명한 문서에는 이름을 바꾸겠다는 선언이 아예 들어 있지 않다. 같은 날 같은 자리에서 나왔을 뿐 법적으로는 별개 트랙이다. 다만 협약문에 연결 가능성을 열어 둔 문장이 하나 있다. 시간이 지나면 이 조치들을 법률이나 규정으로 성문화하는 것이 합리적일 수 있다는 대목이다. 지금은 약속이지만 나중에 의무가 될 수도 있다는 뜻으로, 협약이 스스로 자기 위치를 어떻게 보고 있는지 드러내는 문장이다.

협약의 핵심은 네 문장으로 되어 있다. 첫째, 훈련과 배포 단계에서 모델의 역량과 정렬 상태를 관찰하는 강력한 내부 통제를 둔다. 사이버보안과 생물보안과 화학 위협이 예시로 적혀 있고, 모델이 기술 시스템을 의도하지 않은 방식으로 해킹하거나 거기에 접근하지 않도록 한다는 대목도 같은 문장에 붙어 있다. 둘째, 내부 팀에 권한을 주어 그 장치들이 의도대로 작동하는지, 발견된 문제가 시정되는지까지 확인하게 한다. 셋째, 독립적인 외부 감사인 또는 평가자와 협력해 통제와 관찰, 탐지가 의도대로 작동하는지를 독립적으로 평가받는다. 넷째, 이사회의 독립위원회를 지정해 통제를 운영하는 팀과 내외부 감사인·평가자의 보고를 받고 감독하게 한다.

순서대로 읽으면 안쪽에서 바깥쪽으로 원이 하나씩 커진다. 모델을 만드는 팀, 그 팀을 보는 사내 팀, 회사 밖의 감사인, 그리고 경영진에서 떨어져 앉은 이사회 위원회다. 재무 쪽에서 오래 쓰여 온 구조이기도 하다. 상장사가 회계 장부를 다루는 방식이 대체로 이 모양이고, 협약이 빌려 온 어휘도 거기서 왔다.

네 항목 뒤에는 약속이 하나 더 붙어 있다. 서명한 회사들이 정기적으로 만나 표준과 모범사례를 정하겠다는 것이다. 협약에서 시간과 관련된 약속은 이것 하나뿐인데, 얼마나 자주 만나는지도 거기서 정해진 표준이 어떤 효력을 갖는지도 적혀 있지 않다.

2023년 바이든 행정부가 받아 낸 자발적 서약과 나란히 놓으면 무엇이 달라졌는지 보인다. 그때의 첫 항목은 오용과 사회적 위험과 국가안보를 포함한 영역에서 모델을 내부와 외부 양쪽으로 레드팀 시험하겠다는 것이었다. 독립 전문가가 출시 전에 모델을 직접 시험하는 절차는 이미 그 문서에 있었다. 이번 협약이 새로 가져온 것은 회사 바깥 사람의 등장이 아니라 시점과 구조다. 관찰 대상이 출시 전 한 번에서 훈련과 배포가 진행되는 동안으로 넓어졌고, 이사회 위원회라는 사내 최상단 기구가 보고를 받는 자리에 들어왔다. 대신 좁아진 것도 있다. 2023년에 외부 전문가가 시험하기로 한 대상은 모델이었는데, 이번에 외부 감사인이 평가하기로 한 대상은 그 통제가 의도대로 작동하는지다.

협약문은 첫 문장에서 책임의 소재를 밝혀 둔다. 모든 회사가 자기 기술을 안전하게, 그리고 고객과 대중의 신뢰를 쌓는 방식으로 개발할 책임이 있다고 믿는다는 대목이다. 감독 장치를 세우는 주체도 그 장치를 검사할 사람을 고르는 주체도 회사라는 뜻이 여기서 이미 정해진다.

협약이 무엇을 말하지 않았는지를 세어 보면 네 가지가 나온다. 위반했을 때의 제재가 없다. 이 협약은 자발적이고, 약속을 지키지 않은 회사가 지는 불이익이 문서 어디에도 적혀 있지 않다. 공개 의무도 없다. CoinDesk는 협약이 회사에 감사인을 공표하거나 이름을 밝히도록 요구하지 않는다고 짚었다. 이행 기한도 없다. 언제까지 내부 통제를 갖추고 언제 첫 외부 감사를 받아야 하는지를 정한 문장이 없다. 그리고 감사인을 고르는 일이 회사에 맡겨져 있다.

네 가지를 겹쳐 놓으면 하나의 그림이 된다. 회사가 원칙을 직접 초안했고, 감사인을 직접 고용하고, 그 결과를 공개할 필요가 없으며, 안 해도 벌칙이 없다. 기술 정책을 다루는 분석 매체 shattered.io는 이 구조를 한 문장으로 정리했다. 회사는 내부 검토를 마치고, 외부 감사인을 고용하고, 이사회 위원회가 시정 조치를 승인하기까지의 전 과정을 끝낼 수 있으며, 그중 어느 것도 공개될 필요가 없다는 것이다.

협약이 빌려 온 어휘가 재무 감사에서 왔다는 점이 여기서 문제가 된다. 상장사의 회계 감사에서는 누가 감사했는지, 무엇을 감사 범위로 잡았는지, 무엇을 발견했는지가 증권법에 따라 공시된다. 감사인을 회사가 고용하는 구조는 회계 쪽도 마찬가지이고 그래서 이해상충 논란이 오래 있었지만, 적어도 이름과 범위와 결과가 밖으로 나오기 때문에 시장이 그 감사를 평가할 수 있다. 협약은 그 구조의 형태만 가져오고 공시 규범은 가져오지 않았다. 같은 매체의 표현을 빌리면, AI 연구소는 자기 내부 통제를 '강력하다'고 서술할 수 있고 회사 밖의 누구도 그 주장을 확인해 주지 않아도 된다.

제재와 공개 의무와 기한이 없다는 것은 협약을 읽으면 바로 보인다. 그보다 찾기 어려운 빈칸이 하나 더 있다. 감사인이 무엇을 열람하는지가 정해져 있지 않다.

협약이 막겠다고 한 위험 가운데 하나가 모델이 사이버공격을 돕는 상황이다. 그 위험이 실제로 있는지 없는지를 감사로 가리려면, 감사인이 배포 환경에 가까운 조건에서 모델을 직접 다뤄 봐야 한다. shattered.io가 짚은 지점이 이것이다. 그런데 협약은 외부 감사인이 그런 직접 접근을 얻는지, 가중치 수준까지 보는지, 아니면 감사받는 회사가 작성한 요약 보고서만 받는지를 밝히지 않는다.

감사인에게 맡겨진 일이 무엇인지는 협약 문구에 적혀 있다. 셋째 항목이 평가 대상으로 적어 둔 것은 모델이 아니라 통제와 관찰, 탐지가 의도대로 작동하는지다. 장치가 돌아가는지 확인하는 일과 그 장치가 놓친 것이 있는지 확인하는 일은 같지 않다. 앞의 일은 회사가 만든 절차 문서와 로그를 대조하면 끝나고, 뒤의 일은 모델을 직접 다뤄 봐야 한다. 협약은 둘 가운데 어느 쪽을 뜻하는지 적지 않았다.

세 경우는 이름만 같은 감사이지 하는 일이 전혀 다르다. 가중치를 직접 받아 자기 환경에서 돌려 보는 감사인은 회사가 미처 보지 못한 실패를 찾아낼 수 있다. 배포된 서비스에 접근해 실제 조건에서 시험해 보는 감사인은 그보다 좁은 범위를 보되 사용자가 겪을 상황에 가까운 것을 본다. 회사가 정리해 건넨 요약 보고서를 읽는 감사인은, 회사가 이미 알고 있고 적기로 결정한 것만 본다. 마지막 경우에 감사인이 검증하는 대상은 모델이 아니라 회사의 문서다.

협약 문구는 이 표의 어느 줄을 뜻하는지 정하지 않았다. 그래서 회사마다 다른 줄을 고를 수 있고, 어느 줄을 골랐는지 밝힐 의무도 없다. 감독의 층수를 넷으로 세는 일과 감사인이 무엇을 볼 수 있는지를 정하는 일 가운데 실제로 감사의 성패를 가르는 쪽은 뒤쪽이다.

행정명령 쪽은 순서가 특이하다. 연방기관이 쓸 말을 먼저 '초지능'으로 바꾸고, 그 말이 무엇을 가리키는지는 60일 뒤에 입법안으로 내라고 지시했다. 이름이 정의보다 먼저 왔다.

한국은 반대 순서로 왔다. 2026년 1월 22일 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 줄여서 AI 기본법은 규제 대상을 두 갈래로 이미 갈라 두었다. 하나는 고영향 인공지능이다. 법 제2조 제4호는 사람의 생명이나 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템 가운데, 법이 각 목으로 열거한 영역에서 쓰이는 것을 그렇게 부른다. 에너지 공급, 먹는물 생산 공정, 보건의료 제공, 의료기기, 원자력시설 관리, 범죄 수사용 생체인식, 채용이나 대출 심사처럼 개인의 권리와 의무에 영향을 주는 판단, 교통 체계가 그 목록이다. 판정 기준은 어디에 쓰이는가다. 목록에 들어가더라도 최종 의사결정에 사람이 개입하면 대상에서 빠진다.

다른 하나는 연산량으로 가르는 쪽이다. 법 제32조는 학습에 쓰인 누적 연산량이 대통령령으로 정하는 기준을 넘는 인공지능에 안전성 확보 의무를 지우고, 시행령이 그 기준을 10²⁶ FLOPs로 확정했다. 정부 자료와 언론이 '고성능 AI'라고 부르는 것이 이 대상이다. 법 조문에 그런 이름이 따로 붙어 있는 것은 아니고 기준선 하나가 있을 뿐이다. 유럽 AI법이 쓰는 10²⁵ FLOPs보다 한 자릿수 위다.

기준선이 그어졌다고 해서 당장 많은 회사가 걸려드는 것은 아니다. 정부는 시행 시점에 10²⁶ FLOPs를 넘는 국내 모델은 아직 없고 고영향 인공지능에 해당하는 것도 레벨 4 이상 완전 자율주행 정도라고 설명했다. 과태료도 최소 1년의 계도기간을 두고 유예됐다.

한국 쪽 기준이 말끔한 것도 아니다. 전자신문은 2026년 9월 28일 기사에서 AI 기본법 곳곳에 해석 공백이 있고 워터마크와 고영향 AI를 둘러싼 혼선이 여전하다고 전했다. '중대한 영향'이 어디까지인지를 놓고 국내에서도 다툼이 이어지고 있다. 다만 다투는 대상이 적어도 문서에 있다. 영역 목록이 있고 연산량 숫자가 있으니, 우리 회사의 모델이 그 안에 드는지 아닌지를 놓고 논쟁이라도 할 수 있다.

두 나라의 축이 애초에 다르다는 점이 국내 실무자에게 걸린다. 60일 뒤에 미국이 초지능의 법적 정의를 내놓는다 해도, 그것이 한국의 10²⁶ FLOPs 기준으로 자동으로 옮겨지지 않는다. 연산량 임계치로 가르는 잣대와 초지능이라는 개념으로 가르는 잣대는 다른 모델 집합을 잡아낸다. 미국 규제 대상이 된 모델을 들여와 국내 서비스에 붙일 때, 이름이 같다는 이유로 같은 규제 대상이라고 가정하면 어긋난다. 반대로 한국에서 고영향으로 분류된 용도가 미국 정의에서는 초지능과 무관할 수도 있다.

협약을 비판할 때 가장 많이 나오는 말은 권한 이야기다. 감사인이 회사에 고용되어 있으니 독립적이지 않고, 볼 수 있는 것도 회사가 정한다는 지적이다. 맞는 말인데, 한 겹이 더 있다. 감사인에게 아무 제한 없는 열람 권한을 주더라도, 볼 것이 남아 있지 않으면 감사는 성립하지 않는다.

모델 하나가 어떤 데이터로 학습했는지를 사후에 복원하는 일은 대체로 불가능하다. 수집 시점에 출처를 기록하지 않았다면 그 기록은 나중에 만들어지지 않는다. 평가 로그도 같다. 어느 버전의 모델이 어느 시험을 어떤 설정으로 통과했는지를 그때 남겨 두지 않았다면, 여섯 달 뒤 감사인이 와도 확인할 대상이 없다. 모델 카드 역시 마찬가지다. 배포 시점마다 갱신하지 않은 모델 카드는 지금 쓰는 모델을 설명하지 못한다. 감사 가능한 AI라는 말은 결국 감사받을 때가 아니라 만들 때 무엇을 남겨 두었는가의 문제다.

협약의 네 단계를 이 눈으로 다시 보면 순서가 거꾸로 되어 있다. 문서는 보는 사람을 네 겹으로 쌓았지만, 그 사람들이 볼 대상이 어떤 형태로 남아 있어야 하는지는 한 줄도 정하지 않았다. 학습 데이터의 계보, 평가 이력, 모델 버전 대장은 감사를 준비하기 시작한 뒤에 만들 수 있는 것이 아니다. 시스템을 만드는 동안 함께 쌓이거나, 아예 없거나 둘 중 하나다.

이 지점에서는 한국 쪽 규정이 한 칸 앞서 있다. AI 기본법 시행령 제26조 제1항은 고영향 인공지능을 제공하는 사업자에게 법 제34조 제1항 각 호의 조치를 이행하고 그 근거를 문서로 5년간 보관하도록 정해 두었다. 입법예고 과정에서 이 보관 의무는 순서가 앞당겨져 사업자 책무의 첫 항목이 되었다. 감독하는 사람을 몇 겹으로 둘지가 아니라 무엇을 얼마나 오래 남길지를 숫자로 적은 조항이다. 백악관 협약에는 이에 해당하는 문장이 없다.

그래서 이 협약은 미국 여섯 회사의 약속으로만 읽히지 않는다. 국내 기업이 AI 기본법의 고영향 인공지능에 해당해 설명 의무를 지게 되었을 때, 혹은 고객사가 우리 모델의 학습 데이터 출처를 묻는 문서를 보내왔을 때 마주칠 질문이 같은 모양이다. 지금 돌아가는 모델이 어떤 데이터에서 왔는지, 그 데이터가 어디서 왔는지, 지난 분기의 평가 결과가 어느 버전에 붙은 것인지. 이 세 가지에 답할 기록이 시스템 안에 쌓이고 있지 않다면, 감독 절차를 몇 겹으로 세우든 확인할 수 있는 것은 서류뿐이다.

여기까지 읽어 주셔서 감사하다. 협약과 행정명령의 경과는 Nextgov와 CoinDesk 기사에서 볼 수 있다. 여러분의 조직에서는 지금 운영 중인 모델의 학습 데이터 출처와 평가 이력이 어디에 남아 있는지, 외부에서 묻는다면 며칠 안에 꺼낼 수 있는지 한번 확인해 보시고 무엇이 비어 있었는지 들려주시면 좋겠다.

R.1보도

• 1.Nextgov/FCW. (2026). "White House unveils super intelligence executive order and industry accord." 2026년 9월 29일 서명식의 경과, 행정명령의 용어 변경과 60일 입법안 지시, JD 밴스 부통령의 발언이 여기에 있다.
• 2.CoinDesk. (2026). "OpenAI, Google and Meta pledge outside AI audits under voluntary White House deal." 2026년 9월 30일. 제재 부재, 감사인 공개 의무 부재, 이행 기한 부재, 감사인 선정 주체가 회사라는 네 가지 지적의 출처다. 2023년 자발적 서약과의 비교도 여기에 있다.
• 3.CBS News. (2026). "Trump and major AI executives sign "morally binding" voluntary controls." 2026년 9월 29일. 구속력을 묻는 질문에 트럼프가 도덕적으로 구속력이 있다고 답한 대목, '거의 헌법 같다'는 표현, 서명본이 트루스소셜 게시물로 공개된 경위가 여기에 있다.
• 4.The Week. (2026). "The AI constitution? Inside Trump's four-step accord on 'Super Intelligence'." 협약의 정식 명칭과 4단계 감독 문구, 법률·규정으로의 성문화 가능성을 열어 둔 문장, 자율 규제에 대한 회의적 반응을 확인한 기사다.
• 5.Fox Business. (2026). "Trump signs executive order rebranding AI as 'Super Intelligence' as tech titans ink separate SI accord." 행정명령이 '인공지능'과 'AI'를 더 이상 인정하지 않도록 하면서도 적용 범위를 법령이 아닌 문서로 한정했다는 점, 협약이 행정명령과 별개 문서라는 점의 출처다.
• 6.Axios. (2026). "AI constitution: Trump, White House." 2026년 9월 30일. 원문 접근이 막혀 있어 같은 사건을 다룬 위 기사들로 교차 확인했다.
• 7.전자신문. (2026). "AI기본법 곳곳 '해석 공백'…워터마크·고영향AI 혼선 여전." 2026년 9월 28일. 국내 AI 기본법의 해석 공백 논란을 다룬 기사다.

R.2분석

• 8.shattered.io. (2026). "White House AI Accord Makes Outside Audits Explicit." 감사인의 열람 범위가 협약에 명시되지 않았다는 지적, 재무 감사의 공시 규범과의 대조, 감독 전 과정이 비공개로 끝날 수 있다는 서술의 출처다.
• 9.Luiza's Newsletter. (2026). "The White House Accord on Super Intelligence." 협약 전문을 그대로 실었다. 전문(前文)의 책임 소재 문장, 네 항목의 원문, 정기 회합 약속, 정의되지 않은 용어에 대한 지적을 여기서 확인했다.

R.3법령·공식 문서

• 10.대한민국. (2026). 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제2조 제4호, 제32조, 제34조. 2026년 1월 22일 시행. 고영향 인공지능의 영역 기반 정의, 누적 연산량 기준의 대통령령 위임, 고영향 사업자의 책무가 여기서 나온다.
• 11.대한민국. (2026). 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」. 법 제32조가 위임한 안전성 확보 의무 대상의 기준을 학습 누적 연산량 10²⁶ FLOPs로 확정한 규정이 여기에 있고, 고영향 인공지능 사업자가 조치 이행 근거를 문서로 5년간 보관하도록 한 규정은 제26조 제1항이다.
• 12.The White House. (2023). "Voluntary AI Commitments." 2023년 9월. 첫 항목이 모델을 내부와 외부 양쪽으로 레드팀 시험하겠다는 약속이라는 점, 즉 독립 전문가의 출시 전 모델 시험이 이미 그때 문서에 있었다는 점의 출처다.