Executive Summary
트럼프 대통령과 시진핑 주석이 대규모 군사 작전을 AI에 단독으로 맡기지 않기로 했다는 소식이 나왔다. 전한 사람은 두 정상이 아니라 스콧 베선트 미 재무장관이고, 말이 나온 자리도 회담장이 아니라 11월 20일 CNBC 인터뷰였다. 두 정상은 하루 전 중국 선전(深圳)에서 열린 APEC 정상회의에서 만났다.
같은 자리에서 나온 3자 공동선언문에는 이 내용이 없다. 보도로 전해진 선언문 항목은 유엔 개혁, 연료 공급 확대, 그리고 핵 위험을 두고 주고받은 일반론 정도다. 2024년 리마 APEC에서 바이든 대통령과 시진핑 주석이 백악관 공식 결과문에 넣었던 핵무기 사용 결정의 인간 통제 조항도 이번에는 보이지 않는다. 2년 사이에 문서로 남은 것이 오히려 줄었다.
1절부터 3절까지는 보도에 남은 사실이다. 4절은 페블러스의 해석이다. 사람이 관여했다는 말은 그 관여가 기록으로 남을 때만 확인할 수 있고, 이 조건은 정상회담장 밖에서도 똑같이 걸린다.
주요 수치
이 사안을 요약하는 수치는 셋이다. 공동선언문이 군사 AI에 할애한 분량, 핵무기 결정의 인간 통제가 문서에 남아 있던 해, 그리고 미 상원 법안이 인간 책임으로 꼽은 항목의 개수다.
출처: The Epoch Times, SCMP, NPR(2024년 리마 APEC), govinfo(S.4682 법안 원문).
0줄
공동선언문에 담긴 군사 AI 조항
문서 근거는 없고 회담에 배석한 각료의 방송 발언만 남았다
2024년에만
핵무기 결정의 인간 통제 조항이 문서에 있던 해
백악관 공식 결과문에 적혔고, 2026년 선전 선언문에서는 빠졌다
세 가지
미 상원 법안이 적은 인간 책임의 내용
감독하고, 개입하고, 중단시킬 수 있는 능력을 법 문언으로 정의하려 한다
합의를 알린 것은 회담장 밖의 방송이다
이 내용을 처음 공개한 사람은 스콧 베선트 미 재무장관이다. 11월 20일 CNBC에 나와, 트럼프 대통령과 시진핑 주석이 어떤 군사적 결정에도 사람이 늘 관여해야 하고 대규모 군사 행동을 AI가 단독으로 하게 둬서는 안 된다는 데 합의했다고 말했다. 영어 원문에서 그는 AI를 "SI"로 불렀다. 트럼프 행정부가 초지능(super intelligence)을 줄여 쓰는 말이고, 가리키는 대상은 일반적인 AI다.
영어 원문은 한 문장이다. "I think it was very important that President Trump and President Xi agreed that humans should always be involved in any military decisions that SI makes, and the SI should not be allowed to be autonomous for major military actions." 사람이 늘 관여한다는 약속과 대규모 군사 행동을 맡기지 않는다는 약속이 접속사 하나로 묶여 있고, 베선트는 둘 다 두 정상이 동의한 내용으로 전했다.
두 정상이 만난 것은 하루 전이다. 11월 18일부터 19일까지 중국 선전(深圳)에서 APEC 정상회의가 열렸고, 19일 미중 정상회담에 이어 푸틴 러시아 대통령까지 더한 3자 회담이 90분 동안 이어졌다. 2026년 들어 트럼프 대통령과 시진핑 주석이 얼굴을 맞댄 것은 이번이 세 번째다.
발표 경로가 이 사안의 성격을 정한다. 두 정상의 공동 기자회견도 아니고 백악관이 낸 공식 결과문도 아니다. 회담에 배석한 각료 한 사람이 이튿날 방송에서 전한 말이다. 어떤 군사 시스템이 대상인지, 사람이 관여한다는 것이 구체적으로 무엇을 뜻하는지, 지키지 않았을 때 어떻게 알아내는지는 어느 쪽에서도 나오지 않았다. 로이터와 블룸버그를 비롯한 복수 매체가 같은 공백을 지적했다.
3자 회담의 공동선언문은 실제로 나왔다. 다만 보도로 전해진 내용에 AI 문구는 없다. 유엔 개혁, 연료 생산과 공급 확대, 자국 관료에 대한 국제형사재판소 면책, 그리고 핵 위험을 줄이자는 원론적 약속이 들어갔다. 이 글은 선언문 원문을 직접 열어 보지 못했고, 항목 정리는 그것을 옮긴 보도에 기댔다.
2024년에는 백악관 문서에 적혀 있었다
2년 전에는 같은 종류의 약속이 문서로 남았다. 2024년 11월 페루 리마에서 열린 APEC 정상회의에서 바이든 대통령과 시진핑 주석이 만났고, 백악관이 낸 공식 결과문에 핵무기 사용 결정은 AI가 아니라 사람이 통제해야 한다는 문장이 들어갔다. 중국 쪽이 이 내용에 공개적으로 동의한 첫 사례로 기록됐다.
이번 선언문에는 그 조항이 없다. 핵 위험을 줄이자는 표현은 남았지만, 결정 권한을 사람에게 둔다고 못 박은 문장은 빠졌다. 2024년에 문서로 남겼던 약속은 이번에 문서에서 사라졌고, 새로 나왔다는 군사 AI 합의는 애초에 문서를 거치지 않았다.
두 해를 견줄 항목은 넷이다. 누가 만났는지, 핵무기 결정을 누가 쥔다고 적었는지, 군사 AI의 인간 관여가 어디에 남았는지, 그리고 지켰는지 확인할 방법이 있는지다. 앞의 셋은 2년 사이에 달라졌고, 마지막 하나는 두 해 모두 비어 있다.
| 2024년 리마 APEC | 2026년 선전 APEC | |
|---|---|---|
| 만난 정상 | 바이든, 시진핑 | 트럼프, 시진핑, 푸틴(3자 회담) |
| 핵무기 결정의 인간 통제 | 백악관 공식 결과문에 명시 | 공동선언문에 해당 문장 없음 |
| 군사 AI의 인간 관여 | 별도 문구 없음 | 재무장관의 방송 발언으로만 전해짐 |
| 이행을 확인하는 방법 | 정해지지 않음 | 정해지지 않음 |
▲ 페블러스 원본 정리. 2024년 항목은 백악관 결과문을 보도한 NPR 기사에, 2026년 항목은 선전 회담을 전한 복수 매체 보도에 근거한다.
마지막 줄이 두 해 내내 비어 있다는 점은 따로 볼 만하다. 2024년 조항을 두고도 미국의 AI 정책 연구단체 Center for AI Policy는 구속력이 없고 후속 공식 합의가 보장되지도 않는다고 짚었다. 문서로 남기는 일과 지켰는지 확인하는 일은 서로 다른 단계인데, 두 회담은 모두 앞 단계에서 멈췄다. 2024년에는 거기에 한 줄이라도 적혔지만, 2026년에는 그 한 줄도 없다.
전문가 평가도 같은 쪽을 가리킨다. 카네기국제평화재단의 자오퉁은 트럼프 대통령이 공언해 온 핵군축 협상의 야심과 선언문의 빈약한 내용 사이의 대비가 이보다 더 극명할 수 없다고 말했고, 결과가 기대에 크게 못 미쳤다고 평가했다. 북한의 핵 확장이나 이란을 둘러싼 비확산 문제에 대해서도 구체적 약속은 선언문에 담기지 않았다.
확인하지 못한 것도 적어 둔다. 3자 공동선언문 원문과 일부 매체의 기사 본문은 직접 열지 못해, 선언문 항목과 자오퉁의 평가는 같은 내용을 전한 다른 매체 보도로 교차 확인했다. 베선트의 발언은 복수 매체가 같은 문장으로 옮겼다.
미 상원에는 확인할 수 있는 기준을 적으려는 법안이 있다
같은 문제를 법 문언으로 옮기려는 시도가 미국 의회에 있다. 상원 군사위원회 소속 마크 켈리 의원이 2026년 6월 5일 두 건의 법안을 냈다. 하나는 국방 시스템의 궁극적 인간 책임을 다루는 법안(S.4682)이고, 다른 하나는 군의 AI 활용 준비를 다루는 WARP 법안(S.4683)이다.
앞의 법안이 하려는 일은 낱말 하나를 정의하는 것이다. 자율무기체계에 대해 지휘관과 운용자가 감독하고, 개입하고, 중단시킬 수 있는 능력을 궁극적 인간 책임으로 규정한다. 말로 전해진 "사람이 관여한다"와 달리, 무엇을 할 수 있어야 관여한 것인지를 세 가지 동작으로 적어 둔다. 두 법안 모두 군사위원회에 계류 중이다.
차이는 구속력보다 확인 가능성에 있다. 감독할 수 있는지, 개입할 수 있는지, 중단시킬 수 있는지는 시스템을 들여다보면 답이 나오는 물음이다. 반면 사람이 관여했다는 문장 하나만으로는 무엇을 확인해야 할지조차 정해지지 않는다. 법안이 통과될지는 별개 문제이고, 여기서 눈여겨볼 것은 같은 약속을 확인 가능한 형태로 바꾸는 방법이 이미 제안돼 있다는 사실이다.
페블러스가 이 사건을 주목하는 이유
국가 사이의 약속과 기업 안의 승인 절차는 규모가 다르지만 걸리는 대목은 같다. 사람이 관여했다는 말을 나중에 확인할 방법이 있느냐다. 베선트의 발언이 남긴 공백은 합의 내용보다 그 합의를 확인할 기록이 없다는 데 있다.
기업에서도 AI 에이전트가 주문을 넣고, 환불을 승인하고, 계정 권한을 바꾸기 시작하면서 같은 물음이 실무로 내려왔다. 감사나 사고 조사가 시작되면 그 결정은 AI가 아니라 사람이 했다는 설명이 먼저 나온다. 그다음에 오는 질문은 늘 같다. 누가, 언제, 무엇을 보고 승인했나.
이 질문에 답하려면 승인하는 순간에 무엇을 남길지가 미리 정해져 있어야 한다. 업계가 공통으로 꼽는 항목은 다음과 같다.
- 승인한 사람의 신원과 승인 시각. 계정 하나를 여럿이 쓰면 이 칸이 비어 있는 것과 같다.
- 에이전트가 제안한 행동의 내용과, 승인자가 실제로 본 화면이나 요약. 무엇을 보고 눌렀는지가 빠지면 승인은 클릭 한 번으로 남는다.
- 그때 적용된 정책과 모델의 버전. 같은 행동이라도 어떤 규칙 아래에서 허용됐는지가 달라진다.
- 그 기록이 뒤에 고쳐지지 않았다는 증거. 사후에 편집 가능한 로그는 분쟁에서 증거 노릇을 하지 못한다.
업계에서 메이커-체커라고 부르는 분리 원칙도 결국 이 기록을 전제한다. 제안한 쪽과 승인한 쪽이 다르다는 사실이 기록에 남아야 분리가 성립하기 때문이다. 기록이 없으면 남는 것은 문장뿐이다. 선언문에 사람이 통제한다고 적어도, 사내 정책에 모든 자동 승인은 담당자 확인을 거친다고 적어도, 되짚을 길이 없으면 둘은 같은 종류의 문장이다.
두 경로를 나란히 놓으면 갈리는 지점이 보인다. 말로 전해진 약속은 전한 사람의 기억과 표현에서 멈추고, 기록으로 남은 승인은 몇 달 뒤에 다른 사람이 다시 열어 볼 수 있다.
이번 사안이 보여 준 것은 최고위급 합의조차 기록을 건너뛰면 검증 대상에서 벗어난다는 점이다. 조직 안에서 이를 확인하는 방법은 단순하다. 지난달 AI 에이전트가 처리한 일 가운데 사람이 승인했다고 적힌 건을 하나 골라, 그 승인이 누구의 어떤 화면에서 몇 시에 이뤄졌는지 되짚어 보면 된다. 기록이 거기까지 닿지 않는다면 그 조직의 인간 통제도 선언문에 적힌 문장과 같은 자리에 있다.
참고문헌
언론 보도
- 1.The Epoch Times. (2026). "Trump and Xi Agree Military AI Decisions Should Require Human Involvement, Bessent Says."
- 2.Deccan Herald. (2026). "US, China Agree AI Must Not Make Military Decisions Without Human Oversight."
- 3.South China Morning Post. (2026). "Concrete Aims or Just Symbolism? Trump, Xi and Putin Talk Nuclear Risk but Controls Stall."
- 4.South China Morning Post. (2026). "Xi, Trump Agree Military AI Decisions Must Involve Humans, Bessent Says."
- 5.Bloomberg. (2026). "AI Military Use Restricted by Trump, Xi Pact, US Treasury's Bessent Says."
- 6.NPR. (2024). "Biden and Xi Take a First Step to Limit AI and Nuclear Decisions at Their Last Meeting."
입법·정책 자료
- 7.Center for AI Policy. (2024). "Biden and Xi's Statement on AI and Nuclear Is Just the Tip of the Iceberg."
- 8.Office of Senator Mark Kelly. (2026). "Kelly Introduces Bills to Smartly Integrate AI into U.S. Military." Press release.
- 9.United States Congress. (2026). "Ultimate Human Responsibility in Defense Systems Act of 2026." S.4682, 119th Congress.