Executive Summary

2026년 7월, 제네바에서 유엔 193개 회원국이 첫 글로벌 AI 거버넌스 대화를 열었다. 눈에 띈 것은 규칙이 아니라 순서였다. 각국이 통제 방식을 두고 다투기 전에, 40인 과학패널이 7월 1일 내놓은 예비 보고서를 협상 테이블 바닥에 먼저 깔았다. 이 글은 그 장면을 규제 속보가 아니라 거버넌스의 데이터 인프라 문제로 읽는다.

40인이 만든 것은 규범이 아니라 공통의 근거였다. 유엔 디지털기술 특사 아만디프 길은 이를 "의사결정자들이 앞으로 함께 쓸 공유된 과학 언어"라고 불렀다. 데이터를 다루는 사람에게는 익숙한 논리다. 스키마 없이 쿼리가 없고, 공통 벤치마크 없이 비교가 없다. 거버넌스도 공통 근거 없이는 협상이 시작되지 않는다.

그런데 근거는 공개됐지만 집행은 그렇지 않다. 보고서는 6개 언어로 모든 정부에 열렸는데, 정작 프런티어 모델에 누가 접근하는지는 비공개 기준으로 굴러간다. 이 글은 순서의 전환이 왜 뉴스인지, 그리고 공개된 근거와 닫힌 집행 사이의 간극이 왜 진짜 문제인지를 함께 본다.

이번 장면의 무게는 네 개의 숫자로 압축된다. 몇 나라가 한 테이블에 앉았는지, 그 바닥을 놓은 패널이 어떻게 뽑혔는지, 그리고 근거가 겨눈 힘의 쏠림과 근거가 열린 폭이다.

193개국

첫 대화 참석

거의 모든 나라가 한 테이블에

40인

과학패널

140개국 2,600여 지원 중 선발

90%

컴퓨트 집중

단 2개국이 통제하는 연산 역량

6개 언어

보고서 공개

모든 정부가 같은 근거를 읽도록

1

규칙부터 세우던 순서가 뒤집혔다

지금까지 AI 규제는 규칙부터 세웠다. EU AI Act는 위험 등급을 나눴고, 각국 행정명령은 금지와 의무를 먼저 그었다. 2026년 7월 6일과 7일 제네바 Palexpo에서 열린 첫 글로벌 AI 거버넌스 대화는 그 순서를 뒤집었다. 193개 회원국이 규칙을 흥정하기 전에, 40인 과학패널이 7월 1일 발표한 예비 보고서를 공통 출발점으로 삼았다.

구테흐스 사무총장의 말이 이 전환을 압축한다. "과학이 여기 있다. 우리는 더 이상 몰랐다고 말할 수 없다. 그것으로 무엇을 할지는 이제 우리 모두에게 달렸다." 규칙을 합의하기 전에, 사실을 표현할 언어부터 합의하자는 제안이다. 그는 각국에 짧게 덧붙였다. 기다리지 말라.

왜 이 순서가 중요한가. 각국의 AI 통제 철학은 제각각이다. 어떤 나라는 국가 안보를, 어떤 나라는 시장의 자유를, 어떤 나라는 인권과 민주주의를 앞세운다. 서로 다른 원칙이 부딪칠 때 무엇이 사실인지에 대한 공통 바닥이 없으면, 대화는 각자의 주장을 반복하다 끝난다. 40인 패널은 규칙을 정하기 전에 그 바닥부터 놓았다.

규제가 놓이는 순서 — 무엇이 먼저인가 기존 규칙 먼저 근거는 나중 …흐지부지 유엔 공통 근거 먼저 규칙은 그 위에 근거가 규칙을 앞서면 협상은 힘의 문제가 아니라 검증의 문제가 된다
▲ 규칙과 근거의 순서 — 유엔은 규칙을 정하기 전에 공통 근거부터 깔았다 | 페블러스 원본 도식

순서를 뒤집었다는 것이 이번 사건의 핵심이다. 규칙이 근거를 앞서면 협상은 누가 더 세냐의 문제가 되고, 근거가 규칙을 앞서면 협상은 무엇이 사실이냐의 문제가 된다. 193개국이 후자를 택했다는 사실 자체가, 요약할 만한 규제 뉴스보다 더 큰 신호다.

2

40인이 만든 건 규범이 아니라 공통 근거였다

이 패널의 공식 이름은 인공지능에 관한 독립 국제 과학패널(IISP-AI)이다. 140개국에서 온 2,600건 넘는 지원 가운데 40인이 선발됐고, 2026년 2월 유엔 총회가 임명했다. 공동의장은 2018년 튜링상을 받은 요슈아 벤지오와 노벨평화상을 받은 언론인 마리아 레사다. 전문성뿐 아니라 지역·성별·개도국과 선진국의 균형을 기준으로 뽑았다.

요슈아 벤지오 — 튜링상 수상 AI 연구자이자 유엔 AI 과학패널 공동의장
▲ 요슈아 벤지오, 에콜 폴리테크니크 강연(2017) — 2018년 튜링상 수상자이자 IISP-AI 공동의장 | Source: Jérémy Barande / Wikimedia Commons (CC BY-SA 2.0)

이들이 내놓은 것은 규칙이 아니라 측정 가능한 사실의 목록이다. 보고서는 지금의 안전장치가 AI 역량의 성장 속도를 따라잡지 못한다고 진단했다. 다단계 작업을 사람 감독 없이 수행하는 에이전트가 지시를 따를 것이라는 기술적 보장이 현재 없다는 점, 그리고 전 세계 연산 역량의 약 90%를 단 2개국이 통제한다는 점도 나란히 짚었다. 벤지오는 AI 역량이 과학적 이해와 정부의 적응 능력을 모두 앞지르고 있다고 경고했다.

보고서가 겨눈 딜레마는 시점에 있다. 정책을 만들려면 과학적 근거가 필요한데, 근거가 충분히 확실해질 무렵이면 손쓸 창이 이미 닫혀 있을 수 있다. 그래서 패널은 아직 다 밝혀지지 않은 위험까지 목록에 올렸다. 정확성과 무관하게 사용자의 기존 믿음을 강화하는 아부성 반응, 사기와 사이버공격, 생물학적 위협 같은 오남용 경로가 함께 적혔다. 확실해질 때까지 기다리면 늦는다는 판단이, 규칙보다 근거를 먼저 합의하자는 이번 순서와 맞닿는다.

레사의 프레이밍이 이 보고서의 성격을 잘 보여준다. "여러분이 받는 것은 우리 우려의 바닥이지 천장이 아니다. 40개의 다른 맥락에서 온 40인을 합의시키면 가장 경악스러운 주장으로 흐르지 않는다. 이 보고서의 모든 것이 그 문턱을 넘었고, 이것이 우리 모두가 동의하는 최소치다." 40인이 각자의 관점을 깎아내고 남긴 공약수가 곧 공통 근거다. 논쟁적인 발견일수록 더 많은 증거와 협상을 통과해야 살아남았다.

마리아 레사 — 노벨평화상 수상 언론인이자 유엔 AI 과학패널 공동의장
▲ 마리아 레사, Rappler 공동창립자 겸 2021년 노벨평화상 수상자 — IISP-AI 공동의장 | Source: Sky Harbor / Wikimedia Commons (CC BY-SA 3.0 PH)

2.1"공유된 과학 언어"를 데이터의 말로 옮기면

길이 말한 "공유된 과학 언어"를 데이터의 말로 옮기면 공통 스키마에 가깝다. 서로 다른 애플리케이션이 같은 데이터 계약 위에서 상호운용되듯, 서로 다른 규제 철학도 같은 측정·용어 레이어 위에서만 서로를 반박하거나 합의할 수 있다. 패널이 만든 것은 규범의 내용이 아니라, 규범을 얹을 바닥이다. 무엇을 금지할지는 아직 정해지지 않았지만, 무엇이 위험한 사실인지는 이제 공통 언어로 적혀 있다.

공통 근거는 규칙이 아니다. 각국이 서로 다른 통제 철학을 얹을 수 있는 측정과 용어의 바닥이다. 이 바닥이 없으면 협상 테이블에서 오가는 말은 서로 다른 언어가 되고, 있으면 비로소 같은 문장을 두고 동의하거나 반박할 수 있다.

3

근거는 공개됐는데 집행은 뒷문으로 들어간다

근거의 공개성과 집행의 불투명성이 정반대로 간다. 보고서는 6개 언어로 모든 정부에 공개됐다. 반면 실제로 프런티어 모델을 누가, 어떤 기준으로 다룰지는 여전히 닫힌 문 뒤에 있다.

미국이 2026년 6월 2일 내놓은 행정명령이 그 단면이다. 프런티어 모델을 공개 전 연방정부에 자발적으로 제출해 최대 30일 국가안보·사이버 검토를 받게 하되, 의무 라이선싱은 명시적으로 배제했다. 문제는 어떤 모델이 검토 대상인지 정하는 판정 기준 자체가 기밀이라는 점이다. 조기 접근을 받는 "신뢰할 수 있는 파트너"도 정부가 비공개로 선별한다. 누가 문턱을 넘는지, 그 문턱이 어디인지 바깥에서는 알 수 없다.

근거는 열려 있고, 집행은 닫혀 있다 공개된 근거 6개 언어로 모든 정부에 40인 패널의 예비 보고서 누구나 읽고 검증할 수 있음 닫힌 집행 판정 기준은 기밀 "신뢰할 수 있는 파트너"만 선별 바깥에서는 규칙이 보이지 않음 비판자들은 이 구조를 '뒷문 라이선싱'이라 부른다
▲ 공개된 근거와 비공개 집행의 대비 — 근거는 열렸지만 그 근거로 무엇을 통제할지는 닫혀 있다 | 페블러스 원본 도식

비판자들은 이를 규제 없는 규제 포획, 곧 뒷문 라이선싱이라 부른다. 기준이 공개되지 않으니 시장은 정부의 선별을 사실상 승인 도장처럼 받아들일 수 있다. 캘리포니아와 뉴욕이 프런티어 개발사에 투명성 보고서 공개를 의무화한 것과 방향이 정반대다. 한쪽은 근거를 열고, 다른 쪽은 집행을 닫는다.

공통 근거가 있다고 집행이 저절로 정당해지는 것은 아니다. 근거는 모두에게 열렸는데 그 근거로 무엇을 통제할지는 소수만 아는 규칙으로 굴러간다면, 간극은 오히려 더 또렷해진다. 진짜 문제는 근거의 부재가 아니라 근거와 집행 사이의 거리다.

4

규칙은 누구의 측정 위에서 정당해지는가

패널 진단에서 가장 실무적인 문장은 기존 거버넌스가 "파편화돼 있고, 소수 기업에 집중돼 있으며, 실제 효과를 거의 측정하지 않는다"는 지적이다. 측정되지 않는 것은 다스려지지 않는다. 연산 역량의 90%가 2개국에 몰려 있다는 사실도, 에이전트가 지시를 따를지 보장할 수 없다는 사실도, 결국 측정과 검증 인프라의 부재를 가리킨다.

유엔 총회 회의장 — 193개 회원국이 국제 규범을 논의하는 공간
▲ 유엔 총회 회의장 — 193개 회원국이 공통 규범을 논의하는 무대. AI 거버넌스도 이 위에서 진행된다 | Source: Patrick Gruban / Wikimedia Commons (CC BY-SA 2.0)

데이터 품질과 모델 평가를 다루는 사람에게 이 지점은 남의 일이 아니다. 규칙이 정당성을 얻으려면 근거가 있어야 하고, 그 근거는 누군가 현실을 측정 가능하게 다듬어야 생긴다. 벤치마크의 재현성, 리스크 지표의 정의, 모델 카드와 투명성 보고서의 관행이 국제 규범의 하부 구조가 되는 셈이다. 거버넌스의 정당성은 결국 어떤 데이터를 믿을 수 있느냐 위에 세워진다.

그래서 남는 질문은 이것이다. AI를 다스릴 규칙은 결국 누구의 데이터와 측정 위에서 정당해지는가. 공통 근거가 있어야 규칙이 정당해지고, 그 근거를 만드는 일은 데이터를 측정 가능하게 다듬는 사람들의 몫이다. 규칙을 쓰는 손과 근거를 만드는 손은 다르지 않다.

유엔이 규칙보다 근거를 먼저 놓은 이유는 분명하다. 근거 없는 규칙은 힘의 산물이 되고, 근거 위에 선 규칙만 검증될 수 있다. 그리고 그 근거는 저절로 생기지 않는다. 누군가 사실을 측정 가능하게 다듬어야 비로소 규칙이 딛고 설 바닥이 된다.

편집자의 노트. 페블러스는 데이터가 AI에 쓰일 준비를 갖추는 과정(AI-Ready Data)을 다뤄 왔다. 유엔의 이번 시도는 그 관점이 거버넌스에도 닿는다는 것을 보여 준다. 규칙을 얹을 공통 근거는 저절로 생기지 않는다. 측정 가능한 사실로 다듬어야 근거가 되고, 근거가 있어야 규칙이 정당해진다. 거버넌스의 바닥에도 결국 데이터 품질의 문제가 놓여 있다.

R

참고문헌

공식 문서

규제 정책

  • 5.Executive Office of the President, United States. (2026, June 2). Executive Order on Promoting Advanced Artificial Intelligence Innovation and Security. White House.
  • 6.Herbert Smith Freehills Kramer. (2026). License to Model: US rules impact global access to frontier AI. Mondaq.
  • 7.Biometric Update. (2026). Critics warn US AI executive order risks regulatory capture through selective model designation. Biometric Update.

보도·분석

  • 8.Technology.org. (2026). UN Science Panel Warns AI Is Outpacing Regulators. Technology.org.
  • 9.Vectrel. (2026). What the Geneva Forum Means for Business. Vectrel.