한눈에 보기

2026년 7월, 스위스 제네바에 거의 모든 나라가 모였습니다. 유엔 회원국 193개 나라가 처음으로 한자리에 앉아 "AI를 어떻게 다룰까"를 이야기했어요. 그런데 재미있는 건, 규칙을 정하기 전에 먼저 한 일이 있다는 거예요.

나라들은 싸우기 전에 먼저 "AI가 지금 진짜로 뭘 할 수 있고, 뭐가 위험한지"부터 다 같이 확인했습니다. 그 확인을 도와준 사람들이 과학자 40명이에요. 반에서 제일 꼼꼼한 40명을 뽑아 "모두가 맞다고 인정하는 사실만 적어봐"라고 시킨 것과 같습니다.

이 글은 그 이야기를 어려운 말 없이 아주 쉽게 풀어 봅니다. 왜 규칙보다 사실이 먼저였는지, 40명이 뭘 알아냈는지, 그리고 사실은 다 공개됐는데도 왜 아직 문제가 남았는지를 하나씩 살펴볼게요.

이번 이야기는 네 개의 숫자만 기억하면 충분합니다. 몇 나라가 모였는지, 사실을 정리한 사람이 몇 명인지, 그리고 힘이 얼마나 한쪽으로 쏠려 있고, 그 사실이 얼마나 널리 열렸는지입니다.

193개국

한자리에 모인 나라

거의 모든 나라가 참석

40명

사실을 정리한 과학자

140개국 2,600여 명 중 선발

90%

2개국이 쥔 컴퓨터 힘

AI를 돌리는 힘이 몰려 있음

6개 언어

보고서 공개

모든 정부가 같은 사실을 읽도록

1

규칙보다 사실을 먼저 확인했다

반에서 새 게임을 하기로 했다고 생각해 봐요. 보통은 "이러면 반칙, 저러면 벌점" 하고 규칙부터 정합니다. 그런데 규칙만 먼저 정하면 다툼이 나요. "그게 왜 반칙인데?" 하고요. 그래서 똑똑한 반은 게임 규칙을 정하기 전에 "이 게임이 실제로 어떻게 돌아가는지"부터 다 같이 확인합니다.

유엔도 똑같이 했어요. 2026년 7월 6일과 7일, 제네바에서 193개 나라가 처음 모였습니다. 그런데 "AI를 이렇게 막자, 저렇게 허락하자" 하는 규칙 싸움을 바로 시작하지 않았어요. 대신 7월 1일에 과학자들이 내놓은 보고서를 먼저 테이블 위에 올렸습니다. "우리 이거부터 같이 보고 이야기하자"고요.

유엔의 대표인 구테흐스 사무총장은 이렇게 말했어요. "과학이 여기 있다. 우리는 더 이상 몰랐다고 말할 수 없다." 규칙을 정하기 전에, 무엇이 사실인지부터 함께 확인하자는 뜻입니다. 지금까지 나라들은 대부분 규칙부터 만들었어요. 이번엔 순서를 바꿨습니다. 그게 이 이야기의 가장 중요한 부분이에요.

무엇을 먼저 정했을까 예전 규칙 먼저 사실은 나중 …자꾸 다툼 이번 사실 먼저 규칙은 그 위에 사실을 먼저 맞추면, 규칙 싸움이 힘겨루기가 아니라 확인의 문제가 됩니다
▲ 예전에는 규칙부터, 이번에는 사실부터. 순서가 바뀌었습니다 | 페블러스 원본 도식

규칙을 먼저 정하면, 목소리 큰 나라가 이깁니다. 사실을 먼저 맞추면, 맞는 말을 한 나라가 이겨요. 193개 나라가 사실을 먼저 확인하기로 했다는 것. 이게 그냥 흔한 규제 뉴스보다 훨씬 큰 신호입니다.

2

그 사실을 정리한 40명은 누구일까

사실을 정리한 사람들은 과학자 40명입니다. 이 모임의 이름은 좀 길어요. "AI에 관한 독립 국제 과학패널"이라고 합니다. 어렵게 들리지만, 쉽게 말하면 "AI에 대해 제일 잘 아는 사람들을 세계에서 뽑아 만든 팀"이에요.

얼마나 열심히 뽑았냐면, 140개 나라에서 2,600명 넘는 사람이 지원했고 그중 40명만 뽑혔습니다. 반에서 제일 꼼꼼한 40명을 고른 셈이에요. 그리고 이 팀의 반장은 두 명입니다. 한 명은 AI 연구로 큰 상(튜링상)을 받은 요슈아 벤지오, 또 한 명은 노벨평화상을 받은 기자 마리아 레사예요.

반장이 왜 하필 두 명, 그것도 이렇게 다른 사람일까요? 한 명은 AI가 어떻게 작동하는지를 세계에서 제일 잘 아는 과학자입니다. 다른 한 명은 AI가 사람들의 삶에 실제로 어떤 일을 일으키는지를 오래 지켜본 기자예요. 기계를 아는 사람과 사람을 아는 사람이 함께 봐야, 사실이 한쪽으로 치우치지 않거든요.

요슈아 벤지오 — AI 연구로 튜링상을 받은 과학자이자 유엔 AI 과학팀 반장
▲ 요슈아 벤지오. AI 연구로 튜링상을 받았고, 이 과학팀의 반장 중 한 명입니다 | Source: Jérémy Barande / Wikimedia Commons (CC BY-SA 2.0)

그럼 이 40명이 무슨 일을 했을까요? 여기가 중요합니다. 이들은 "이렇게 하자, 저건 금지하자" 같은 규칙을 만들지 않았어요. 대신 "모두가 맞다고 인정하는 사실"만 골라서 적었습니다. 의견이 갈리는 건 뺐어요. 40명이 전부 "이건 진짜 맞다"고 동의한 것만 남긴 거예요.

반장 마리아 레사는 이렇게 설명했어요. "여러분이 받는 것은 우리 걱정의 바닥이지, 천장이 아닙니다." 무슨 뜻이냐면, 40명이 다 함께 동의한 건 가장 조심스러운 최소한이라는 거예요. 서로 생각이 다른 40명을 한 문장에 동의하게 만들면, 과장된 이야기는 저절로 걸러집니다. 그래서 이 보고서는 오히려 더 믿을 만해요.

마리아 레사 — 노벨평화상을 받은 기자이자 유엔 AI 과학팀 반장
▲ 마리아 레사. 노벨평화상을 받은 기자이고, 이 과학팀의 또 다른 반장입니다 | Source: Sky Harbor / Wikimedia Commons (CC BY-SA 3.0 PH)

40명이 만든 건 규칙이 아니라 "모두가 동의하는 사실 목록"입니다. 이게 있어야 다음 이야기가 시작돼요. 사실을 먼저 맞춰 놓지 않으면, 나라들은 서로 다른 말만 하다가 끝나거든요.

3

40명이 찾아낸 놀라운 사실 3가지

그럼 40명이 알아낸 사실 중에 가장 놀라운 것 세 가지를 볼게요. 어려운 말은 빼고, 하나씩 쉽게 풀었습니다.

3.1안전장치가 AI 속도를 못 따라간다

AI는 아주 빠르게 똑똑해지고 있어요. 그런데 AI를 안전하게 붙잡아 둘 장치는 그 속도를 못 따라갑니다. 자전거는 점점 빨라지는데 브레이크는 그대로인 것과 비슷해요. 과학자들은 "지금 브레이크로는 부족하다"고 솔직하게 적었습니다.

3.2AI가 시킨 대로 할지 아직 보장이 없다

요즘 AI 중에는 사람이 하나하나 지켜보지 않아도 여러 일을 알아서 하는 것들이 있어요. 이런 AI를 "에이전트"라고 부릅니다. 문제는, 이 AI가 정말 시킨 대로만 할 거라고 100% 장담할 방법이 아직 없다는 거예요. 심부름을 시켰는데 다른 길로 샐 수도 있는데, 그걸 완전히 막는 기술이 아직 없습니다.

3.3AI를 돌리는 힘의 90%를 단 2개국이 쥐고 있다

AI를 만들려면 아주 힘센 컴퓨터가 많이 필요해요. 그런데 그 힘의 약 90%를 단 2개 나라가 갖고 있습니다. 반 전체가 써야 할 제일 좋은 도구를 딱 2명만 가진 상황이에요. 이러면 나머지 나라들은 따라가기가 무척 어렵습니다.

세 가지를 한 줄로 모으면 이렇습니다. AI는 빠르고, 완전히 믿기엔 아직 이르고, 힘은 한쪽에 몰려 있다. 이걸 40명이 다 함께 "맞다"고 확인해 줬기 때문에, 이제 나라들은 이 사실 위에서 이야기를 시작할 수 있어요.

4

사실은 열어놓고, 결정은 숨겼다

여기서 좀 이상한 일이 생깁니다. 40명이 정리한 사실 보고서는 6개 언어로 모든 정부에 공개됐어요. 누구나 읽을 수 있습니다. 그런데 정작 "어떤 AI를 특별히 감시할지" 정하는 기준은 숨겨져 있어요.

시험으로 비유하면 이래요. 선생님이 시험 문제(사실 보고서)는 모두에게 나눠줬는데, 채점 기준표(누구를 특별히 볼지)는 서랍 속에 숨겨둔 거예요. 문제는 다 봤는데 채점 기준을 모르면, 왜 어떤 학생만 혼나는지 아무도 알 수 없죠.

실제로 미국은 2026년 6월 2일에 새 규칙을 하나 냈어요. 그런데 "어떤 AI를 검토 대상으로 삼을지" 그 판단 기준을 비밀로 했습니다. 먼저 정보를 받아 보는 "믿을 수 있는 파트너"도 정부가 몰래 골라요. 그래서 바깥에서는 누가, 왜 뽑혔는지 알 수가 없습니다.

사실은 열려 있고, 결정은 닫혀 있다 열린 사실 6개 언어로 모두에게 40명이 정리한 보고서 누구나 읽고 확인 가능 숨긴 결정 판단 기준은 비밀 "믿을 수 있는 파트너"만 몰래 선발 바깥에서는 규칙이 안 보임 이런 구조를 두고 어떤 이들은 '뒷문 허가'라고 부릅니다
▲ 사실은 활짝 열렸는데, 그 사실로 무엇을 할지는 닫혀 있습니다 | 페블러스 원본 도식

이런 방식을 비판하는 사람들은 이걸 "뒷문 허가"라고 불러요. 정문으로 정정당당하게 허가를 내주는 게 아니라, 뒤로 몰래 정한다는 뜻이에요. 기준이 안 보이니까, 사람들은 정부가 고른 회사를 그냥 "안전한 회사"로 믿어버릴 위험이 있습니다. 반대로 미국의 캘리포니아와 뉴욕은 AI 회사에게 "너희가 뭘 하는지 공개해라"라고 요구했어요. 방향이 정반대죠.

사실을 다 같이 확인한 건 좋은 일입니다. 그런데 그 사실로 무엇을 할지 정하는 규칙이 여전히 숨겨져 있다면, 문제는 오히려 더 또렷해져요. 진짜 문제는 사실이 없어서가 아니라, 열린 사실과 숨긴 결정 사이의 거리입니다.

5

이게 왜 우리한테도 중요할까

"먼 나라 회의 이야기인데 나랑 무슨 상관이야?"라고 생각할 수 있어요. 그런데 이 이야기의 핵심은 아주 가까운 데 있습니다. 바로 "재지 않으면 다스릴 수 없다"는 거예요.

예를 들어 볼게요. 아무도 시험 점수를 안 매기면, 누가 잘했고 못했는지 정할 수 없어요. 마찬가지로, AI가 얼마나 위험한지 정확히 재는 방법이 없으면 공정한 규칙도 만들 수 없습니다. 과학자들도 지금 AI 규칙이 "여기저기 흩어져 있고, 실제로 효과가 있는지 거의 재지 않는다"고 지적했어요. 규칙이 공정하려면, 먼저 사실을 정확하게 재는 일부터 잘해야 합니다.

유엔 총회 회의장 — 193개 나라가 함께 규칙을 이야기하는 큰 방
▲ 유엔 총회 회의장. 193개 나라가 함께 규칙을 이야기하는 큰 방입니다 | Source: Patrick Gruban / Wikimedia Commons (CC BY-SA 2.0)

그래서 남는 질문은 이거예요. AI를 다스릴 규칙은 결국 누구의 사실 위에 세워질까요? 규칙이 든든하려면 정확한 사실이 있어야 하고, 그 사실은 누군가 데이터를 꼼꼼히 다듬어야 생깁니다. 규칙을 쓰는 손과, 사실을 만드는 손은 실은 하나로 이어져 있어요.

유엔이 규칙보다 사실을 먼저 놓은 이유는 분명합니다. 사실이 없으면 규칙은 힘센 쪽 마음대로가 되고, 사실 위에 선 규칙만 다 함께 확인할 수 있어요. 그리고 그 사실은 저절로 생기지 않습니다. 누군가 정확하게 재고 다듬어야 비로소 규칙이 딛고 설 바닥이 됩니다.

편집자의 노트. 페블러스는 데이터가 AI에 쓰일 준비를 갖추도록 다듬는 일을 해 왔습니다. 유엔의 이번 시도는 그 일이 규칙을 만드는 데까지 이어진다는 걸 보여 줍니다. 규칙을 얹을 사실은 저절로 생기지 않아요. 정확하게 재고 다듬어야 사실이 되고, 사실이 있어야 규칙이 든든해집니다.

이 이야기를 더 깊이, 자세한 용어와 함께 읽고 싶다면 원래 글을 추천합니다. 유엔 40인 AI 과학패널 — 규칙보다 근거가 먼저인 이유에서 같은 사건을 더 자세히 다룹니다.

R

참고문헌

공식 문서

규제 정책

  • 5.Executive Office of the President, United States. (2026, June 2). Executive Order on Promoting Advanced Artificial Intelligence Innovation and Security. White House.
  • 6.Herbert Smith Freehills Kramer. (2026). License to Model: US rules impact global access to frontier AI. Mondaq.
  • 7.Biometric Update. (2026). Critics warn US AI executive order risks regulatory capture through selective model designation. Biometric Update.

보도·분석

  • 8.Technology.org. (2026). UN Science Panel Warns AI Is Outpacing Regulators. Technology.org.
  • 9.Vectrel. (2026). What the Geneva Forum Means for Business. Vectrel.