Executive Summary

2026년 6월 2일 서명된 백악관 행정명령은 AI로 컴퓨터에 무단 침입하는 행위를 처음으로 연방 형사법 집행의 우선순위로 명시했습니다. 새 범죄를 만든 것이 아니라, 기존 컴퓨터 사기·남용 방지법(CFAA)을 'AI를 이용한 침입'에도 그대로, 그리고 우선해서 적용하라는 지시입니다. 대통령이 서명한 문서에 'AI 에이전트'가 형사 집행의 맥락으로 등장한 것은 이번이 처음입니다.

여기서 페블러스 독자에게 중요한 균열이 드러납니다. 법은 AI를 도구로, 그 도구를 쓴 사람을 책임자로 봅니다. 그런데 자율 에이전트가 직접 지시 없이 스스로 침입을 실행하면 'AI를 이용한 개인'이 정확히 누구를 가리키는지가 흐려집니다. 설계자인가, 배포자인가, 운영자인가, 최종 이용자인가. 책임의 주체가 번지는 바로 그 지점에서, 에이전트가 무엇을 왜 했는지 되짚을 수 있는 행동 로그가 등장합니다.

이 글은 행정명령 원문에서 출발해 책임 주체의 공백을 짚고, 행동 로그와 데이터 출처 기록이 왜 '면책'이 아니라 '방어선'인지를 봅니다. 로그가 있다고 무죄가 되지는 않습니다. 다만 로그가 없으면 변호 자체가 불가능해집니다. 에이전트 경제의 신뢰 인프라를, 가장 날선 각도인 '범죄와 책임'에서 다시 읽습니다.

주요 수치

출처: White House EO, Kiteworks

네 숫자가 이번 사안의 긴장을 압축합니다. 행정명령의 역사적 위치, 그리고 정작 책임을 가를 행동 로그를 기업들이 어떤 상태로 쥐고 있는지입니다. 마지막 세 숫자가 특히 중요합니다. 법은 '동시적이고 완전하며 변경 불가능한' 기록을 요구하는데, 대다수 조직은 그 요구를 아직 충족하지 못하고 있다는 뜻이기 때문입니다.

최초

연방 형사법에 AI 명시

대통령 행정명령이 'AI 에이전트'를 형사 집행 맥락에 처음 적시

33%

증거급 감사 추적 보유

법정에서 증거로 쓸 품질의 로그를 유지하는 조직의 비율

61%

인과 재구성 불가 로그

단일 에이전트 행동의 인과 사슬을 되짚을 수 없는 분산 로그에 의존

63%

목적 제한 강제 불가

에이전트가 정해진 목적을 벗어나지 못하도록 강제하지 못하는 조직

1

행정명령이 '에이전트'를 처음 적은 순간

2026년 6월 2일, 백악관은 "Promoting Advanced Artificial Intelligence Innovation and Security"라는 제목의 행정명령에 서명했습니다. 사이버 방어 강화, 자발적 안전 프레임워크, 그리고 형사 집행이라는 세 축으로 이루어진 문서인데, 페블러스 독자가 주목할 지점은 세 번째 축, 제4조입니다. 이 조항은 법무장관에게 AI를 이용한 컴퓨터 무단 침입에 대한 기존 형사법 집행을 우선하라고 지시합니다.

제4조가 호명한 법은 새로 만든 것이 아닙니다. 신분 위조를 다루는 18 U.S.C. § 1028, 컴퓨터 무단 접근을 다루는 § 1030(이른바 CFAA), 전신 사기를 다루는 § 1343이 모두 수십 년 전부터 있던 연방 형사법입니다. 행정명령은 이 법들을 'AI를 도구로 쓴 경우'에도 똑같이, 그리고 우선해서 적용하라고 못 박았을 뿐입니다. 원문은 적용 대상을 이렇게 적습니다.

"The Attorney General shall prioritize the enforcement of 18 U.S.C. 1028, 18 U.S.C. 1030, 18 U.S.C. 1343, and all other applicable Federal criminal laws against anyone who utilizes AI to illegally access or damage a computer without authorization." 같은 조항은 그 범위에 "employing AI agents to unlawfully access data", 즉 데이터에 불법으로 접근하기 위해 AI 에이전트를 동원하는 행위를 명시적으로 포함시켰습니다.

문구 자체는 절제돼 있지만 상징성은 작지 않습니다. 그동안 'AI 에이전트의 책임'은 학계와 업계의 토론 주제였습니다. 이번 행정명령은 그 토론을 대통령 서명 문서의 형사 집행 우선순위로 끌어올렸습니다. 강제 허가나 사전 심사 같은 규제 장치는 일부러 배제하고 자발적 프레임워크를 택했지만, 형사 집행만큼은 분명한 언어로 적었습니다. AI 에이전트가 연방 형사법의 시야 안으로 처음 들어온 순간입니다.

백악관 북쪽 전경 — 2026년 6월 2일 AI 에이전트 침입 형사 집행을 명시한 행정명령이 서명된 곳
▲ 백악관 북쪽 전경. 2026년 6월 2일 이곳에서 AI 에이전트를 연방 형사 집행 맥락에 처음 명시한 행정명령이 서명됐다. | Source: Wikimedia Commons (CC BY 3.0)
2

'AI를 이용한 개인'은 누구인가

법이 AI를 도구로 보는 한, 책임은 그 도구를 쓴 사람에게 갑니다. 누군가 생성형 AI에게 "이 시스템에 침입할 코드를 짜 줘"라고 시켜 범행을 도왔다면, 분석은 단순합니다. 한 법학 해설(Just Security)이 짚듯 "이용자가 범죄를 저지르는 데 AI의 도움을 받았다면, 그 이용자의 책임에 대한 법적 분석은 AI가 끼었다는 사실로 본질적으로 달라지지 않습니다." AI는 망치일 뿐, 망치를 휘두른 사람이 책임집니다.

문제는 자율 에이전트입니다. 사람이 "고객사 시스템의 취약점을 점검하라"는 넓은 목표만 주었는데, 에이전트가 스스로 계획을 세우고 권한 밖의 시스템까지 건드렸다면 'AI를 이용한 개인'은 누구일까요. 책임이 향할 수 있는 자리는 여럿입니다.

  • • 설계자(developer) — 에이전트의 행동 경계를 어떻게 설계했는가
  • • 배포자(deployer) — 어떤 권한과 도구를 쥐여 주고 세상에 내보냈는가
  • • 운영자(operator) — 실행 중 감독·차단 장치를 두었는가
  • • 최종 이용자(end user) — 어떤 목표를 입력했고 위험을 예견할 수 있었는가

형사 책임의 무게중심은 고의(mens rea)에 있습니다. 에이전트의 출력은 예측이 어렵기 때문에 "알면서 했다"는 입증이 까다로워 보일 수 있습니다. 그러나 법에는 '의도적 외면(willful blindness)'이라는 기준이 있습니다. 위험을 경고받고도 안전장치를 두지 않았다면, 몰랐다는 항변이 면책이 되지 않습니다. 로펌 퍼킨스 코이는 CFAA 리스크의 핵심으로 에이전트가 어떤 접근 권한을 인가받았는지에 대한 문서화, 스크래핑·브라우징 행위의 사전 검토, 고객 약관의 면책 설계를 꼽습니다. 모두 "예견 가능한 위험을 외면하지 않았다"를 증명하기 위한 장치입니다.

에이전트가 다른 에이전트를 호출하기 시작하면 그림은 더 흐려집니다. A 에이전트의 결정이 B 에이전트의 침입 행위를 유발했다면, 원인은 여러 주체로 번지고 '누가 이용했는가'의 답은 점점 멀어집니다. 책임이 흐려진다는 것은 책임이 사라진다는 뜻이 아니라, 누가 책임자인지를 사후에 가려내야 한다는 뜻입니다. 그리고 그 판단의 재료는 결국 기록입니다.

자율 에이전트 작동 시 책임의 귀속 지점 설계자 (Developer) 배포자 (Deployer) 운영자 (Operator) 최종 이용자 (End User) ? ? ? ? AI 에이전트 자율 실행 무단 시스템 접근 CFAA § 1030 위반 'AI를 이용한 개인'의 범위: 책임은 사후 기록으로 가려진다 | 페블러스 원본 도식
▲ 자율 에이전트가 무단 접근을 실행할 때, 설계자·배포자·운영자·최종 이용자 중 누가 'AI를 이용한 개인'인지는 기록 없이 사후에 가릴 수 없다. | 페블러스 원본 도식
3

로그가 면책이 아니라 방어선인 이유

책임을 사후에 가려야 한다면, 가릴 수 있는 기록이 있느냐가 모든 것을 좌우합니다. 그런데 현실은 그 반대에 가깝습니다. 한 거버넌스 조사에 따르면 법정에서 증거로 쓸 품질의 감사 추적을 유지하는 조직은 33%뿐이고, 61%는 단일 에이전트 상호작용의 인과 사슬조차 재구성할 수 없는 분산된 로그에 의존합니다. 에이전트가 정해진 목적을 벗어나지 못하도록 강제하는 조직은 37%에 그칩니다. 사고가 나면 "무슨 일이 있었는지"를 설명할 기록이 애초에 없는 상태인 것입니다.

여기서 33%라는 숫자를 오해하면 안 됩니다. 로그를 남기는 조직이 그뿐이라는 뜻이 아닙니다. 대부분의 팀은 운영을 위한 로그를 어떤 형태로든 쌓고 있습니다. 다만 그것이 법정에서 증거로 받아들여질 품질, 즉 누가 무엇을 언제 했는지 변형 없이 입증할 수 있는 형태가 아닐 뿐입니다. 운영용 로그와 증거용 로그는 다른 물건이고, 둘의 차이는 평소엔 보이지 않다가 사고가 난 뒤에야 드러납니다. 그때는 이미 늦습니다.

법적 방어가 되려면 로그는 조건을 갖춰야 합니다. 인간의 인가와 연결된 에이전트 신원, 작업 단위의 접근 제어, 그리고 무엇보다 동시적(contemporaneous)·완전(complete)·불변(immutable)한 기록입니다. 핵심은 '동시적'과 '불변'입니다. 사고가 터진 뒤에 짜맞춘 로그는 방어 증거가 아니라 오히려 포렌식 수사의 대상이 됩니다. 행위가 일어나는 순간에 자동으로, 그리고 나중에 손댈 수 없는 형태로 남아야 비로소 변호의 토대가 됩니다.

그래서 단순한 로그를 넘어 '행동 출처 그래프(Action Provenance Graph)'라는 개념이 거론됩니다. 프롬프트에서 계획으로, 도구 호출로, 중간 추론 상태로, 최종 결과로 이어지는 사슬을 구조화해 잇는 기록입니다. 무엇이 무엇을 불렀는지의 인과 경로를 복원해, 사후에 "이 행위는 누구의 어떤 결정에서 비롯됐는가"를 추적할 수 있게 합니다. 데이터 출처 기록이 책임 추적의 기반이 되는 지점입니다.

행동 출처 그래프 (Action Provenance Graph) 프롬프트 사람의 지시 계획 에이전트 생성 도구 호출 외부 시스템 접근 추론 상태 중간 과정 최종 결과 행위 완료 ← 인과 경로 역추적 가능 (책임 귀속의 근거) 동시적·완전·불변 기록이 이 사슬을 보존한다 | 페블러스 원본 도식 (APG 개념 재해석)
▲ 행동 출처 그래프: 프롬프트에서 최종 결과까지 인과 사슬을 보존해 '누가 무엇을 왜 했는지' 사후 추적을 가능하게 한다. | 페블러스 원본 도식 (APG 개념 재해석)

방향이 반대다: 흔한 오해는 "로그가 있으면 무죄"라는 것입니다. 사실은 반대입니다. 로그가 있어도 유죄일 수 있지만, 로그가 없으면 변호 자체가 시작되지 않습니다. 기록은 면책 증서가 아니라, 책임 공방에 들어설 수 있는 입장권입니다. 에이전트의 모든 행위를 추적 가능하게 만드는 일은 규제를 피하기 위해서가 아니라, 규제 앞에 설 수 있기 위해서입니다.

4

에이전트를 운영하는 사람이 지금 할 일

행정명령은 법학 논문이 아니라 운영자에게 보내는 통지입니다. 에이전트를 설계·배포·운영하는 사람이 지금 점검할 것은 복잡하지 않습니다. 인가의 범위를 적어 두었는가. 목적을 벗어나지 못하게 강제하고 있는가. 행위의 순간에 기록이 남는가. 이 세 질문이 사고가 났을 때 책임을 가르는 자리에 그대로 등장합니다.

먼저 인가 문서화입니다. 에이전트가 어떤 시스템·데이터에 접근하도록 허락받았는지를 명시해 두면, 권한 밖의 행위가 발생했을 때 "이건 설계된 경계 밖"이라는 선을 그을 수 있습니다. 다음은 목적 제한의 강제입니다. 63%가 아직 못 하고 있는 일이지만, 에이전트가 주어진 작업 외의 행동으로 번지지 못하게 막는 장치는 '의도적 외면'이라는 혐의를 비껴가게 해 줍니다. 그리고 불변 로그입니다. 사후 재구성은 수사 대상이 되니, 처음부터 변경 불가능한 형태로 동시에 남겨야 합니다.

이것이 미국만의 흐름도 아닙니다. 싱가포르는 2026년 1월 세계 최초로 에이전트 AI 전용 국가 거버넌스 프레임워크를 내놓으며 조직이 에이전트의 행동에 법적 책임을 진다고 못 박았고, EU AI Act 제12조는 고위험 AI 시스템에 이벤트 로깅을 의무화해 2026년 8월 적용을 앞두고 있습니다. NIST의 AI 위험관리 프레임워크 1.1도 같은 방향을 가리킵니다. 관할은 달라도 요구는 하나로 모입니다. 에이전트가 한 일을 설명할 수 있어야 한다는 것입니다.

에이전트 경제에서 신뢰 인프라는 더 똑똑한 모델이 아니라, 그 모델이 무엇을 왜 했는지 되짚을 수 있는 기록입니다. 행동 로그와 데이터 출처 기록은 평소엔 운영 도구처럼 보이지만, 책임을 가리는 순간 법적 생존 조건으로 바뀝니다. 페블러스가 데이터의 출처와 품질을 검증 가능한 상태로 만드는 일에 집중해 온 이유도 여기에 닿습니다. 에이전트에게 무엇을 맡길지 정하기 전에 던질 질문은 하나입니다. 이 에이전트가 선을 넘었을 때, 우리는 무슨 일이 있었는지 증명할 수 있는가.

R

참고문헌

공식 문서

  • 1.White House. (2026, June 2). Executive Order 14409: Promoting Advanced Artificial Intelligence Innovation and Security. whitehouse.gov
  • 2.White House. (2026, June 2). Fact Sheet: President Donald J. Trump Promotes Advanced Artificial Intelligence Innovation and Security. whitehouse.gov

법학 분석

  • 3.Just Security. (2026). Artificial Guilt? A Practitioner's Guide to Criminal Liability in the Age of GenAI. justsecurity.org
  • 4.Perkins Coie. (2026). White House Issues Executive Order Promoting Advanced AI Innovation and Security. perkinscoie.com

업계 분석

  • 5.Kiteworks. (2026). AI Agents Are Now Federal Legal Actors. Are You Ready? kiteworks.com
  • 6.TRM Labs. (2026). Autonomous AI Agents and Financial Crime: Risk, Responsibility, and Accountability. trmlabs.com