Executive Summary
정부가 사람 대신 일을 실행하는 AI를 국가 과제로 올렸다. 과학기술정보통신부는 2026년 7월 23일 제11회 과학기술관계장관회의에서 관계 부처와 함께 마련한 '에이전틱 AI 이니셔티브'를 발표했다. 목표를 주면 스스로 계획을 세우고 외부 도구를 불러 업무를 끝내는 AI를 국가 차원에서 키우겠다는 구상이고, 안전·신뢰 선도와 개방형 실행 기반 조성, 수요 중심 도입 촉진이 세 축이다.
세 축 가운데 기업 실무와 먼저 맞닿는 쪽은 안전·신뢰다. 정부는 개인정보 보호와 권한 관리, 목표 이탈 방지를 담은 '에이전틱 AI 안전·신뢰 가이드라인'을 연내 마련하고, 에이전트의 성능과 안전성을 측정할 데이터셋과 벤치마크 도구를 함께 갖추겠다고 밝혔다. 발표 넉 달이 지난 지금 그 약속이 다 나온 것은 아니다. 보안 한 갈래를 먼저 구체화한 제로트러스트 안내서가 11월 6일 나왔고, 가이드라인 본체는 공개 전이다. 목표 시한인 연말은 아직 남아 있다.
1절부터 3절까지는 정부 발표와 공개 보도에 적힌 사실이다. 4절과 5절은 그 내용을 데이터 품질을 다루는 쪽에서 정리한 이 글의 해석이며, 정부가 확정한 요구 사항이 아니다.
주요 수치
이 정책에 붙은 숫자는 성격이 둘로 나뉜다. 한쪽은 정부가 이미 집행한 돈과 물량이고, 다른 쪽은 아직 나오지 않은 문서다. 뒤쪽이 이 글의 관심사다.
출처: 정책브리핑(2026-07-23), 아주경제(2026-07-30), 디지털데일리(2026-09-03).
180억 원
에이전틱 AI 핵심기술 개발비
1년 6개월 동안 4개 주관기관과 26개 산학연 기관에 투입된다
7,000건 이상
에이전트 검증 데이터셋
공모 당시 5,000건 이상이던 규모가 수행 단계에서 늘었다
10% 이하
R&D가 내건 사람 개입 비율
사람 손을 거의 타지 않고 실세계 업무를 끝내는 것이 과제 목표다
0건
공개된 안전·신뢰 가이드라인
연내 발간 목표이고, 11월 17일까지 본문 공개는 확인되지 않는다
7월 23일 발표에 담긴 것
발표는 제11회 과학기술관계장관회의에서 나왔다. 배경훈 부총리 겸 과학기술정보통신부 장관이 서울 종로구 정부서울청사에서 회의를 주재했고, 안건은 과기정통부가 관계 부처와 합동으로 마련했다. 같은 회의에는 피지컬 AI 항만 전략과 공공 AX 프라이버시 보호 안내서, 정부 주요 AI 프로젝트를 위한 GPU 지원방안도 함께 올랐다. 에이전틱 AI는 그날 상정된 여러 안건 가운데 하나였다.
정부가 쓰는 '에이전틱 AI'라는 말의 범위는 분명하다. 이용자가 제시한 목표에 따라 스스로 계획을 세우고, 외부 시스템과 도구를 활용해 실제 업무를 실행하는 AI다. 대화창에서 답을 돌려주는 데서 끝나지 않고 바깥의 서비스를 호출해 일을 끝낸다는 뜻이다. 과기정통부는 AI 경쟁의 무게가 모델 성능에서 실행 역량과 생태계 확보로 옮겨 가고 있다고 진단하면서, 제조·금융·공공의 산업 기반과 디지털 인프라를 한국의 강점으로 꼽았다. 같은 날 나온 정책브리핑 해설은 AI 모델이 외부 시스템·도구와 연결되어 실제 업무를 수행할 때 비로소 가치를 창출한다고 적었다. 같은 해설은 이니셔티브의 목표를 'AI 글로벌 G3 도약'으로 요약했다.
이니셔티브는 세 전략으로 짜였다. 안전·신뢰를 먼저 세우고, 에이전트를 만들고 유통할 기반을 열고, 수요처가 실제로 쓰게 만든다는 순서다. 각 전략에 붙은 내용은 다음과 같다.
| 전략 | 발표에 적힌 내용 |
|---|---|
| 에이전틱 AI 안전·신뢰 선도 | 개발부터 운영까지 전 주기에 적용할 안전·신뢰 관리 체계 확보, 안전·신뢰 가이드라인 연내 마련, 성능·안전성 평가용 데이터셋·시나리오·벤치마크 도구 구축, 에이전트 신원확인과 책임소재 검토 |
| 개방형 실행 기반 조성 | 생활 밀착형 에이전트 서비스·도구 개발 지원, 신뢰할 수 있는 유통 마켓플레이스 지원, 모델·추론·에이전트·도구를 통합 관리하는 AI OS 핵심기술 개발, 토큰 효율 기반 실행 운영 기술 확보, GPU와 학습 데이터 지원 |
| 수요 중심 도입 촉진 | AI 가치사슬 전반을 묶은 'AI 에이전트 플래그십 프로젝트' 출범, 기업 도입 진단·위험 관리·운영 체계 수립 컨설팅, 스타트업 사업화 지원, ICT 규제샌드박스 실증과 증거 기반 제도 개선 |
▲ 2026년 7월 23일 발표문에 적힌 3대 추진 전략. 출처: 정책브리핑(2026-07-23), 아이티데일리(2026-07-22).
추진 체계는 새로 만들지 않았다. 과기정통부가 4월에 출범시킨 '에이전틱 AI 얼라이언스'를 중심으로 세부 내용을 구체화하고, 기술 변화에 맞춰 계획을 계속 고쳐 나가는 '무빙타깃' 방식으로 가겠다고 밝혔다. 7월 발표 시점에 얼라이언스에는 약 280개 기업이 들어와 있었다. 배경훈 부총리는 "에이전틱 AI는 단순한 기술 혁신을 넘어 일하는 방식과 경제·사회 전반의 변화를 이끄는 새로운 전환점이 될 것"이라고 말했다.
안전·신뢰 축은 세 갈래다
첫째 전략 안에는 성격이 다른 세 가지가 들어 있다. 하나는 규범 문서를 만드는 일, 하나는 성능과 안전을 시험할 도구를 만드는 일, 나머지 하나는 사고가 났을 때 누구 책임인지 가릴 장치를 검토하는 일이다. 발표문에서는 한 줄씩 적혀 있지만 준비 주체도 일정도 서로 다르다.
2.1전 주기 관리 체계와 안전·신뢰 가이드라인
정부는 개발과 배포, 운영에 이르는 전 주기에 적용할 안전·신뢰 관리 체계를 확보하겠다고 했다. 그 결과물이 연내 마련하겠다고 예고한 '에이전틱 AI 안전·신뢰 가이드라인'이다. 담을 위험으로는 개인정보와 민감데이터 보호, AI 권한 관리, 목표 이탈 방지가 꼽혔다. 목표 이탈은 사람이 준 목표에서 에이전트의 행동이 벗어나는 상황을 가리킨다. 세 가지 모두 모델의 답이 맞았는지와는 다른 층위의 문제다. 답은 맞았는데 권한 밖의 자료를 열어 보고 답을 만들었다면, 그 실행은 성능으로는 통과하고 안전으로는 실패한다.
2.2성능·안전·신뢰성 평가 기반
두 번째는 시험 도구 쪽이다. 에이전트의 성능과 안전성을 평가할 데이터셋과 시나리오, 벤치마크 도구를 구축하고 성능·안전성·호환성을 검증할 환경을 지원하겠다는 내용이다. 모델 하나를 놓고 정답률을 매기는 일과는 성격이 다르다. 에이전트는 계획을 세우고 도구를 순서대로 부르며 중간에 판단을 바꾼다. 측정은 무엇을 점수로 매길지 정한 다음 문제다.
2.3신원확인과 책임소재
세 번째는 아직 검토 단계로 적혔다. AI 에이전트의 행위 책임을 명확히 하기 위해 신원확인 방안과 책임소재를 얼라이언스 중심으로 살펴보겠다는 수준이다. 사람이 아닌 주체가 외부 서비스에 접속해 거래를 일으킬 때 그 주체를 어떻게 식별하고 누구에게 책임을 물을지는, 기술 문제이기 전에 제도 문제다. 발표문은 결론 대신 검토 주체만 지목했다.
얼라이언스 안전·신뢰 분과를 맡은 최대선 숭실대 AI안전성연구센터장은 출범 당시 "에이전틱 AI 시대에 위험의 중심이 정보에서 실행으로 이동했다"고 말했다. 정보가 새는 사고는 무엇이 유출됐는지를 따지면 되지만, 실행이 어긋난 사고는 무엇을 했는지를 복원해야 따질 수 있다. 평가 기반이 데이터셋과 벤치마크로 시작하는 이유가 여기에 있다.
발표 뒤 넉 달, 움직인 것과 멈춰 있는 것
이 정책의 과제 가운데 일부는 7월 발표보다 먼저 시작됐다. 얼라이언스는 4월 1일 서울 양재 엘타워에서 출범했다. 250여 개 기업·기관이 모였고 산업, 기술, 생태계, 안전·신뢰 네 분과로 나뉘었다. 안전·신뢰 분과는 한국정보통신기술협회와 인공지능안전연구소가 운영을 지원한다. 출범식 보도에서는 이 분과에 참여 의사를 밝힌 기업이 42곳으로 전해졌고, 며칠 뒤 공개된 분과 명단에는 16개 기업이 올랐다. 최대선 분과장은 참여 기업의 의견을 모아 공동 기준과 표준화된 사례를 확보하겠다고 밝혔다. 같은 명단에서 기술 분과는 105곳, 산업 분과는 93곳, 생태계 분과는 44곳이었다. 3대 전략의 첫 자리에 놓인 축인데, 참여 기업 수는 네 분과 가운데 가장 적다.
검증에 닿는 일은 이 분과에만 있지 않다. 기술 분과는 MCP와 A2A 같은 상호운용성 표준과 프로토콜을 분석하고, 생태계 분과는 에이전트 마켓플레이스의 운영과 활성화를 맡았다. 얼라이언스는 12월까지 네 분과를 운영하며 제도와 기술, 표준 과제를 발굴하겠다고 밝혔다. 분과가 과제를 추리는 기간과 가이드라인 목표 시한이 같은 해 안에 겹쳐 있다.
평가 기반도 마찬가지다. 과기정통부와 한국지능정보사회진흥원은 5월에 'AI 에이전트 안전·신뢰성 검증 체계 지원' 사업을 공고했다. 정부출연금 18억 원에 협약 체결일부터 12월 31일까지가 기간이고, 과제는 성능 평가 프레임워크와 성능 벤치마크 도구, MCP 안전·신뢰 검증 세 축이다. 공고에 적힌 설계를 보면 무엇을 재려는지가 드러난다. 프레임워크는 에이전트의 자율 계획과 도구 호출, 다단계 실행 과정을 정량적으로 측정하는 체계로 잡혔고 과업 성공률과 도구 호출 정확도, 실행 효율성이 평가 항목에 들어갔다. 벤치마크 도구는 다단계 추론 시나리오와 검증 데이터셋 5,000건 이상을 갖추고, 규칙 기반 자동 채점에 논리적 타당성 평가를 더한 하이브리드 방식으로 점수를 매기기로 했다. MCP는 에이전트가 외부 도구에 연결될 때 쓰는 규격으로, 표준 적합성과 상호운용성, 인증·인가 같은 항목을 검증 대상으로 잡았다. 선정 기관은 사업이 끝난 뒤에도 결과물을 최소 5년간 유지·운영해야 한다.
수행 컨소시엄은 9월에 확정됐다. 크라우드웍스와 슈어소프트테크, 한국과학기술원, 한국인공지능산업협회가 함께 맡았다. 공고 때 5,000건 이상이던 검증 데이터셋은 수행 단계에서 7,000건 이상으로 늘었고, 예약 가능 시간이나 가격처럼 실시간으로 바뀌는 데이터까지 시나리오에 넣기로 했다. 채점에서 공고의 설계가 더 분명해졌다. 최종 답이 맞았는지만 보지 않고, 에이전트가 세운 계획과 도구를 부른 순서, 중간 판단의 논리적 타당성까지 평가한다.
기술 개발 쪽은 발표 일주일 뒤에 움직였다. 7월 30일 과기정통부와 정보통신기획평가원은 '실세계 능동 행동형 에이전틱 AI 기술개발' 사업 착수보고회를 열었다. 1년 6개월 동안 180억 원을 투입하고 2027년 말 단계평가를 거친다. 주관기관은 엔씨AI와 메디컬파크, 심심이, 브이이엔지 네 곳이고 산학연 26개 기관이 함께한다. 엔씨AI는 기업의 ERP와 메일, 캘린더를 스스로 다루는 업무 동료를, 브이이엔지는 MCP 기반 멀티에이전트 협업 시뮬레이터를 맡았다. 사업이 내건 지향점은 사람 개입 10% 이하다.
규범 문서 쪽은 속도가 다르다. 9월 보도에 따르면 개인정보보호위원회는 개인정보 처리 안내서를, 과기정통부는 안전·신뢰 가이드라인을 각각 연내 내놓을 계획이었고, 그 시점까지 두 문서의 최종 기준은 제시되지 않았다. 두 부처가 서로 다른 문서를 준비한다는 점은 기업 입장에서 중요하다. 참고할 문서가 하나가 아니다.
가장 최근 신호는 11월 6일에 나왔다. 과기정통부와 한국인터넷진흥원이 '에이전틱 AI 제로트러스트 안내서'를 발간했다. 기존 '제로트러스트 가이드라인 2.0'의 4단계 보안 성숙도 모델을 에이전틱 AI 환경으로 확장한 문서로, 프롬프트 오염과 위임된 권한을 넘어선 자율 행동을 대응 대상으로 잡았다. 적용 지점은 구체적이다. 입력 처리와 도구 호출, 작업 위임, 외부 통신처럼 에이전트의 자율 행위가 일어나는 지점마다 검증 절차와 보안 정책을 적용하고, 위험 수준에 따라 사람의 승인을 받거나 사전 승인된 정책에 따라 자동으로 수행하게 한다. 기업이 스스로 보안 수준을 진단할 성숙도 단계별 실무 기준도 함께 실렸다.
| 시점 | 무슨 일이 있었나 | 상태 |
|---|---|---|
| 4월 1일 | 에이전틱 AI 얼라이언스 출범, 네 분과 구성 | 가동 중 |
| 5월 | NIA, AI 에이전트 안전·신뢰성 검증 체계 사업 공고(18억 원) | 연말까지 구축 |
| 7월 23일 | 제11회 과학기술관계장관회의, 에이전틱 AI 이니셔티브 발표 | 기준점 |
| 7월 30일 | 실세계 능동 행동형 에이전틱 AI 기술개발 착수(180억 원) | 집행 중 |
| 9월 | 검증 체계 수행 컨소시엄 확정, 데이터셋 7,000건 이상으로 확대 | 구축 중 |
| 9월 | 개인정보위 안내서와 과기정통부 가이드라인, 연내 발간 계획 보도 | 준비 중 |
| 11월 6일 | 에이전틱 AI 제로트러스트 안내서 발간(과기정통부·KISA) | 공개 완료 |
| 11월 17일 | 안전·신뢰 가이드라인 본문, 평가 기반 결과물 공개 | 확인되지 않음 |
▲ 공개 자료와 보도를 시점순으로 정리했다. 출처: 전자신문·머니투데이(2026-04-01), ZDNet Korea(2026-05-11), 정책브리핑(2026-07-23), 아주경제(2026-07-30), 디지털데일리(2026-09-03·2026-11-06), 이포커스(2026-09).
표를 한 줄로 줄이면 이렇다. 돈이 드는 일은 먼저 움직였고, 기준을 적는 일은 아직 진행 중이다. 가이드라인이 11월까지 나오지 않았다는 사실을 지연이나 실패로 읽을 근거는 없다. 애초 약속한 시한이 연내였고 그 시한은 남아 있다. 다만 에이전트를 올해 안에 업무에 넣으려는 기업이라면, 참고할 공식 문서가 지금 손에 쥔 제로트러스트 안내서 한 건뿐이라는 상태에서 판단해야 한다.
평가 기반이 기업에 내려오면 무엇을 묻나
여기부터는 정부 발표에 없는 내용이다. 제로트러스트 안내서는 자율 행위가 일어나는 자리마다 검증하라고 했고, 검증 체계 사업은 계획과 도구 호출 순서까지 채점하겠다고 했다. 공개된 그 방향을 기업 현장의 언어로 옮기면 어떤 질문이 될지, 데이터를 다루는 쪽에서 미리 적어 본 것이 아래 네 가지다. 공식 요구 사항으로 확정된 항목이 아니라 준비 점검표로 읽는 편이 맞다.
▲ 자율 행위 지점은 과기정통부·KISA 제로트러스트 안내서(2026-11-06)의 적용 지점을 따랐다.
4.1작업이 끝났는지, 멈췄는지, 넘어갔는지
에이전트의 업무 결과는 성공과 실패 둘로 갈리지 않는다. 맡은 일을 끝낸 경우, 권한이 모자라거나 지시가 모호하거나 외부 API가 응답하지 않아 중간에 멈춘 경우, 판단을 사람에게 넘긴 경우가 다르다. 세 상태를 구분하지 않고 기록하면 나중에 "열 건 중 일곱 건 성공"이라는 숫자만 남고, 실패한 세 건이 왜 그랬는지는 사라진다. 보류와 인계는 사고가 아니라 설계대로 작동한 결과일 때가 많다. 그 차이를 남기는 것이 평가의 출발점이다.
4.2그 작업에 쓴 권한이 위임한 범위 안이었는가
제로트러스트 안내서가 대응 대상으로 꼽은 것 가운데 하나가 위임된 권한을 넘어선 자율 행동이다. 이 항목은 사전에 권한을 좁히는 일만으로 끝나지 않는다. 좁혀 둔 범위 안에서 실제로 움직였는지를 사후에 확인할 수 있어야 점검이 성립한다. 접근 권한 설정표는 있는데 그 권한이 언제 어떻게 쓰였는지가 남지 않는 조직이 흔하다. 설정은 의도이고 로그는 사실이다.
4.3그 도구를 부른 근거가 남는가
안내서가 적용 지점으로 지목한 네 곳은 입력 처리와 도구 호출, 작업 위임, 외부 통신이다. 지점마다 검증한다는 말을 기록 쪽에서 뒤집으면, 그 네 곳마다 무엇을 근거로 그렇게 했는지가 남아야 한다는 뜻이 된다. 검증 체계 사업이 계획과 도구 호출 순서, 중간 판단의 타당성을 채점하겠다고 한 것도 같은 방향이다. 점수를 매기려면 채점할 대상이 먼저 남아 있어야 한다.
4.4모델이나 도구가 바뀐 뒤 다시 시험했는가
에이전트는 구성품이 자주 바뀐다. 쓰는 모델을 올리거나, 연결된 MCP 서버를 교체하거나, 프롬프트를 고치는 일이 운영 중에 일어난다. 그때 이전에 통과했던 성능과 안전 시험은 그대로 유효하지 않다. 검증 데이터셋을 수천 건 규모로 쌓는 이유도 한 번 재고 끝내기 위해서가 아니라 같은 조건으로 다시 재기 위해서다. 조직 안에서는 이 재시험을 누가 언제 돌리는지가 정해져 있는지부터 확인할 문제다.
네 항목에 공통된 것은 기록이다. 작업 상태도, 권한 사용도, 호출 근거도, 재시험 이력도 그 순간에 남기지 않으면 나중에 복원할 방법이 없다. 평가 기반이 완성되어 기업에 적용될 때 요구되는 것은 좋은 모델을 골랐다는 증명이 아니라, 그 모델이 무슨 일을 어떻게 했는지에 대한 자료일 가능성이 높다.
페블러스가 이 흐름을 주목하는 이유
에이전트 이야기는 대체로 무엇을 할 수 있느냐에 몰려 있다. 어떤 모델을 쓰는지, 도구를 몇 개 붙였는지, 사람 손을 얼마나 덜었는지. 그런데 이번 정책이 겨냥한 자리는 능력이 아니라 입증이다. 검증 체계 사업이 최종 답 대신 계획과 호출 순서를 채점하겠다고 한 대목, 제로트러스트 안내서가 자율 행위 지점에 검증 절차를 두라고 한 대목이 같은 곳을 가리킨다. 잘 작동한다는 주장이 아니라 그 주장을 뒷받침할 자료를 요구한다는 뜻이다.
데이터 품질을 다뤄 온 조직이라면 이 요구가 낯설지 않다. 완전성과 일관성, 신뢰성은 모두 데이터가 남아 있다는 전제 위에 선다. 에이전트 평가에도 같은 전제가 깔린다. 남지 않은 실행은 좋았는지 나빴는지 판정할 대상이 되지 못한다. 성능 지표가 아무리 정교해져도, 채점할 실행 기록이 없으면 지표는 빈칸을 채점하는 꼴이 된다.
페블러스는 이 정책의 어느 사업에도 참여하고 있지 않고, 여기서 정리한 점검 항목은 정부 기준으로 채택된 것이 아니다. 데이터를 다루는 회사가 공개된 발표 문서를 읽고 정리한 제안이다. 그래도 방향은 분명해 보인다. 올해 안에 어떤 모양의 가이드라인이 나오든, 그 문서가 기업에 물을 첫 질문은 에이전트가 무엇을 했는지 꺼내 보일 수 있느냐가 될 것이다.
그래서 남는 점검은 정부 일정보다 조직 안쪽에 있다. 지금 업무에 투입된 에이전트가 지난달에 처리한 일 가운데 사람에게 넘긴 건이 몇 건인지, 그 가운데 권한이 모자라 멈춘 건은 몇 건인지 목록으로 뽑을 수 있는가. 뽑을 수 없다면, 기준 문서가 나오기 전에 먼저 할 일이 생긴 셈이다.
참고문헌
정부 발표·공식 자료
- 1.과학기술정보통신부. (2026). "[보도참고] 실행 중심의 에이전틱 AI 생태계 선점 본격 추진." 2026-07-23.
- 2.관계부처 합동. (2026). "제11회 과학기술관계장관회의 보도자료 세트(에이전틱 AI 이니셔티브 포함)." 2026-07-23.
- 3.정책브리핑. (2026). "정부, '에이전틱 AI' 생태계 선점 나선다…AI 글로벌 G3 도약." 2026-07-23.
발표 당일 보도
- 4.아이티데일리. (2026). "정부, '에이전틱 AI 이니셔티브' 발표…안전·실행·수요 3대 전략 제시." 2026-07-22.
- 5.ZDNet Korea. (2026). "정부, '일하는 AI' 생태계 만든다…"안전 기준·산업 실증 구체화"." 2026-07-22.
- 6.아시아경제. (2026). "정부, AI 생태계 선점 위한 '에이전틱 AI 이니셔티브' 발표." 2026-07-22.
후속 집행과 안전·신뢰 체계
- 7.전자신문. (2026). "'에이전틱 AI 얼라이언스' 출범…산·학·연·관 협력 강화." 2026-04-01.
- 8.아이티데일리. (2026). "'에이전틱 AI 얼라이언스' 분과 살펴보니…"수요 발굴·기술 표준·생태계 조성·안전 확보"."
- 9.머니투데이방송. (2026). "'에이전틱AI 얼라이언스' 명단 보니…통신·플랫폼·보안 총집결." 2026-04-05.
- 10.ZDNet Korea. (2026). "검증 모델 부족해 확산 제약…정부, AI 에이전트·MCP 안전망 만든다." 2026-05-11.
- 11.디지털데일리. (2026). ""AI가 예약·결제 잘못하면 어쩌나"…크라우드웍스 '실행 과정' 검증한다." 2026-09-03.
- 12.아주경제. (2026). "과기정통부·IITP, 에이전틱 AI 핵심기술 개발 착수…180억원 투입." 2026-07-30.
- 13.이포커스. (2026). "에이전틱 AI 지침 두 갈래…개인정보와 안전 기준 연내 마련."
- 14.디지털데일리. (2026). "'AI 에이전트, 믿지 말고 검증'…정부, 제로트러스트 안내서 발간." 2026-11-06.
- 15.보안뉴스. (2026). "제로트러스트 기반 AI 에이전트 업무 환경 이렇게 구축… 과기정통부 안내서 발간." 2026-11-06.