Executive Summary
미국 중앙은행이 AI 에이전트가 이미 남의 계좌 안에서 움직이고 있다는 사실을 공개 기록에 올렸다. 연방준비제도 마이클 바 이사가 2026년 11월 16일 밀라노에서 열린 금융 AI 학회에서 한 연설이다. 그는 개인 고객의 계좌에서 무언가를 하려 하는 AI 에이전트를 대형 은행들이 보고하고 있다고 말하면서, 거기에 단서를 하나 붙였다. 그 에이전트가 진짜인지, 고객이 동의했는지, 고객이 내린 지시와 맞는지를 은행이 확인하지 못한다는 것이다.
바 이사는 이 상태가 그대로 가면 예금이 빠져나가는 속도가 달라진다고 봤다. 이체를 사람이 실행하던 단계까지 에이전트가 맡으면, 금리 차이를 알아차린 즉시 스스로 자금을 옮길 수 있고, 그렇게 빨라진 예금 인출 앞에서는 은행의 유동성 관리도 감독 당국의 개입도 제때 움직이지 못한다는 것이다. 계좌에서 에이전트가 포착된다는 것은 은행들이 이미 보고한 사실이고, 몇 분 만에 끝나는 인출은 아직 일어나지 않은 경고다. 같은 연설의 다른 곳에는 AI 기업들의 부채 수치가 함께 들어 있다.
1절부터 4절까지는 연설문에 남은 사실이다. 5절은 페블러스의 해석이다. 위임의 기록이 비어 있다는 쪽에서 이 경고를 본다.
주요 수치
연설이 꺼낸 숫자는 성격이 둘로 갈린다. 하나는 아직 일어나지 않은 장면의 속도이고, 나머지 둘은 이미 쌓인 빚이다.
출처: 연방준비제도 — Governor Michael S. Barr, "Some Potential Financial Stability Implications of Artificial Intelligence" (2026.11.16, 밀라노).
몇 분
예금 인출 사태가 압축될 수 있는 시간
에이전트가 신호를 감지해 자율로 자금을 옮길 경우를 가정한 경고다. 실제로 일어난 사건으로 제시된 것이 아니다
8,000억 달러
가장 큰 AI 기업 일곱 곳의 장부상 부채
2026년 들어 크게 늘어 연말 전에 이 선을 넘을 것으로 봤다. 연설문은 일곱 곳의 이름을 밝히지 않았다
3조 달러
장부 밖 채무의 명목 최대치
연준 금융안정보고서 추정이고, 연설은 '잠재적 명목 최대치'라는 말을 붙였다. 장부상 부채와 같은 잣대로 잴 수 있는 수치가 아니다
중앙은행이 공개 기록에 남긴 한 문장
연설 제목은 "Some Potential Financial Stability Implications of Artificial Intelligence"이고, 자리는 국제컴퓨터학회가 여는 제7회 금융 AI 학회였다. 본문은 여섯 묶음으로 나뉜다. AI 투자 붐, 데이터센터 건설의 레버리지, 도매 증권거래에서 AI가 낳는 의도치 않은 결과, 시장 쏠림과 그것이 부를 수 있는 폭주, AI와 사이버 위험, 그리고 소비자 금융이다. 이 글이 붙잡는 곳은 마지막 묶음이다.
그 묶음은 좋은 쪽부터 적는다. 집세 납부 기록이나 공과금, 고용 이력 같은 대체 자료를 쓰면 신용 이력이 얇아 심사에서 밀리던 사람들에게 길이 열릴 수 있다. 그런데 위험을 짚는 대목에서 걸리는 것도 같은 자료다. 그 대체 자료가 인종이나 출신 국적처럼 차별이 금지된 속성의 대리 노릇을 하게 될 수 있고, 불완전하거나 치우친 자료에 기대어 부정확한 정보를 만들어 낼 수 있다고 그는 적었다. 투자 권유가 고객의 사정과 목표만이 아니라 회사의 이해까지 따라갈 수 있다는 경고도 같은 자리에 있다. 이 묶음의 위험 목록은 처음부터 자료를 가리킨다.
그 자료 이야기 뒤에 은행들이 이미 보고하고 있는 장면이 한 문장으로 나온다.
"Major banks now report finding AI agents attempting to take actions in retail customer accounts, without the bank being able to verify authenticity, consent, and alignment with customer instructions."
대형 은행들이 소매 고객 계좌에서 무언가를 하려는 AI 에이전트를 발견하고 있다고 보고하는데, 은행은 그 진위와 동의와 고객 지시와의 일치를 확인할 수 없다는 뜻이다.
이 문장에서 무게가 실린 낱말은 "now report finding"이다. 언젠가 벌어질 수 있는 일을 내다본 구절이었다면 시제가 달랐다. 은행들이 이미 겪고 보고하는 중이라는 말이다. 발견 대상은 기업 계좌가 아니라 소매 고객 계좌, 그러니까 개인의 계좌다. 그리고 동사는 "attempting"이다. 일이 끝까지 진행됐다는 말은 들어 있지 않다. 은행이 본 것은 시도의 흔적이다.
바 이사는 이어서 무엇이 갖춰져야 하는지도 덧붙였다. 금융에서 AI가 오래 가려면 적절한 안전장치가 필요하다면서 네 가지를 꼽았다. 엄격한 인증, 특정 행동에 대한 명시적 동의 확인, 에이전트가 할 수 있는 일을 제한하는 기술적 통제, 그리고 규칙과 가치 양쪽에 기반한 제약이다. 네 가지를 갖춰야 한다는 말은 지금 그 넷이 비어 있다는 말이기도 하다.
비슷한 장면이 다른 업종에서 먼저 문서가 됐다. 유나이티드항공은 지난 11월 11일 운송약관을 고쳐 승인받지 않은 개인용 AI 비서의 항공권 예약과 발권을 금지했다(관련 글). 다만 그것은 한 회사가 자기 약관에 적은 선이었다. 이번에는 통화정책과 은행 감독을 맡는 중앙은행의 이사가, 은행 시스템 전체를 두고 같은 공백을 공개 연설에 적었다.
세 가지 물음에 답할 자료가 없다
바 이사가 한 문장에 나란히 세운 세 낱말은 진위(authenticity)와 동의(consent)와 일치(alignment)다. 국내 보도는 대체로 셋을 한 덩어리로 묶어 전했지만, 각각은 다른 물음이고 각각 다른 자료를 요구한다.
첫째, 진위는 이 요청을 보낸 프로그램이 정말 그 고객이 쓰는 비서가 맞느냐를 묻는다. 지금 은행 서버 앞에서 사람과 프로그램은 같은 모양으로 들어온다. 아이디와 비밀번호를 넘겨받은 비서는 로그인 화면에서 고객과 구별되지 않는다. 계정 정보 하나를 건네는 순간 그 계정으로 할 수 있는 모든 일이 함께 건너간다.
둘째, 동의는 고객이 이 행동에 동의했느냐를 묻는다. 바 이사가 네 가지 안전장치에 "특정 행동에 대한"이라는 한정어를 붙인 까닭이 여기에 있다. 가입할 때 한 번 눌러 둔 포괄 승낙으로는 오늘 오후에 일어난 이체 한 건을 설명하지 못한다. 동의를 계정에 걸어 둔 상태가 아니라 행동마다 일어나는 사건으로 남겨야 답이 생기는 물음이다.
셋째, 일치는 그 행동이 고객이 시킨 범위 안이냐를 묻는다. "여윳돈을 금리 높은 쪽으로 옮겨 줘"와 "오늘 잔액 전부를 다른 은행으로 보내라"는 다른 지시다. 앞의 말을 들은 비서가 뒤의 일을 했다면 그것은 인증이 뚫린 것도 아니고 동의가 없던 것도 아니다. 위임의 범위가 어디까지였는지를 적어 둔 자료가 없어서 가려낼 수 없는 경우다.
셋을 나란히 놓으면 공통점이 보인다. 어느 것도 모델의 성능을 묻지 않는다. 비서가 금리를 더 잘 비교하게 되어도, 계산을 더 정확히 하게 되어도 이 세 칸은 채워지지 않는다. 은행 서버에 도착하는 요청에 그 정보가 실려 오지 않기 때문이다.
규제가 개입할 시간이 먼저 사라진다
같은 묶음에서 바 이사는 그다음 장면을 그렸다. 위기가 닥쳤을 때 은행에 남는 시간이 짧아진다.
"AI agents may accelerate deposit outflows during stress periods. Where customers once needed to execute transfers, AI agents could instantaneously detect yield differentials or stability signals and autonomously move funds at high speed, potentially accelerating runs that unfold in minutes, overwhelming traditional liquidity management and regulatory intervention timelines."
위기 국면에서 AI 에이전트가 예금 유출을 가속할 수 있다는 것이다. 예전에는 고객이 직접 이체를 실행해야 했지만, 에이전트는 금리 차이나 안정성 신호를 즉시 감지해 자율로 빠르게 자금을 옮길 수 있고, 그러면 몇 분 만에 전개되는 인출 사태가 빨라져 전통적인 유동성 관리와 규제 개입의 시간표를 압도할 수 있다고 했다.
이 문장은 공포의 크기를 키우지 않는다. 줄이는 것은 대응할 시간의 길이다. 예금이 휴대전화로 빠져나간 근래의 사례들에서도 누군가는 앱을 열고 금액을 넣고 버튼을 눌러야 했다. 사람이 소식을 듣고 판단하고 손을 움직이는 그 간격이 은행과 감독 당국에 주어진 시간이었다. 바 이사가 지운 것은 그 간격이다.
달라진 자리는 두 군데다. 신호를 알아차리는 단계와 자금을 옮기는 단계다.
연설문도 둘을 갈라 적었다. 앞 단계는 금리 차이나 안정성 신호를 즉시 감지하는 일이고, 뒷 단계는 자율로 빠르게 자금을 옮기는 일이다. 몇 분이라는 말은 두 단계가 함께 자동이 될 때만 성립한다. 알아차리는 쪽만 자동이면 사람이 버튼을 누를 때까지 기다려야 하고, 옮기는 쪽만 자동이면 누군가 먼저 신호를 읽어 줘야 한다. 둘 중 한쪽에 사람이 남아 있는 동안은 은행이 쓸 시간도 남는다.
| 단계 | 예전 | 바 이사가 말한 지금 |
|---|---|---|
| 신호를 알아차리기 | 고객이 금리와 소식을 직접 살핀다 | 에이전트가 즉시 감지한다 |
| 자금을 옮기기 | 고객이 이체를 실행해야 했다 | 에이전트가 자율로 빠르게 옮긴다 |
▲ 페블러스 원본 정리. '예전' 칸의 아래 줄이 연설문의 "customers once needed to execute transfers"이고, 위 줄은 그 문장이 전제하는 상태를 풀어 적은 것이다. '지금' 칸은 그 뒤에 이어지는 구절이다.
한 가지는 분명히 갈라 둘 필요가 있다. 1절의 내용은 은행들이 보고한 일이다. 이 절의 인출 사태는 거기서 뻗어 나온 가정이다. 바 이사가 쓴 조동사도 "may"와 "could"이고, 몇 분 만에 끝난 인출 사태가 어디서 일어났다는 말은 연설문에 없다.
같은 연설의 몸통은 AI 투자 붐의 빚이다
계좌 속 에이전트 이야기는 연설의 한 대목일 뿐이다. 분량으로 보면 AI 투자 붐의 재무 구조에 더 많은 자리가 갔고, 국내외 보도가 헤드라인으로 뽑은 것도 대개 그쪽이다. 두 이야기가 같은 연설에 들어 있다는 점이 이 글에서는 중요하다.
장부에 적힌 것부터 보면, 가장 큰 AI 기업 일곱 곳의 빚이 2026년 들어 크게 늘었고 연말 전에 8,000억 달러를 넘을 것으로 봤다. 일곱 곳이 어디인지는 연설문에 적혀 있지 않다. 하이퍼스케일러 다섯 곳과 칩 회사 둘을 묶은 집계가 보도를 통해 돌지만, 그 명단은 연설이 아니라 보도가 붙인 것이다.
장부에 적히지 않은 것이 더 크다. 연준 금융안정보고서는 이런 성격의 채무, 그러니까 장부 밖 부채의 잠재적 명목 최대치가 지금 3조 달러를 넘는다고 추정한다. 다만 명목 최대치라는 말이 붙어 있다. 할인 전 금액이고 조건이 붙은 약정도 섞여 있어, 앞의 8,000억 달러와 같은 잣대로 재서 더하면 과장이 된다.
보고서가 이 숫자들을 놓는 자리도 적혀 있다. 하이퍼스케일러들이 2020년 이후 쌓은 누적 설비투자와 채권 발행을, 1995년에 시작된 광대역 투자 사이클 동안 통신 업계 전체가 한 것과 견준다. 그 비교가 무엇을 떠올리게 하려는 것인지는 굳이 풀어 쓰지 않아도 읽힌다.
그렇다고 연설이 AI를 비관하는 쪽에 서 있지는 않다. 바 이사는 소비자 금융에서 AI의 역할이 커질 것이라고 먼저 말했고, 거래나 시장 인프라에 새 기술을 넣기 전에 위험과 함의를 먼저 생각해 보자는 쪽으로 논지를 몰았다. 그가 붙인 조건은 이렇다. 기술이 아직 충분히 이해되지 않았고 그 발전이 우리의 이해보다 앞서 달리고 있다면 어느 정도의 신중함은 정당하다는 것이다. 이해가 따라붙을 때까지 안전장치를 먼저 깔아 두자는 쪽에 가까운 말이다.
페블러스가 이 연설에 주목하는 이유
이 연설이 금융 감독의 사건으로만 읽히면 아까운 대목이 하나 있다. 바 이사가 꼽은 세 가지는 전부 모델이 아니라 기록을 묻는다. 진위는 요청을 보낸 주체가 적혀 있느냐를, 동의는 그 행동이 승낙된 시점이 남아 있느냐를, 일치는 고객이 맡긴 범위가 어디까지인지가 적혀 있느냐를 묻는다. 은행이 확인하지 못하는 이유는 판단을 못 해서가 아니라 판단할 자료가 도착하지 않아서다.
지금 대부분의 서비스 로그에서 사람의 요청과 대리 프로그램의 요청은 같은 모양으로 쌓인다. 로그인한 계정, 접속한 시각, 바뀐 잔액이 남고, 그 줄을 누가 쓰게 했는지는 남지 않는다. 그런 로그 위에서는 사후 검증이 성립하지 않는다. 사고가 나도 고객의 지시였는지 비서의 폭주였는지를 가릴 근거가 없고, 가릴 수 없으면 책임을 나눌 수도 없다.
기록이 비면 선택지는 둘로 줄어든다. 전부 막거나 전부 허용하거나다. 항공사들이 최근 몇 주 동안 보여 준 모습이 그 둘 사이의 흔들림이었다. 은행이 같은 자리에 서면 흔들림의 비용이 더 커진다. 전부 막으면 고객이 쓰기 시작한 비서를 쓰지 못하게 되고, 전부 허용하면 바 이사가 그린 몇 분이 현실이 되는 쪽으로 한 발 더 간다. 세 번째 길은 기록을 채우는 쪽에만 있다.
데이터를 다루는 쪽에서 당장 손댈 수 있는 자리도 거기다. 요청이 사람에게서 왔는지 대리 프로그램에게서 왔는지를 한 칸으로 구분해 적고, 대리라면 누구를 대신한 것인지와 그 위임이 어디까지인지를 같이 남기는 일이다. 동의를 계정 설정의 상태값이 아니라 행동마다 찍히는 사건으로 쌓는 일이다. 데이터를 깨끗하게 정리해 두는 일과, 그 데이터에 누가 어떤 자격으로 손을 댔는지를 적어 두는 일은 다른 작업이다. 뒤쪽을 미뤄 둔 조직에서는 앞쪽을 아무리 잘해도 사후에 답할 수 있는 질문이 늘지 않는다.
내 AI 비서가 내 돈을 옮겼을 때, 그게 나였다는 증거는 어디에 남는가. 지금 이 물음을 들고 거래 내역을 열면 돌아오는 것은 로그 한 줄이다. 그 줄에는 언제 얼마가 어디로 갔는지가 적혀 있고, 누가 시켰는지는 적혀 있지 않다.
참고문헌
- 1.Barr, M. S. (2026). "Some Potential Financial Stability Implications of Artificial Intelligence." 7th ACM International Conference on AI in Finance (ICAIF), Milan. Board of Governors of the Federal Reserve System.
- 2.Board of Governors of the Federal Reserve System. (2026). "Financial Stability Report." November 2026.
- 3.Richter, W. (2026). "Top 10 Risks of the AI Boom to Financial Stability, According to Fed Governor Barr." Wolf Street.