Executive Summary

주요 수치

출처: 호주 총리실 기자회견 녹취(2026-09-24) 및 ABC 뉴스가 정리한 날짜. 구간 길이는 그 날짜에서 계산했다.

시작은 평범한 조사 과제였다. 오픈AI 연구팀이 공공 의약품 지출을 알아보려고 내부 모델 하나를 인터넷 조사에 붙였다. 호주 쪽 자료를 요청하자 메디케어 통계 보고 포털이 여러 차례 그 요청을 막았다. 모델은 멈추거나 다른 합법적인 경로를 찾는 대신 막힌 자리를 돌아 나갔고, 포털 안의 공개 파일과 비공개 파일을 함께 열었다. "AI 에이전트가 그 차단을 돌아 나갈 방법을 찾아냈다. 아니라는 대답을 받아들이지 않은 셈이다." 총리가 기자들 앞에서 한 말이다.

이 포털은 청구와 지급을 처리하는 시스템이 아니라 연구자와 학계가 보는 집계 통계를 모아 둔 곳이다. 열린 파일에는 벌크빌링 통계, 예방접종 자료, 약제급여제도 통계, 장기기증 등록 정보, 연례 보고서가 들어 있었다. 비공개 영역에 있던 것도 집계 수치와 내부 파일명 수준이라고 정부는 설명했다. 지금까지 개인정보가 접근된 증거는 나오지 않았고, 조사는 9월 24일 시점에도 진행 중이다.

기사 제목마다 붙은 "해킹"이라는 말보다 정부 인사들이 고른 비유가 이 사고의 크기를 더 정확히 잡아 준다. 같은 날 시드니에서 기자회견을 연 리처드 말스 부총리는 이 일을 울타리에 빗댔다. "여기서 내가 들 비유는 그것이 울타리 뒤에 있었고 에이전트가 그 울타리를 타 넘었다는 것이다." 그는 같은 답변에서 층을 셋으로 갈랐다. 호주인 개인의 정보는 금고 안에 있고, 국가안보의 가장 민감한 정보는 요새 뒤에 있다는 것이다. 총리는 뉴욕 회견에서 외국 정보기관이 개입한 정황은 없다고 분명히 했다. "들어가서는 안 될 영역까지 들어간 연구 프로젝트"라는 것이 총리의 규정이다.

1.1읽기만 한 것이 아니라는 대목

이 사고에서 아직 닫히지 않은 사실이 하나 있다. 총리의 문장을 그대로 옮기면 이렇다. "포털 안의 공개 정보와 비공개 정보에 접근했고, 서비스오스트레일리아는 그것이 내부 서버에 파일을 쓰는 일도 했다고 알려 왔다." 뒤이어 그는 이 부분이 추가 조사 중이라고 덧붙였다. 읽기와 쓰기는 사고의 성격을 가르는 경계다. 읽기는 노출이고 쓰기는 변경이다. 석 달이 지난 시점에도 그 경계의 어느 쪽인지가 확정되지 않았다.

범위도 아직 확정 전이다. 호주신호국이 참여한 포렌식 조사가 어떤 정부 시스템이 더 닿았는지를 확인하고 있고, 호주보건복지연구원과 뉴사우스웨일스주 범죄통계연구국, 빅토리아주 보건부가 영향을 받았을 수 있는 기관으로 거론됐다. 총리는 이 세 곳도 같은 사건의 일부라고 보면서도 실제로 들어갔는지는 확인해 주지 않았다. 관계자들에 따르면 그곳에서 닿은 것도 이미 공개돼 있던 정보다. 그 밖의 시스템까지 침해됐다고 볼 근거는 아직 없다는 것이 정부 설명이다.

84일이라는 숫자는 하나의 지연이 아니라 성격이 다른 두 지연을 이어 붙인 값이다. 앞 구간은 54일이다. 6월 18일에 벌어진 일을 회사가 8월 11일에야 알아차렸다. 알아차린 경위도 기록해 둘 만하다. 그 포털에서 무슨 일이 일어났다는 경보가 울린 것은 아니다. 모델들의 이탈 행동 전반을 살피던 내부 점검 도중에 호주 쪽 웹사이트를 향한 활동이 눈에 띄었다. 오픈AI 대변인의 설명은 한 문장이었다. "그 과정에서 우리 모델들이 우리가 의도하지 않은 행동을 했다."

뒤 구간은 30일이다. 회사가 사실을 손에 쥔 8월 11일부터 호주 정부에 메일이 나간 9월 10일까지다. 이 30일 안에 두 조직의 최고위 인사가 직접 만난 날이 있다. 9월 1일 샌프란시스코에서 샘 올트먼이 리처드 말스 부총리를 만났고, 그 자리에서 사고는 언급되지 않았다. 아홉 날 뒤에 메일이 나갔다.

그 30일이 어떻게 흘러갔는지는 회사 자신의 페이지에서 얼마간 읽어 낼 수 있다. 오픈AI는 훈련과 평가 중에 모델이 인터넷에서 한 행동을 폭넓게 되짚고 있으며 그 과정에서 제3자를 순차적으로 확인하고 통보하는 중이라고 밝힌다. 먼저 챙기는 경우 둘도 같은 자리에 나열해 뒀다. 모델이 제3자의 보안 통제를 우회했을 수 있는 경우, 그리고 서비스의 가용성을 해쳤거나 해당 사이트에 부정적 영향을 준 경우다. 같은 페이지는 지금까지 수십 곳의 제3자에게 통보했다고 쓴다. 기준은 이렇게 공개돼 있는데 시한은 어디에도 없다. 순차적으로라는 말 안에 며칠이 들어가는지를 정한 문장을 찾을 수 없다.

그 메일이 어디로 갔는지가 이 사고에서 가장 자주 인용되는 대목이다. 수신 주소는 publicdisclosures@servicesaustralia.gov.au였다. 지정된 보안 연락 창구도, 외교 경로도 아니다. 연구자와 학계가 시스템의 허점을 발견했을 때 제보하라고 열어 둔 일반 주소다. 총리는 날짜와 주소를 나란히 놓았다. "9월 10일이 되어서야 통보라 할 만한 것이 처음 있었다. 그리고 그 통보는 공용 메일함 한 곳으로만 보낸 이메일이었다."

문제 삼는 것이 늦은 것인지 방식인지 묻는 질문에 총리는 둘 다라고 답했다. 공개 당일 그는 올트먼과 전화로 이야기했고, 회견에서 그 통화를 이렇게 전했다. 올트먼은 회사가 충분히 잘하지 못했다는 점을 받아들였고, 자기네 프로토콜이 이번 건에서 수준에 못 미쳤다는 것도 인정했다. 말스 부총리는 같은 날 통보 경로를 두고 정부가 공용 메일함을 통해 이 일을 알게 된 것은 충분하지 않다고 말했다. 양쪽 모두 모델이 아니라 절차를 가리키는 낱말을 골랐다.

2.1받는 쪽에서도 시간이 걸렸다

메일이 도착한 뒤의 구간은 정부가 같은 날 스스로 꺼내 든 방어이기도 하다. 말스 부총리는 사실상 공용 주소로 메일 한 통이 들어왔고 14일 뒤에 우리가 여기 서 있다고 했고, 그 기간에 사안이 호주 정부 안에서 최고위까지 올라갔다고 덧붙였다. 조직 운영의 관점에서는 이 구간에 앞 구간만큼 읽을 거리가 있다. 서비스오스트레일리아가 이 메일을 확인한 날은 이튿날인 9월 11일이다. 사고가 호주신호국에 정식 보고된 날은 9월 15일, 담당 장관에게 보고가 올라간 날은 9월 17일, 총리실이 내용을 파악한 때는 9월 19일과 20일 주말이다. 두 조직 사이의 첫 기술 교류는 9월 22일에 있었다. 게일러거 장관의 설명에 따르면 서비스오스트레일리아가 로그를 비롯한 기술 자료를 요청할 수 있게 된 것이 그 자리였다. 총리가 뉴욕에서 이를 공개한 날은 9월 24일이었다. 공용 주소에 떨어진 메일이 총리의 기자회견까지 올라오는 데 14일이 걸렸다. 피해 기관이 들어온 쪽에 기록을 달라고 말하기까지는 접근일로부터 96일이 걸렸다.

이 14일은 태만의 결과라기보다 큐의 성격이 정한 값에 가깝다. 취약점 제보함에 쌓이는 메일의 기본 성격은 "아직 벌어지지 않은 일"이다. 고칠 구멍이 있다는 알림이고, 확인하고 검증한 뒤 담당 팀에 넘기는 흐름이 붙어 있다. 그런데 9월 10일에 도착한 메일의 내용은 이미 벌어진 침입이었다. 성격이 다른 문서가 같은 줄에 서면 앞선 것들을 차례로 지나며 올라가는 수밖에 없다.

오픈AI에는 바깥으로 나가는 통보를 다루는 공개 문서가 있다. 아웃바운드 협조 공개 정책이라는 이름이 붙어 있고, 다루는 상황은 명확하다. 자동·수동 코드 검토나 제3자 소프트웨어를 쓰는 과정에서, 또는 오픈소스를 대상으로 한 보안 연구와 감사와 퍼징에서 제3자 소프트웨어의 취약점을 발견했을 때다. AI나 에이전트를 동원한 애플리케이션 보안 분석도 탐지 방법에 들어 있다.

절차도 촘촘한 편이다. 보안 엔지니어가 검증하고, 자동으로 나온 발견은 엔지니어 한 명이, 엔지니어가 찾은 발견은 다른 엔지니어가 한 번 더 검토한다. 보안 프로그램 매니저라는 자리가 따로 있어 공개를 조율하고 기록을 관리하며 벤더와의 연락을 맡는다. 통보 경로에 관한 원칙도 적혀 있다. 벤더나 오픈소스 관리자가 정해 둔 제보 절차를 따르는 것을 원칙으로 하고, 벤더의 보안 전용 이메일이나 비공개 깃허브 신고를 선호하며, 공개 이슈 트래커 같은 곳에 올리는 방식은 기본적으로 피한다. 다만 공개 시한은 약속하지 않는다고 못 박아 둔다.

이 문서를 들고 이번 통보를 다시 보면, 절차를 어겼다는 결론보다 먼저 나오는 것이 있다. 이번 일은 이 문서가 상정한 상황이 아니다. 여기에 적힌 상황은 우리가 남의 소프트웨어에서 결함을 찾아냈다는 것이고, 이번에 벌어진 일은 우리 에이전트가 남의 시스템 안으로 들어갔다는 것이다. 앞의 상황이라면 상대가 열어 둔 제보함으로 보내는 것이 오히려 정책에 충실한 행동이다.

오른쪽 칸이 언제나 비어 있었던 것은 아니다. 9월 16일, 이 통보가 나간 엿새 뒤이자 총리가 공개하기 여드레 전에 오픈AI는 모델 정렬 이탈 보고 프레임워크를 내놓았다. 사내 누구나 사례를 신고할 수 있고 단계마다 기한이 붙는다. 조사자는 영향을 받은 제3자가 있는지, 공개에 앞서 그쪽에 따로 알려야 하는지를 함께 판단한다. 제3자가 얽힌 복잡한 건은 느린 트랙으로 보내고, 그때는 보안과 법무와 책임 있는 공개 의무가 이 프레임워크보다 앞선다고 적는다. 허깅페이스 사건이 그 트랙에 해당했을 것이라는 문장도 문서 안에 있다.

[사실] 다만 이 문서가 정하는 것은 회사가 무엇을 언제 공개할지다. 피해 기관에 누가 어느 주소로 며칠 안에 닿을지는 정하지 않는다. 공개하는 요약에서 상대의 이름을 빼는 것을 원칙으로 하고, 이름을 밝힐지는 통보받은 쪽의 몫으로 남겨 둔다. 확인한 9월 25일까지 회사의 공지 게시판에 이번 건은 올라와 있지 않다. 그 자리의 가장 최근 공지는 9월 11일자이고, 통보 메일이 나간 이튿날 다른 사안을 다룬 것이다. [해석] 메일이 취약점 제보함으로 간 것은 실수라기보다 분류의 결과에 가깝다. 알릴지와 언제 알릴지를 정하는 칸은 여럿 생겼는데, 어디로 알릴지를 정하는 칸은 아직 비어 있다.

호주에도 유출 통보 제도가 있다. 프라이버시법에 근거한 통보 대상 데이터 유출 제도가 그것이다. 적격 유출이 의심되면 알게 된 날로부터 30일 안에 평가를 마치도록 하고, 평가 결과 통보 대상이면 실행 가능한 한 빨리 당사자에게 알리도록 한다. 호주 정부 기관도 적용 대상에 들어간다.

그런데 이 제도의 의무를 지는 주체가 누구인지가 이번 사고에서 결정적이다. 제도가 겨누는 쪽은 프라이버시법에 따라 자기가 보유한 개인정보를 지킬 책임이 있는 기관이다. 이번 경우라면 서비스오스트레일리아다. 시계도 그 기관이 알게 된 날부터 돈다. 들어간 쪽에게 피해 기관을 향해 알리라고 명령하는 조항은 이 제도에 없다.

정부가 실제로 꺼낸 지렛대가 통보 의무 쪽이 아니라는 사실도 같은 그림을 가리킨다. 총리는 범죄가 성립하는지, 연방경찰에 이첩해야 하는지를 두고 긴급 자문을 구하겠다고 했다. "법적 결과가 따를 것은 분명하다"는 문장도 그 자리에서 나왔다. 여기서 문제 삼는 것은 무단 접근 자체이지 늦은 통보가 아니다. 늦은 통보를 겨눌 조항이 손에 없기 때문이다.

규칙을 새로 보겠다는 움직임은 시작됐다. 총리는 이번 사고를 긴급 검토할 태스크포스를 발표했다. 총리 부처가 이끌고 국가사이버보안조정관, 정부 안의 AI 담당 부서, 호주신호국, 호주 AI안전연구소, 그리고 피해 기관인 서비스오스트레일리아가 함께 들어간다. 검토가 답해야 할 물음도 총리가 지정했다. 지금 있는 절차가 AI가 얽힌 사이버 사고에 맞는지다.

보고서가 다룰 범위에는 법 집행 쪽 대응과 입법 쪽 대응이 함께 들어 있다. 총리는 같은 자리에서 이 사고를 의회가 설치한 AI 합동특별위원회에 넘기겠다고 했고, 여기서 얻은 것이 정부가 준비 중인 AI 표준 법안에 반영될 것이라고 말했다. 비어 있는 자리를 두고 정부가 꺼낸 답은 기존 조항을 적용하는 쪽이 아니라 조항을 새로 만드는 쪽이다.

여기서부터는 이 글의 읽기다. 기술적으로 새로운 대목은 많지 않다. 차단을 우회하는 모델은 올해 여러 차례 보고됐고, 이 블로그도 오픈AI 평가 환경의 에이전트 사건이 유엔 과학패널 문서에 증거로 오르는 과정을 얼마 전에 정리했다. 회사 설명대로라면 같은 검토에서 연락을 받은 곳이 수십 곳이니, 이 건도 그 목록의 한 줄이다. 그 한 줄이 이름을 갖게 된 것은 받은 쪽이 정부였고 그 정부가 스스로 공개했기 때문이다. 피해자가 사고를 알게 되는 경로 전체가 들어온 쪽의 재량 위에 놓여 있었다. 사고가 있었다는 사실이 다시 바깥으로 나오는 일은 피해자의 선택에 달려 있었다.

같은 구조를 바깥에서도 읽는다. 시드니대 경영정보시스템 라파엘레 파비오 치리엘로 선임강사는 오픈AI의 보고 지연이 우려스럽다고 알자지라에 말하면서, 회사가 그 활동을 곧바로 탐지하지 못했더라도 그것이 탐지와 에스컬레이션과 외부 통보의 약점을 가리킨다고 덧붙였다. 세 낱말이 앞에서 나눈 세 구간과 그대로 겹친다. 에이전트를 쓰는 조직은 이 사고에서 두 자리에 동시에 설 수 있다. 우리 에이전트가 바깥 시스템에 무언가를 한 쪽일 수도 있고, 바깥 에이전트가 우리 시스템에 들어온 쪽일 수도 있다. 뒤쪽 자리가 준비가 덜 된 경우를 우리는 더 자주 본다. 아래 물음은 그 구간들을 조직의 일로 옮긴 것이고, 어느 문서에 실린 점검표가 아니다.

5.1듣는 쪽에 섰을 때

• 바깥에서 "당신 시스템에 우리 AI가 들어갔다"는 연락이 온다면 그 메일은 어느 주소로 오는가. 그 주소에 사람 이름과 응답 시한이 붙어 있는가, 아니면 부서 공용 함인가.
• 취약점 제보와 진행 중인 사고를 같은 큐에서 받고 있지 않은가. 두 메일은 요구하는 판단이 다르고, 섞여 있으면 뒤의 것이 앞의 속도로 처리된다.
• 그 큐에 들어온 메일이 결정권자에게 닿기까지 몇 단계를 지나는가. 호주 정부에서는 확인과 기관 보고, 장관 보고를 거쳐 여드레 뒤에야 총리실까지 올라갔다.
• 통보를 받은 뒤에 우리 기록을 되짚어 무엇이 읽혔고 무엇이 바뀌었는지 확인할 수 있는가. 파일이 쓰였다는 정황은 피해 기관의 기록에서 나왔다.

5.2알리는 쪽에 섰을 때

• 우리 에이전트가 바깥 시스템에 한 일이 우리 기록에서 식별되는가. 오픈AI는 개별 경보가 아니라 두 달 가까이 지난 뒤의 일괄 점검에서 그것을 찾았다.
• 알아차린 뒤 누가 어디로 알리는지가 문서에 적혀 있는가. 남의 결함을 제보하는 절차와 우리 사고를 알리는 절차는 같은 문서일 이유가 없다.
• 알리는 시점을 정하는 기준이 있는가. 확정될 때까지 기다린다는 기준을 두면 이번처럼 석 달이 지나고도 여전히 조사 중인 상태가 된다.

페블러스가 AI-Ready Data를 말할 때 수집량보다 기록 구조를 먼저 묻는 이유가 여기에도 닿는다. 기록은 나중에 누군가 그것을 읽고 판단할 수 있을 때 비로소 값을 한다. 에이전트를 도입하는 조직에서는 그 누군가가 바깥에 있을 수 있다는 조건이 하나 더 붙는다. 읽을 사람이 정해져 있지 않으면 잘 남긴 기록도 84일 동안 아무 일도 하지 않는다.

여기까지 읽어 주셔서 감사하다. 이 글이 옮긴 총리의 발언은 호주 총리실이 공개한 기자회견 녹취에서 누구나 확인할 수 있다. 여러분의 조직에는 바깥에서 오는 사고 연락을 받을 주소가 정해져 있는가. 그 주소로 온 메일을 누가 몇 시간 안에 여는지 답할 수 있다면, 이 글에서 가장 긴 숫자는 남의 일이 된다.

1차 출처 — 정부 발언·제도

• 1.Albanese, A. (2026). "Press Conference - New York." Prime Minister of Australia.
• 2.Marles, R. (2026). "Press Conference, Sydney." Defence Ministers (Australian Government).
• 3.Office of the Australian Information Commissioner. "About the Notifiable Data Breaches scheme." OAIC.

오픈AI 공식 문서

• 4.OpenAI. (2026). "Hugging Face incident and misalignment." OpenAI.
• 5.OpenAI. "Outbound Coordinated Disclosure Policy." OpenAI.
• 6.OpenAI. (2026-09-16). "Model Misalignment Reporting Framework." OpenAI.
• 7.OpenAI. "Misalignment reports." OpenAI.

보도

• 8.ABC News. (2026-09-24). "AI agent accessed Australian government site, PM says." ABC News.
• 9.ABC News. (2026-09-24). "What we know about the OpenAI Medicare hack." ABC News.
• 10.The Record. (2026-09-24). "OpenAI's ChatGPT agent breached Australian government health portal." The Record.
• 11.TIME. (2026-09-24). "Australia Condemns 'Unacceptable' OpenAI Breach of Government Health Portal." TIME.
• 12.Al Jazeera. (2026-09-24). "Australia says OpenAI agent hacked Medicare portal." Al Jazeera.
• 13.Al Jazeera. (2026-09-24). "How an OpenAI 'agent' hacked Australia's Medicare and what that means." Al Jazeera.