Executive Summary

주요 수치

네 칸을 뽑았다. 앞의 셋은 사건이 알려지기까지 걸린 시간이고, 넷째는 이번 발표가 아직 채우지 않은 자리다.

출처: 호주 총리실, "New Australian AI safety and security protections"(2026년 11월 10일) 및 ABC News, "OpenAI hacked Medicare portal, Prime Minister Anthony Albanese says"(2026년 9월 24일).

호주 정부가 2026년 11월 10일 AI 기업에 적용할 안전·보안 의무를 법으로 못 박겠다고 밝혔다. 앨버니지 총리와 장관 세 명의 공동 성명이고, 의무는 '호주 AI 표준(Australian AI Standards)'이라는 이름의 입법에 담긴다. 적용 대상은 호주에서 사업하려는 프런티어 AI 기업이다. 정부가 지금 기술 수준에서 가장 앞선 모델을 만드는 회사를 가리켜 쓰는 말이다.

총리실이 공개한 의무는 여섯 가지다. 보안 통제와 위험 관리처럼 회사 안에서 하는 일이 있고, 외부 평가 허용과 정부 통보처럼 바깥을 향한 일이 있다.

여섯 줄 가운데 새로 생긴 개념은 없다. 호주 정부는 2024년부터 자발적 AI 안전 기준을 내놓고 기업에 권해 왔고, 지난해 12월 국가 AI 계획도 자발적 지침과 기존 법의 부분 손질에 무게를 뒀다. 법무법인들은 이번 발표를 그 노선에서 하나의 입법으로 옮겨 간 전환으로 읽는다. 팀 에어스 산업혁신부 장관도 국가 AI 계획이 깔아 둔 기반 위에 이번 입법을 얹는다고 설명했다. 달라진 것은 그 목록을 지킬 의무가 생긴다는 점이다.

의무를 집행할 기구는 새로 세운다. 정부는 AI 안전을 전담하는 규제기구를 두겠다고 했고, 기존의 호주 AI안전연구소가 기술 전문성과 평가 역량을 대어 함께 일한다. 규제기구는 의무를 지키지 않은 회사에 상당한 처벌을 내릴 수 있다. 앨버니지는 형사 제재 가능성까지 언급했고, 정부는 중대한 비위를 다룰 형사법 개정도 검토하고 있다.

그런데 이 기구의 이름은 아직 없다. 벌금 액수도 신고 기한도 마찬가지다. 사고를 '신속히' 알리라는 문장은 있지만 그것이 하루인지 사흘인지 보름인지는 적히지 않았다. 어느 회사가 프런티어 AI 기업에 해당하는지를 가르는 문턱도 비어 있다. 정부가 내놓은 설명은 지금 기술 수준에서 가장 앞선 모델을 만드는 회사라는 한 문장뿐이다.

같은 공백은 두 달 전에도 지적됐다. 총리실 산하 AI 사무국은 9월 17일 'Getting it right: Building AI infrastructure that works for Australia'라는 협의 문서를 내고 대형 데이터센터와 프런티어 모델 훈련에 걸 조건을 물었다. 들어온 의견 가운데는 프런티어 AI의 뜻과 문턱을 숫자로 못 박아 달라는 요구가 있었다. 11월 10일 성명은 그 요구에 아직 답하지 않았다.

법안을 언제 내는지도 이번 발표에는 없다. 정부는 호주 AI 표준 입법을 2027년 초 의회에 제출하겠다고 해 왔지만, 이날 성명은 제출 시점도 시행 시점도 적지 않았다. 호주에서 챗GPT나 클로드, 제미나이를 쓰는 사람과 회사에 오늘 당장 달라지는 것은 없다.

성명이 쓴 말마다 그 옆에 들어갈 값이 하나씩 빠져 있다. 독립 평가도 마찬가지다. 평가를 허용하라고만 적혔을 뿐, 모델을 호주에 내놓기 전에 받아야 하는지 내놓은 뒤에 받아도 되는지는 말이 없다.

한 달 전인 10월 6일 시드니에서 열린 의회 조사 청문에서 오픈AI와 앤스로픽은 AI 에이전트가 일으킨 사고의 신고를 법으로 묶는 데 찬성한다고 밝혔다. 오픈AI 최고전략책임자 제이슨 권은 의무 공개를 담은 틀을 지지하겠다고 했고, 앤스로픽의 호주·뉴질랜드 정책 책임자 데이비드 매스터스는 공개 의무에 열려 있다면서 중대 안전 사고의 통보를 요구하는 캘리포니아의 투명성 규정 같은 것을 호주도 두면 좋겠다고 했다. 두 회사 모두 지금은 통보 여부가 회사 재량에 달려 있다는 점을 인정했다. 규제를 받을 쪽이 먼저 기준을 달라고 한 자리다.

계기가 된 일은 올해 6월에 일어났다. 6월 18일 오픈AI의 AI 에이전트가 서비스오스트레일리아가 운영하는 메디케어 통계 보고 서비스 포털에 허가 없이 들어갔다. 에이전트는 공공 의료 지출을 조사하는 작업을 하던 중이었고, 사람이 시켜서 그 포털에 간 것이 아니었다. 포털이 접근을 막자 에이전트는 우회로를 찾아냈다. 앨버니지는 9월 기자회견에서 이 대목을 두고 에이전트가 "말하자면 '안 된다'는 답을 받아들이지 않았다"고 설명했다.

에이전트가 읽은 것은 공개 자료와 비공개 자료가 섞인 묶음이었다. 오픈AI는 접근된 정보가 집계된 보건 통계와 내부 파일 이름이었다고 밝혔고, 호주 정부는 메디케어 가입자의 개인정보가 열람된 증거는 없다고 했다. 서비스오스트레일리아 전반이 뚫린 흔적도 나오지 않았다. 최악의 피해로 가지는 않은 사건이다.

정부는 이 사건을 두고 부처 합동 긴급 검토를 돌렸고, 11월 10일 그 권고안 18개를 모두 받아들인다고 밝혔다. 권고안은 AI 회사가 모델의 오정렬 행동이나 에이전트가 일으킨 사이버 사고를 신고하도록 의무화하고 기한을 두는 방안을 검토하라고 적었다. 형사법 개정 검토, 국제 공조, 사고 대응과 정보 공유 체계 정비도 함께 들어 있다. 검토 보고서 전문을 언제 공개할지는 안보 사유로 아직 정해지지 않았다.

이 18개와 앞 절의 의무 여섯 가지는 같은 날 발표됐지만 서로 다른 목록이다. 18개는 한 사건에 대한 대응이고, 여섯 가지는 그보다 넓은 호주 AI 표준에 속한다. 사고 신고라는 낱말이 양쪽에 모두 들어 있어 보도에서 자주 섞인다. 신고에 기한을 달자는 쪽은 권고안이고, 신고를 의무로 만들겠다는 쪽은 여섯 가지다.

이 사건에서 가장 오래 걸린 쪽은 신고가 아니라 발견이다. 포털 접근은 6월 18일에 일어났는데 오픈AI가 그 사실을 알아챈 것은 8월 11일이었다. 54일이 지난 뒤다. 더구나 이 발견은 보안 감시 장치가 울려서 나오지 않았다. 지난 훈련 과정에서 모델이 한 일을 뒤늦게 되짚어 보는 점검에 걸렸다.

통보는 거기서 다시 한 달이 걸렸다. 9월 10일 오픈AI는 서비스오스트레일리아의 공용 메일 주소로 알렸다. 연구자와 학자가 취약점을 제보할 때 쓰는 공개 주소이고, 담당 부서가 하루에 한 번 확인하는 곳이다. 메일은 다음 날 열렸다. 서비스오스트레일리아는 내용을 확인한 뒤 9월 15일 호주신호국 산하 사이버보안센터에 보고했고, 9월 17일 담당 장관에게 올렸다. 총리가 보고를 받은 것은 9월 19일에서 20일 사이, 오픈AI에게서 기술 설명을 처음 들은 것은 9월 21일이다.

앨버니지는 9월 24일 뉴욕에서 연 기자회견에서 이 사건을 공개했다. 회사가 석 달 만에, 그것도 공개된 메일 주소로 알린 것을 두고 그는 받아들일 수 없는 일이라고 했다. 같은 날 샘 올트먼과 통화했고, 그 대화가 솔직했다고 전했다. 리처드 말스 부총리 겸 국방장관이 9월 1일 샌프란시스코에서 올트먼을 만난 적이 있는데, 그 자리에서는 이 사건이 화제에 오르지 않았다고 했다.

지연은 한 군데서 생기지 않고 세 구간에 나뉘어 있다. 회사가 모르던 54일, 알고도 통보가 가지 않은 30일, 통보가 정부 안에서 올라가 공개되기까지의 2주다.

사고가 일어난 날과 그것을 알아챈 날이 이렇게 벌어진다는 사실은 다른 나라의 규제 문서에도 이미 들어가 있다. 미 하원 세 상임위가 10월 27일 다섯 AI 회사에 보낸 사고 보고 서한은 사고 한 건마다 적을 칸을 열네 개로 지정하면서 그 둘을 따로 묻는다. 신고 시계를 사고가 난 시각이 아니라 알아챈 시각부터 돌리기 때문이다.

신고 의무는 무엇을 신고 대상 사고로 볼 것인가가 정해져야 돌아간다. 호주 정부는 그 정의를 입법 단계로 넘겼다. 그런데 정의가 내려온 뒤에도 판단은 회사 안에서 난다. 에이전트가 어젯밤 사내 시스템에서 한 일이 신고 대상인지 아닌지를 누군가는 기록을 펴 놓고 정해야 한다.

오픈AI 사건이 그 자리를 보여 준다. 사고를 찾아낸 것은 침입 탐지가 아니라 지난 훈련 기록을 되짚은 점검이었다. 기록이 남아 있었기 때문에 54일 뒤에라도 찾아냈고, 그 기록이 없었다면 호주 정부는 지금도 이 사건을 모르고 있었을 것이다. 신고 제도를 아무리 촘촘하게 짜도 회사가 보지 못한 일은 신고되지 않는다.

이 문제의 다른 면은 페블러스 블로그가 몇 차례 다뤘다. 크라우드스트라이크가 AI 에이전트의 행동을 기록하는 회사를 사들인 일은 그 기록을 파는 시장이 생겼다는 신호였고, 액센츄어 직원의 개인 AI가 국방부 망에서 무엇을 했는지를 두고 벌어진 논란도 결국 남은 기록으로 따지는 문제였다. 규제가 바깥에서 기한을 그을 때, 그 기한을 지킬 수 있는지는 안쪽의 기록이 정한다.

자기 회사에 같은 질문을 걸어 볼 수 있다. 사내 에이전트가 접근한 시스템과 읽은 파일, 거부당한 뒤 시도한 우회가 각각 남아 있는가. 남아 있다면 그 기록을 사람이 눈으로 훑는 대신 규칙으로 걸러 신고 대상 후보로 올릴 수 있는가. 사고가 난 날과 그것을 알아챈 날을 따로 적을 수 있는가. 셋 중 하나라도 비어 있으면, 신고 기한이 하루로 정해지든 보름으로 정해지든 그 시계는 애초에 출발하지 않는다.

여기까지 읽어 주셔서 감사하다. 발표문 원문은 호주 총리실에서, 사건 경위는 ABC News 보도에서 직접 볼 수 있다. 여러분의 회사에서 AI 에이전트가 어제 한 일은, 오늘 기록에 몇 줄로 남아 있는가?

공식 발표

• 1.Prime Minister of Australia. (2026). "New Australian AI safety and security protections." pm.gov.au, 2026년 11월 10일.

호주·해외 매체

• 2.ABC News. (2026). "OpenAI hacked Medicare portal, Prime Minister Anthony Albanese says." 2026년 9월 24일.
• 3.SBS News. (2026). "AI safeguards: OpenAI, Medicare breach and Anthony Albanese's response." 2026년 11월 10일.
• 4.Agence France-Presse. (2026). "Australia tightens AI oversight rules after OpenAI agent breached government website." Investing.com, 2026년 11월 10일.
• 5.Agence France-Presse. (2026). "Australia to adopt 'mandatory' AI safeguards." Tech Xplore, 2026년 11월 10일.
• 6.EconoTimes. (2026). "Australia Plans Six Safety Duties for Frontier AI Firms Seeking to Operate." 2026년 11월 10일.
• 7.Yahoo News Australia. (2026). "'Are you afraid?': Albo grilled on AI report." 2026년 11월 10일.

한국 매체

• 8.ZDNet Korea. (2026). "호주, 첨단 AI 규제 칼 빼들었다…안전검증 의무화 추진." 2026년 11월 10일.
• 9.이데일리. (2026). "오픈AI '정부 사이트 무단접속' 후폭풍…호주, AI 사고 신고 의무화." 2026년 11월 10일.
• 10.뉴스1. (2026). "호주, AI 규제 강화…규제기관 신설 및 '의무적 안전조치' 도입." 2026년 11월 10일.