Executive Summary
뉴욕시 공립학교가 9월 2일 학생용 생성형 AI를 1년간 금지한다고 발표했습니다. 2-K부터 8학년까지 약 60만 명이 대상이고, 전체 등록생의 3분의 2에 해당합니다. 컴패니언 챗봇은 전 학년에서 막힙니다. 미국에서 가장 큰 교육구가 내린 조치이고, 시는 이를 전국에서 가장 넓은 생성형 AI 모라토리엄이라고 부릅니다. 금지가 옳은 결정이었는지는 여기서 따지지 않습니다. 이만한 규모의 금지를 실제로 집행하려면 무엇부터 알아야 하는지를 봅니다.
시는 이미 쓰이고 있는 소프트웨어 38개의 AI 기능을 끈다고 밝혔습니다. 그러나 그 38개가 무엇인지는 공개하지 않았고, 1,600개 학교에서 AI가 얼마나 쓰이는지에 대한 확실한 자료가 거의 없다고 시인했으며, 학교를 상대로 돌린 AI 사용 설문 결과의 공개는 거듭된 요청에도 거부했습니다. 시 보좌관이 이름을 든 두 제품 가운데 하나인 Houghton Mifflin Harcourt는 자사 초등 읽기 교육과정에 학생용 AI가 없다고 반박했습니다. 무엇을 끄는지를 두고 구매자와 공급자의 말이 갈립니다.
벤더를 심사하는 절차가 없어서 벌어진 일은 아닙니다. 뉴욕시 교육청에는 ERMA라는 이름의 승인 절차가 있고, 뉴욕주 교육법 2-d에 따라 모든 벤더는 어떤 데이터를 수집하고 어떻게 보호하는지 설명해야 합니다. 다만 그 심사가 확인하는 것은 데이터 취급이지 소프트웨어 안에 무엇이 들어 있는지가 아닙니다. 3절 후반부터 5절까지는 보도된 사실이 아니라 그 사실을 데이터 거버넌스의 눈으로 읽은 대목이라는 점을 미리 밝혀 둡니다.
주요 수치
출처: 뉴욕시장실 보도자료(2026-09-02) 및 Chalkbeat(2026-09-02)
60만 명
모라토리엄 적용 학생
시 전체 공립학교 등록생의 3분의 2에 해당합니다
38개
AI 기능을 끄는 시 전역 계약
어떤 회사의 어떤 제품인지 목록은 공개되지 않았습니다
1,600개
금지가 걸리는 학교 수
이 범위의 AI 사용 실태 자료가 거의 없다고 시 당국이 인정했습니다
2개
이름이 알려진 제품
그마저 하나는 자사 제품에 학생용 AI가 없다고 공급사가 반박했습니다
무엇이 꺼졌는가
조란 맘다니 뉴욕시장과 카마르 사무엘스 교육감이 9월 2일 브루클린 STEAM 센터에서 정책을 발표했습니다. 새 학년도가 시작되기 여드레 전이었습니다. 2026-27학년도 한 해 동안 2-K, 그러니까 만 2세 유아 과정부터 8학년까지는 학생이 직접 쓰는 생성형 AI 소프트웨어를 쓸 수 없습니다. 컴패니언 챗봇은 학년을 가리지 않고 금지됩니다. 맘다니 시장은 발표문에서 아이들이 배우고 자라려면 교사와 사람 사이의 연결이 필요하다고 말했고, 사무엘스 교육감은 혁신이 곧 기술을 더 쓰는 일은 아니라는 믿음 위에 서 있다고 밝혔습니다.
고등학교는 다르게 다룹니다. 학생 전원이 45분짜리 AI 리터러시 모듈을 해마다 두 번 이수해야 하고, 중앙에서 승인한 파일럿 다섯 개가 열립니다. Quill, Edia, Brisk Teaching, Playlab, Intel AI-Ready Schools입니다. 참여 인원은 일반교육 학급 학생 최대 5만 명으로 묶여 있고, 시장실 기준으로 전체 공립학교 학생의 약 5%입니다. 스크린타임 지침도 함께 나왔습니다. 2학년 이하는 개인 기기를 1대 1로 쓰지 않고, 3~5학년은 하루 30분, 6~8학년은 45분을 권고 한도로 둡니다. 보조공학과 진단·선별 평가, 원격수업 같은 교외 학습, 중앙에서 승인한 수업은 이 시간 제한에서 빠집니다.
금지에도 예외가 있어서, 개별화 교육계획이나 504 계획으로 제공되는 보조공학은 학년을 가리지 않고 이 정책의 적용을 받지 않습니다. 장애 학생과 다중언어 학습자에게 필요한 다른 도구도 계속 쓸 수 있습니다. 시 교육 보좌관이 든 예는 뇌성마비 학생이 타자를 치도록 돕는 시선 추적 기술, 그리고 영어를 배우는 학생이 교사와 소통하도록 교육청이 직접 만든 Hello App이었습니다. 고등학교에서는 CTE와 FutureReadyNYC 같은 진로 준비 과정도 예외로 두어, 교사 감독 아래 특정 AI 도구를 쓸 수 있습니다.
여기까지가 규칙이고, 실제로 무언가를 끄는 일은 그다음입니다. 맘다니 시장은 교육청이 이미 맺어 둔 시 전역 에듀테크 계약 38건에서 AI 기능을 끄고 있다고 말했습니다. 벤더가 AI 기능만 따로 꺼 줄 수 없는 경우에는 그 제품 자체를 더는 쓰지 않겠다고 시 교육 보좌관이 덧붙였습니다. 1년 뒤를 위한 절차도 있습니다. 학생과 교육자, 학부모 대표, 선출직, 옹호단체, 노조와 전문가가 참여하는 협의체가 학년 내내 영향을 평가하고 2027년 4월에 정책 권고 보고서를 냅니다.
반응은 갈렸습니다. 2년짜리 모라토리엄을 요구해 온 옹호단체 연합은 이번 정책이 옳은 방향으로 가는 한 걸음이라면서도, 수만 명의 고교생이 생성형 AI가 들어간 도구를 쓰게 되는 파일럿을 걱정했습니다. 반대쪽에서 전 부시장이자 로빈후드 재단 대표인 리처드 뷰어리는 선의에서 나온 조치라 하더라도 중학교까지 모든 사용에 예외 없이 걸리는 1년 전면 금지는 옳은 선택이 아니라고 밝혔습니다. 교사들이 이미 학부모가 집에서 아이와 쓸 수업 자료를 빠르게 만들거나 과제 피드백을 앞당기는 데 기술 도구를 쓰고 있다는 것이 이유였습니다. 중학교까지만 놓고 보면 생성형 AI 금지에 걸린 예외는 보조공학뿐입니다.
목록은 아직 없다
38이라는 숫자는 나왔는데 그 안에 무엇이 들었는지는 나오지 않았습니다. 어떤 회사의 어떤 제품인지를 시 당국이 내놓지 않았다고 Chalkbeat가 보도했습니다. 더 큰 공백이 그 옆에 있습니다. 시 관계자들은 1,600개 학교에서 AI가 실제로 얼마나 쓰이고 있는지에 대한 확실한 자료를 거의 갖고 있지 않다고 인정했습니다. 학교를 상대로 AI 사용 실태를 물은 설문이 있었지만, 그 결과의 공개는 반복된 요청에도 거부됐습니다.
이름이 나온 제품은 둘뿐입니다. 맘다니 시장의 교육 보좌관 에일리시 브래디(Ailish Brady)는 널리 쓰이는 디지털 튜터 Amira와 Houghton Mifflin Harcourt 읽기 교육과정의 디지털판이 AI 요소를 끌 것이라고 말했습니다. HMH 교육과정은 시가 지정한 NYC Reads 문해 프로그램 세 개 가운데 가장 많이 쓰입니다. 그런데 HMH 대변인의 답은 달랐습니다. 자사 초등 읽기 교육과정 Into Reading에는 학생용 AI가 없다는 것입니다. Amira 쪽은 제품이 현재 222개 학교에서 쓰이고 있다며, 새 정책이 제품에 어떤 의미인지 명확히 해 달라고 교육청에 문의했다고 밝혔습니다. 구글의 챗봇 Gemini는 많은 학생의 크롬북에 미리 깔려 있는데, 이것이 꺼지는지에 대한 질문에 브래디는 직접 답하지 않았습니다. 다만 시 당국을 만난 옹호단체들은 Gemini가 꺼질 것이라고 들었다고 밝혔습니다.
같은 제품을 두고 시는 AI를 끄겠다고 하고 공급사는 끌 AI가 없다고 합니다. 어느 쪽이 맞는지를 이 글이 판정할 수는 없습니다. 다만 판정 자체가 왜 어려운지는 보입니다. 무엇을 생성형 AI로 셀 것인지에 대해 구매자와 공급자가 같은 기준을 공유하지 않으면, 같은 소프트웨어를 두고 서로 다른 답이 나옵니다. 제품에서 AI가 충분히 제거됐는지를 시 당국이 무엇으로 판정할 것인지도 아직 분명하지 않습니다. 그 물음은 Chalkbeat도 답을 얻지 못한 채 남겨 두었습니다.
그 38건에는 정해진 범위가 있습니다. 뉴욕시 교장은 두 가지 방식으로 교육용 기술을 삽니다. 소액이면 벤더와 직접 계약하고, 규모가 커지면 대체로 교육청과 이미 시 전역 계약을 맺은 벤더를 써야 합니다. 38건은 뒤쪽, 그러니까 시 전역 계약 안에 있는 숫자입니다. 학교가 알아서 사들인 도구는 이 셈 밖에 있습니다.
수업 시간표 밖으로 나가면 적용 범위가 한 번 더 나뉩니다. 학교 건물이나 교육청과 계약한 시설에서 지역 기반 단체가 수업 시간에 진행하는 수업은 교육청의 AI·스크린타임 정책을 그대로 따라야 합니다. 반면 방과후 프로그램은 청소년지역개발국 소관이거나 지역 단체가 운영해 교육청 관할이 아니고, 교육청은 그쪽에는 정책에 맞춘 지침을 제공하겠다고 적었습니다. 같은 아이가 같은 건물에서 오후에 쓰는 도구는 그 지침의 영역으로 넘어갑니다.
그 바깥을 메우는 일도 이미 시작됐습니다. 교육청은 두 달 가까이 신규 소프트웨어 구매를 얼려 두었다가 발표 당일 다시 열었는데, 조건이 붙었습니다. 2만 5천 달러 미만의 신규 요청도 이제 교육청 IT와 법무, 계약 팀의 심사를 한 겹 더 거칩니다. 린지 오츠 부교육감은 교장들에게 이 심사가 시간이 걸릴 것이라고 미리 알렸습니다. 원래도 느린 계약 절차에 병목이 하나 더 생기는 셈입니다. 금지를 선언한 교육청은 곧바로 심사 역량을 늘려야 하는 처지가 됐습니다.
심사가 묻는 것과 묻지 않는 것
뉴욕시 교육청이 학부모용으로 함께 공개한 정책 문서에 그 절차의 이름이 적혀 있습니다. 어떤 도구든 아이에게 쓰이기 전에 검토와 승인을 거쳐야 하고, 그 검토를 ERMA라고 부릅니다. 뉴욕주 교육법 2-d와 그 시행규칙에 따라, 교육청과 일하는 모든 벤더는 학생 정보를 어떻게 다룰지 합의서에 서명하고, 어떤 데이터를 수집하며 그것을 어떻게 보호하는지 교육청에 설명하고, 공인된 보안 기준을 충족해야 합니다. ERMA가 그 전부를 확인합니다.
벤더 신고 대장은 이미 있다는 뜻입니다. 다만 그 대장에 적히는 항목이 데이터 취급입니다. 소프트웨어 안에 무엇이 들어 있는지, 그중 생성형 AI가 있는지, 그 기능이 학생과 직접 만나는지는 신고 대상에서 빠져 있습니다. 교육청도 그 경계를 스스로 적어 두었습니다. ERMA는 현재 데이터 프라이버시와 보안을 심사하며, 알고리즘 편향이나 형평성 영향, 교육 효과처럼 ERMA가 다루지 않는 영역까지 평가 역량을 넓히는 데 힘쓰겠다는 문장이 같은 문서에 있습니다. 아직은 하겠다는 다짐에 머물러 있습니다.
무엇을 여는지를 보면 같은 경계가 다시 나타납니다. 고등학교 파일럿 다섯 개를 무슨 기준으로 골랐는지 교육청이 같은 문서에 적어 두었는데, 네 항목 가운데 맨 앞이 ERMA 데이터 프라이버시·보안 심사 통과 여부입니다. 나머지 셋은 학생이 스스로 생각하게 하는 도구인지, 교사가 자기 학생에게 맞는 도구를 만들도록 가르치는지, 프로젝트 기반 학습을 여는지에 대한 판단입니다. 이미 절차가 있어서 통과 여부를 확인만 하면 되는 항목은 첫째뿐이고, 나머지는 그때그때 사람이 따져야 합니다.
그래서 38개를 세는 일이 상시 절차가 아니라 일회성 작업의 모습을 띱니다. 시장실 보도자료는 새 정책 아래 교육청이 쓰는 모든 기술 도구가 전수 재검토를 거치며, 학습에 꼭 필요하다고 판정되지 않은 기능은 막힌다고 적었습니다. 재검토에는 안전과 투명성 기준에 대한 벤더 책임, 윤리, 학습 설계와 교육 효과의 근거, 선행 연구, 사용자 피드백의 지속 수집이 포함된다고 했습니다. 원칙으로는 넓지만, 벤더가 무엇을 신고해야 하는지를 정한 항목 목록은 아닙니다.
전수 재검토는 재고조사입니다. 재고조사는 자산 대장의 원형이지 대장 자체가 아닙니다. 한 번 세고 나면 그 결과를 유지할 방법이 필요하고, 유지하려면 벤더가 제품을 바꿀 때마다 무엇이 바뀌었는지 알려야 합니다. 소프트웨어 업계가 보안 분야에서 자재명세서라는 이름으로 지난 몇 년 다뤄 온 문제와 같은 모양입니다. 목록에 적히는 항목이 취약점 대신 생성형 AI 구성요소로 바뀔 뿐입니다. 뉴욕시가 그런 신고를 의무화했다는 보도는 없습니다. 다만 금지를 집행하려 들자 그 방향의 일이 필요해진 것으로 보입니다.
용도로 그은 선
교사에게 걸린 규칙은 제품이 아니라 용도를 가릅니다. 교사와 교직원은 수업 계획과 행정 업무에 AI를 계속 쓸 수 있습니다. 자료를 번역하거나 학부모에게 보낼 안내문 초안을 잡는 일도 됩니다. 반면 채점과 행동 모니터링에는 쓸 수 없고, 배치와 진급, 졸업을 비롯해 학생에 관한 결정에도 쓸 수 없습니다. 특수교육 문서는 자격을 갖춘 전문가가 작성하고, 상담과 위기 개입, 치료 지원은 자격을 갖춘 직원만 제공한다고 정책 문서는 따로 적었습니다.
선은 그어졌는데 그것을 지키게 할 장치는 나오지 않았습니다. Chalkbeat는 시 당국이 학교가 정책을 따르도록 하는 뚜렷한 집행 기제를 제시하지 않았다고 적었습니다. 맘다니 시장 자신도 집행의 상당 부분이 교실과 학교 단위에서 이뤄질 수밖에 없다고 인정하면서, 변화가 있을 때마다 교사가 앞줄에 서 왔다며 교사와 교장, 교육감을 믿는다고 말했습니다. 교원노조 UFT의 마이클 멀그루 위원장은 결국 학교 공동체나 개별 교육자가 자기 학교가 쓰는 도구가 새 정책에 맞는지를 사후에 알아내야 하는 상황이 될 것이라고 우려했습니다.
여기서 2절의 목록 문제와 이 절의 용도 문제가 만납니다. 목록은 제품 단위로 만들어지는데 규칙은 용도 단위로 걸려 있습니다. 채점에 쓰지 말라는 규칙이 가리키는 것은 채점 도구가 아니라 그 도구의 쓰임입니다. 수업 계획을 돕던 바로 그 챗봇이 다음 창에서 답안을 채점할 수 있고, 두 쓰임이 같은 계정과 같은 화면에서 일어납니다. 제품 목록으로는 둘을 구분할 수 없습니다. 구분하려면 무엇이 깔려 있는지가 아니라 무엇에 쓰였는지가 남아야 합니다.
허용된 쓰임에는 그런 기록이 이미 설계돼 있습니다. 파일럿은 학교가 건별로 신청해 심사를 받고, 시장실 기준으로 고교당 최대 다섯 학급까지 열리며, 교육청은 학생 한 명이 두 파일럿에 겹쳐 들어가지 않게 하겠다고 적었습니다. 도구별 사용 분량도 문서의 표에 있습니다. Quill 주 15분, Edia 주 20분, Brisk Teaching 주 20~40분, Playlab 주 45분에 학기당 과제 두 건, Intel AI-Ready Schools 주 1교시입니다. 누가 무엇을 얼마나 쓰는지가 이렇게 적히는 범위는 파일럿에 들어가는 5만 명이고, 금지가 걸린 60만 명에게는 같은 표가 없습니다.
기업에서는 낯선 요구가 아닙니다. 어떤 시스템이 어떤 데이터를 어떤 목적으로 처리했는지 기록을 남기는 일은 데이터 계보라는 이름으로 오래 다뤄져 왔습니다. 학교가 그 방향으로 이미 갔다는 뜻은 아닙니다. 오히려 반대입니다. 용도로 규칙을 그어 놓고 용도를 남길 방법은 아직 없는 채로 학년이 시작됐습니다.
금지보다 먼저 오는 것
뉴욕시가 이 일을 못했다고 탓하기는 어렵습니다. 1,600개 학교를 거느린 조직이 정책을 세우고 시행일까지 여드레를 남긴 상황입니다. 이 사례에서 남는 것은 순서입니다. AI 도입에 신중한 기관이, 도입을 막겠다고 결정한 바로 그 순간에 자기가 무엇을 쓰고 있는지부터 세어야 하는 처지가 됐습니다. 정책은 하루면 발표할 수 있지만 자산 가시성은 하루에 만들어지지 않습니다.
기업의 사정도 구조가 같습니다. 사내에 깔린 SaaS 가운데 어디에 생성형 AI가 들어 있는지는 계약서를 다시 읽어서 알기 어렵습니다. 계약서가 적어 두는 범위가 대체로 데이터의 취급과 책임까지이기 때문입니다. 뉴욕시의 ERMA가 확인하는 항목이 정확히 그 자리에 있습니다. 아래 세 가지는 보도된 내용이 아닙니다. 같은 문제를 앞둔 조직이 스스로에게 물어볼 만한 형태로 옮겨 봤습니다.
- 우리가 쓰는 소프트웨어 가운데 생성형 AI가 들어 있는 것이 몇 개인지 지금 답할 수 있는가. 답할 수 없다면 그것은 목록이 없는 것이지 AI가 없는 것이 아닙니다.
- 그 판정을 공급사가 신고하는가, 우리가 매번 조사하는가. 조사로 답을 얻는 방식은 한 번은 되지만 제품이 업데이트되는 속도를 따라가지 못합니다.
- 용도별로 다른 규칙을 걸어 두었다면, 어떤 용도로 쓰였는지가 어디에 남는가. 제품 대장에는 남지 않습니다.
Editor's Note
페블러스가 데이터 품질을 진단할 때 가장 먼저 부딪히는 벽도 대개 목록입니다. 무엇이 어디에 있는지 답이 나오지 않으면 품질을 재기 전에 조사부터 해야 합니다. 뉴욕시 사례가 익숙하게 읽히는 이유가 거기 있습니다. 금지든 품질이든, 규칙을 걸기 전에 대상을 셀 수 있어야 합니다.
참고문헌
공식 문서
- 1.New York City Public Schools. (2026). "Guidance on Artificial Intelligence (AI) and Screen Time." 정책 원문. 3절의 ERMA와 뉴욕주 교육법 2-d 관련 서술과 파일럿 선정 기준, 4절의 교사 사용 규칙과 도구별 사용 분량 표, 1절의 학년별 표와 예외 조항, 2절의 방과후·지역단체 프로그램 적용 범위가 여기서 나왔습니다.
- 2.Office of the Mayor, City of New York. (2026-09-02). "Mayor Mamdani and Chancellor Samuels Put Students First with Nation's Broadest Generative AI Moratorium in Schools." 60만 명과 3분의 2, 컴패니언 챗봇 전 학년 금지, 파일럿 5종과 일반교육 학급 5만 명 상한, 고교당 다섯 학급 제한, 전수 재검토 문장의 출처입니다.
보도
- 3.Elsen-Rooney, M., Zimmerman, A. (2026-09-02). "NYC's new school AI ban explained: What's changing? What's still murky?" Chalkbeat New York. 38건과 목록 미공개, 1,600개 학교의 자료 부재와 설문 결과 비공개, Amira·HMH·Gemini 관련 서술, 예외 사례(시선 추적 기술과 Hello App), 2만 5천 달러 심사, 옹호단체 연합과 리처드 뷰어리의 반응, 멀그루 위원장 발언의 출처입니다.
- 4.Elsen-Rooney, M., Zimmerman, A. (2026-09-02). "NYC to ban student AI tools in 2-K through 8th grade and limit classroom screen time." Chalkbeat New York. 발표 당일 1보.
- 5.임대준. (2026-09). "뉴욕시 공립학교 AI 금지." AI타임스. 한국어 보도. 인명 한글 표기를 이 기사에 맞췄습니다.
- 6.ABC7NY. (2026-09). "New York City public schools banning AI use through middle school this year." 지역 방송 보도.
CNN이 같은 날 보도한 기사(cnn.com/2026/09/02/tech/new-york-city-classroom-ai-ban)는 접근이 차단돼 본문을 확인하지 못했고, 따라서 이 글은 인용하지 않았습니다.