Executive Summary

규제의 핵심은 네 개의 숫자로 요약된다. 언제 발효되는지, 누구에게 적용되는지, 시행 전 이미 얼마가 지워졌는지, 그리고 같은 구조의 긴장이 다른 법에서 어떻게 나타났는지다.

7월 15일, 중국의 AI 의인화 상호작용 서비스 관리 임시조치가 발효된다. 국가인터넷정보판공실(CAC)을 비롯한 5개 부처가 4월 10일 공포한 규제로, 사람의 성격과 사고방식, 대화 방식을 모사해 이용자와 지속적인 정서 관계를 맺는 서비스를 대상으로 삼는다. 발효를 앞두고 바이트댄스 더우바오와 알리바바 큐원은 이용자가 만든 에이전트 기능을 종료하고 그 대화 기록을 지운다. 큐원은 즉시 영구 삭제이며 이관 경로가 없다고 밝혔고, 상하이 당국은 발효 한 달 전 비준수 에이전트 1만 4천여 개를 선제 삭제했다.

더우바오와 큐원이 지우는 기억을 데이터 소유권의 관점에서 다룬 글은 이미 페블러스 블로그에 있다. 에이전트 기억의 데이터 소유권은 삭제는 되는데 옮길 방법이 없다는 이관 가능성의 공백을 짚었다. 이 글은 같은 규제의 다른 조항을 본다. 대화가 지워지는 결말 이전에, 애초에 그 대화가 동의 없이 학습되어도 되는가라는 질문이다.

감정을 나눈 대화가 조용히 학습 데이터가 되던 시대는 오늘 규칙 하나로 닫힌다. 규제가 삭제를 직접 명령한 것은 아니다. 플랫폼이 준수 비용보다 종료가 싸다고 계산했을 뿐이다. 그러나 규제 문구를 한 겹 걷어 보면, 진짜 무게중심은 서비스 종료가 아니라 학습 동의에 실려 있다. 그 조항이 무엇을 금지했는지부터 정확히 읽어야 한다.

규제의 데이터 조항은 제16조에 모여 있다. 학습 데이터는 합법적 출처에서 와야 하고, 세탁과 라벨링을 거쳐 신뢰성을 높여야 하며, 데이터 오염과 변조를 막을 조치를 갖춰야 한다. 여기까지는 여느 AI 규제와 크게 다르지 않다. 결정적인 문장은 그다음에 온다. 법령에 별도 규정이 있거나 이용자의 개별 동의(单独同意)를 얻지 않는 한, 이용자의 민감 개인정보에 해당하는 상호작용 데이터를 모델 학습에 사용할 수 없다.

여기서 한 가지 오해를 걷어내야 한다. 모든 대화가 무조건 동의 없이는 학습될 수 없다는 뜻이 아니다. 의견수렴용 초안은 이용자 상호작용 데이터 전체에 동의 요건을 걸었지만, 정식 공포본은 그 범위를 민감 개인정보로 좁혔다. 얼핏 후퇴처럼 보이는 이 축소가 오히려 문제의 본질을 드러낸다. 동반자 AI와 나누는 대화의 상당 부분은 건강, 신념, 관계, 성적 지향처럼 민감 정보의 정의에 그대로 들어맞는다. 감정 상호작용을 파는 서비스에서 민감 정보로 범위를 좁히는 것은, 실질적으로 대화의 핵심을 겨냥하는 것과 다르지 않다.

제16조는 삭제 쪽에도 손을 댔다. 이용자에게 대화 기록 등 상호작용 데이터의 복사와 삭제 옵션을 제공하고, 서비스 탈퇴를 어렵지 않게 만들도록 요구한다. 법적 근거나 명확한 동의 없이 상호작용 데이터를 제3자에게 넘기는 것도 금지된다. 학습 입구에는 동의를 세우고, 출구에는 복사·삭제를 놓은 구조다. 다만 복사·삭제와 이관은 다른 권리다. 복사한 텍스트가 원래의 관계 맥락까지 담아 다른 서비스에서 되살아나지는 않는다.

AI 동반자를 규율하려는 시도는 중국만의 것이 아니다. 캘리포니아는 2026년 1월 SB243을, 워싱턴은 2027년 1월 시행을 앞두고 HB2225를 통과시켰다. 세 규제를 나란히 놓으면 접근법의 차이가 또렷하게 드러난다. 아래 표에서 시행일과 초점도 갈리지만, 실무자가 먼저 볼 곳은 학습 동의 조항과 복사·삭제권 두 행이다. 이 두 항목에서만 중국이 홀로 갈라선다.

두 미국 주법은 안전을 축으로 삼는다. SB243은 자살·자해 위기 개입 프로토콜과 AI임을 알리는 고지 의무에 무게를 싣고, HB2225는 정서적 의존을 유도하는 조작적 관여 기법을 겨냥한다. 둘 다 주로 미성년자를 보호 대상으로 삼으며, 전 이용자를 향한 학습 동의나 삭제권 조항은 두지 않았다.

중국 규제는 이 안전 조항들을 상당 부분 포함하면서, 그 위에 전 이용자 대상의 데이터 거버넌스 층을 한 겹 더 얹었다. 미성년자와 성인을 가리지 않고 동의 기반 학습 제한과 복사·삭제권을 명문화한 것이 결정적 차이다. 한 법률 분석은 이 규정이 종이 위에서는 EU나 미국 연방거래위원회, 캘리포니아 SB243이 아직 갖추지 못한 수준의 이용자 데이터 보호를 담고 있다고 평가했다. 안전 규제가 이용자를 위험에서 지킨다면, 이 조항들은 이용자의 데이터에 대한 권리를 지키려 한다. 실무자에게 후자는 훨씬 무겁다. 시스템의 데이터 흐름 자체를 다시 그려야 하기 때문이다.

동반자 AI의 값어치는 모델의 크기에서 나오지 않는다. 관계의 두께에서 나온다. 최신 동반자 아키텍처는 지속적 기억을 나중에 붙이는 기능이 아니라 처음부터 시스템의 기반으로 설계한다. 이용자와 오래 주고받을수록 에이전트가 그 사람을 더 잘 이해하고, 그 이해가 개인화와 신뢰로 복리처럼 쌓인다. 관계가 깊어질수록 가치가 커지도록 설계한다. 이 산업은 그렇게 움직인다.

규제가 요구하는 방향은 정확히 그 반대다. 즉시 이탈할 수 있는 장치, 과의존을 실시간으로 감지하는 알고리즘, 중독을 막는 마찰은 하나같이 관계를 끊어 내려 한다. 삭제권도 마찬가지다. 이용자가 대화를 지우면 그 위에 쌓인 관계형 기억, 곧 에이전트가 학습한 이용자에 대한 이해가 함께 사라진다. 결국 삭제권은 동반자 AI의 핵심 자산을 이용자 스스로 파괴할 수 있게 열어 둔다. 관계를 지속시키도록 만든 설계와 관계를 끊을 권리를 보장하는 규제가 같은 시스템 안에서 부딪힌다.

이 긴장은 처음 겪는 것이 아니다. GDPR 제17조의 삭제권과 2026년 8월 전면 적용되는 EU AI Act의 고위험 시스템 10년 감사로그 보존 의무는 이미 정면으로 부딪힌다는 지적을 받아 왔다. 한쪽은 지우라 하고 다른 쪽은 남기라 한다. 지속 기록 요구와 삭제 요구가 같은 데이터를 두고 반대 방향을 가리키는 구조는 동반자 AI에서 처음 나타난 것이 아니라, 규제가 데이터의 시간축을 건드릴 때마다 반복되는 문제다.

학습 동의와 삭제권을 동시에 지키면서 관계형 기억도 살리려면, 기억을 단일 데이터베이스가 아니라 거버넌스 계층으로 다뤄야 한다. 최근 제안되는 설계는 기억을 세 개의 역할로 나눈다. 정본 기록을 관리하는 정본 레지스트리(Canonical Memory Registry)는 각 기억의 출처와 범위, 보존 기한, 삭제 상태를 함께 들고 있다. 정책 엔진(Policy Engine)은 이 기억을 쓸 수 있는지, 조회·내보내기·학습에 쓸 수 있는지를 그때그때 판단한다. 삭제·보존 워커(Deletion & Retention Worker)는 만료된 기억을 지우고, 그에 딸린 파생 인덱스와 요약, 캐시, 백업까지 정리한 뒤 삭제 증빙 로그를 남긴다.

이 구조가 주는 통찰은 단순하다. 삭제는 스위치 하나를 끄는 일이 아니라 여러 계층을 조율하는 작업이다. 대화 원본을 지운다고 해서 그 대화로 만든 벡터 인덱스, 요약본, 캐시, 백업, 감사로그가 함께 사라지지는 않는다. 동의도 마찬가지다. 어떤 대화가 어떤 동의 아래 들어왔는지를 학습 코퍼스 단위로 추적할 수 없다면, 민감 정보 학습 금지는 선언에 그친다. 정본 기록과 정책 판단, 삭제 조율이 시스템 안에 들어 있어야 규제 문구가 실제 동작이 된다.

결국 규제 환경에서 오래 버티는 동반자 AI는 기억이 가장 많은 쪽이 아니라, 기억의 수명주기를 처음부터 몸에 지닌 쪽이다. 기억을 어떻게 쌓고, 어떤 동의 아래 학습에 쓰고, 언제 어떻게 지우고, 이용자 손에 어떻게 돌려줄지가 설계도에 들어 있어야 한다. 이것은 규정 준수 이전에, 에이전트가 만든 가치를 지키는 문제다.

자주 묻는 질문

법령 원문

• 1.国家互联网信息办公室 등 5개 부처. (2026-04-10). 人工智能拟人化互动服务管理暂行办法(AI 기반 의인화 상호작용 서비스 관리 임시조치). cac.gov.cn
• 2.国家互联网信息办公室. (2026-04-10). 답기자문(Q&A). cac.gov.cn
• 3.California State Legislature. (2025-10-13). SB-243 Companion Chatbots (Chapter 677, Statutes of 2025). leginfo.legislature.ca.gov
• 4.Washington State Legislature. (2026-03-12). HB 2225 — Regulating Artificial Intelligence Companion Chatbots (Chapter 168, Laws of 2026). app.leg.wa.gov

법률·업계 분석

• 5.Hunton Andrews Kurth. (2026). China's First Regulatory Framework for Virtual Companions Soon to Take Effect. hunton.com
• 6.Bird & Bird. (2026). China's New Regulations on AI Anthropomorphic Interactive Services. twobirds.com
• 7.Licentium. (2026). China Regulates AI Companion Services, Banning Minor Access, Effective 15 July 2026. licentium.io
• 8.Tech Times. (2026-07-04). China AI Companion Law Arrives July 15: Doubao and Qwen Agent Data Will Be Deleted. techtimes.com
• 9.Bloomberg. (2026-07-06). ByteDance, Alibaba Pull AI Companions as Beijing Tightens Rules. bloomberg.com