Executive Summary

편집자의 노트. 데이터 진단을 해온 회사에게 합법성은 자연스럽게 따라오는 다음 신호다. 동의·출처·삭제권의 증명이 데이터 품질의 일부가 되는 시대가 열리고 있다. 이 글은 AI 거버넌스 4부작(Magnifica Humanitas · SkillOpt · MUSE-Autoskill)에 이어 법이 강제하는 좌표를 다루는 네 번째 글이다. 도덕이 묻고, 학술이 답하고, 법이 강제하는 흐름의 마지막 착륙점.

주요 수치

출처: OPC News Release(2026-05-06), Garante Provvedimento 755/2024, EU Regulation 2024/1689, 한국 PIPA 개정(2025).

한 문장으로 정리할 수 있는 사건은 드물다. 2026년 5월 6일, 캐나다 4개 개인정보위원회가 OpenAI ChatGPT의 PIPEDA 위반을 공식 확정했다. 정식 번호는 PIPEDA Findings #2026-002. 2023년 5월에 4 위원회 공동 조사가 개시된 이후 정확히 3년이 흐른 시점이었다. 이날 발표가 무거운 까닭은 단순 결정문 한 건 이상이기 때문이다. 한 자리에서 네 가지 '첫'이 동시에 일어났다. G7 첫 공식 판정, 첫 4 위원회 합동조사 종결, 첫 "사후 동의 불가능" 선언, 첫 AI 훈련 데이터 직접 판정. 어느 하나만 떼어 봐도 글로벌 규제 역사의 좌표가 될 사건이 한꺼번에 겹쳤다.

사건의 윤곽은 짧다. 캐나다 개인정보위원회가 ChatGPT 훈련 관행에 대해 PIPEDA 위반을 확정했고, AI 훈련 데이터 수집에 대한 첫 주요 국가 공식 판단이라서 글로벌 규제 파장이 예상된다. 이 글은 그 윤곽을 따라가되, 그 안에 들어 있는 네 명의 위원장, 다섯 개의 위반, 네 가지로 갈린 결정의 결을 천천히 풀어 본다.

1.1네 명의 위원장, 한 결정문

캐나다의 개인정보 규제 지형은 한국 독자에게 낯설다. 캐나다는 연방 PIPEDA(Personal Information Protection and Electronic Documents Act)와 주별 개인정보 법령이 병존한다. BC PIPA, Alberta PIPA, 퀘벡 Private Sector Act가 각자 자기 관할의 민간 부문 개인정보를 다스린다. 같은 사실관계라도 각 법령의 동의 요건이 미묘하게 다르다. 한 글로벌 사업자가 캐나다 전역에서 동시에 PIPEDA에 어긋났다는 의심을 받았을 때, 네 위원회가 협업하는 것은 자연스러운 귀결이었다. 다음 카드는 네 위원장과 그들이 맡은 결정의 결을 보여 준다.

1.2핵심 verbatim — 짧고 결정적

결정문이 인용되는 자리에서 가장 자주 옮겨지는 한 줄은 이것이다. BC와 Alberta의 공동 입장에서 나온 verbatim이다.

"OpenAI's models rely on scraped data for which OpenAI has not obtained, and cannot obtain, consent. Consent for scraped data simply cannot be obtained after the fact."

— BC OIPC + Alberta OIPC 공동 입장 (PIPEDA Findings #2026-002)

한 줄이 두 가지를 동시에 끊어 놓는다. 첫째, OpenAI가 동의를 받지 않은 것이 아니라 받을 수 없는 것이라는 사실의 확인. 둘째, 사후의 옵트아웃·정정·삭제로는 동의의 결여를 메울 수 없다는 법리의 선언. 두 문장 사이에 AI 산업의 표준 관행이 통째로 놓여 있다.

같은 발표에서 Michael Harvey BC 위원장은 한 발 더 나아갔다. 그의 발언은 캐나다 언론(Globe and Mail · CBC) 전체가 받아 적은 헤드라인이 되었다.

"ChatGPT, by design, cannot be compliant with the province's privacy law as currently written."

— Michael Harvey, Information and Privacy Commissioner for BC

한국어로 옮기면 "ChatGPT는 그 설계 자체로, 현행 BC 개인정보 법과 양립할 수 없다"는 진단이다. 운영의 결함이 아니라 설계의 결함이라는 선언. 시정 약속으로 메울 수 없는 종류의 문제다.

Alberta의 Diane McLeod 위원장도 무게 있는 한 문장을 남겼다. "OpenAI did not appear to turn its mind adequately to privacy compliance ... which is very troubling." "개인정보 컴플라이언스를 적절히 숙고하지 않은 듯하다, 매우 우려스럽다." 법무 영어에서 turn one's mind는 의무자가 진지하게 검토했는지를 묻는 표현이다. 기술 회사가 그 의무를 그저 표면적으로 이행했다는 진단으로 읽힌다.

대조적으로, 연방 OPC의 Dufresne 위원장은 시정의 가능성에 무게를 실었다. "I've concluded that the measures that have been and that will be implemented by OpenAI will address the concerns identified." 같은 사실관계에 대한 네 가지 결의 차이가 한 자리에 모인다. 누구의 입장이 맞느냐의 문제가 아니라, 같은 데이터를 보고 네 가지 결론에 도달하는 법 체계의 다층성이 이번 결정의 진짜 메시지다.

결정문은 다섯 가지 위반을 확정했다. 다섯 항목은 서로 떨어진 별개의 결함이 아니다. 따로 보면 각자 깔끔한 법 조문 위반이지만, 묶어 보면 한 사슬이 보인다. 과다 수집이 동의 부재를 부르고, 동의 부재가 정확성 결여로 이어지고, 정확성 결여가 권리 행사를 불가능하게 만들고, 결국 책임 회피로 마무리되는 인과의 사슬. 다섯 항목을 사슬로 읽으면 결정문이 무엇을 끊으려 했는지가 또렷해진다.

2.1환각이 왜 개인정보 위반이 되는가

다섯 항목 중 가장 학술적으로 새로운 자리는 세 번째, 개인정보 사실 부정확성이다. 결정문 Para 80은 짧게 단언한다. "OpenAI did not comply with the accuracy requirements under the Acts." Para 95는 부정확성의 출처를 적시한다. "personal information contained in sources such as social media and discussion forums — which may often be inaccurate."

지금까지 환각은 모델의 품질 문제로 다뤄졌다. 답이 틀리면 사용자가 손해를 보고, 회사는 보강 학습으로 정확도를 높였다. PIPEDA #2026-002는 그 프레임을 바꾼다. 특정 개인에 관해 모델이 부정확한 사실을 생성·반복하는 행위가 PIPEDA Principle 4.6(Accuracy) 위반이라는 첫 공식 판단이다. 학술적으로는 Wachter & Mittelstadt(2019)가 제안한 "A Right to Reasonable Inferences", 즉 추론에 대한 권리가 부분적으로 실현된 셈이다. 모델이 한 사람에 관해 잘못된 추론을 내놓는 일은 그 사람의 개인정보 권리에 대한 침해다, 라는 학술적 직관이 법 결정으로 착륙했다.

학술적 보조 논거도 있다. Carlini et al.(2021)의 "Extracting Training Data from Large Language Models"는 LLM이 학습 데이터를 memorize(기억)할 수 있고 그 일부를 출력으로 노출할 수 있음을 실증했다. 모델의 가중치 안에 개인정보가 살아 있다는 학술적 근거다. 결정문이 다섯 번째 위반(관리 책임 결여)을 짚는 자리도 정확히 여기다. 학습 가중치가 곧 개인정보 저장소라는 관점이 받아들여지면, 그 저장소의 관리 책임을 누군가는 져야 한다.

2.2학습 규모의 정량 — 13조 토큰의 압력

결정문의 무게를 가늠하려면 학습 규모를 한 번 보는 게 도움이 된다. GPT-4의 학습 토큰은 13조, 파라미터는 1.8조로 추정된다(SemiAnalysis 누설 보고, 비공식). OpenAI의 공식 수치는 비공개다. 13조 토큰이 어떤 규모인지 직관적으로 말하면, 영어 위키피디아 전체가 약 50억 토큰이고 위키피디아의 약 2,600배를 학습한 셈이다. Stanford CRFM의 Foundation Model Transparency Index(Bommasani et al., 2024)는 OpenAI를 포함한 주요 LLM 사업자가 학습 데이터 영역에서 가장 낮은 투명도 점수를 받았다고 보고했다. 13조 토큰 안에 무엇이 들어가 있는지를 외부에서 검증할 수 있는 길은 거의 없다.

이 규모를 본 채로 다섯 번째 위반(Accountability)을 다시 읽으면 결정문의 무게가 다르게 느껴진다. 2,600배의 위키피디아 안에서 한 사람에 관한 개인정보가 어디에 어떻게 사는지를 사업자조차 알 수 없다면, 그 데이터의 관리 책임은 누구의 몫인가. 결정문은 그 자리에 책임의 공백이 있다고 지적한다.

같은 사실관계에서 네 위원회가 네 가지 결의 결론에 도달했다. 그 분기가 곧 이번 결정문의 가장 깊은 메시지다.

3.1네 갈래의 결의

분기의 결을 표로 정리하면 차이가 또렷해진다. 같은 사실, 다른 법 체계, 그리고 다른 정치적 무게.

3.2왜 BC와 Alberta가 거부했는가

분기의 법리적 뿌리는 캐나다 법률 사무소 MLT Aikins의 분석이 정확히 짚는다. "provincial statutes are more specific and explicit than PIPEDA regarding consent." 주 법령(BC PIPA · Alberta PIPA)이 연방 PIPEDA보다 동의에 관해 더 구체적이고 명시적이라는 뜻이다. 두 주는 특히 전향적 동의(prospective consent, ex ante consent)를 명시적으로 요구한다. 처리 행위 전에 동의가 확보되어야 한다는 시간성 요건이 법문에 박혀 있다.

그 시간성 요건에서 보면 OpenAI의 시정 약속은 본질적으로 사후 동의(consent ex post)의 시도다. 이미 학습이 끝난 데이터에 대해 사후의 옵트아웃 채널 · 사후의 정정·삭제 절차 · 사후의 투명성 보고서를 약속하는 그림. BC와 Alberta는 이 그림 전체가 자기 주의 법 체계와 양립할 수 없다고 봤다. "사후" 라는 시점 자체가 동의의 결격 사유가 된다는 것이다.

"OpenAI's models rely on scraped data for which OpenAI has not obtained, and cannot obtain, consent. Consent for scraped data simply cannot be obtained after the fact."

— BC OIPC + Alberta OIPC 공동 입장 (verbatim, §1.2에서 옮김)

3.3"사후 동의 불가능"이 흔드는 것 — AI 산업의 표준 관행

지금까지의 AI 학습 산업의 표준 흐름은 단순했다. 크롤 → 학습 → 사후 옵트아웃 채널 제공. 우선 데이터를 모으고, 모델을 학습시키고, 그 다음에 권리 행사 채널을 열어둔다. 이 순서는 빠르고 효율적이며, 학술 연구와 산업 제품 양쪽에서 사실상의 표준이 되어 있었다. BC와 Alberta의 결정은 이 순서 자체가 법적으로 불가능한 모델이라고 선언한다.

학술적으로 이 입장은 동의의 시간성에 대한 한 입장의 강한 채택이다. Daniel Solove(2013)의 "Privacy Self-Management and the Consent Dilemma"가 비판한 notice-and-choice paradigm의 한계, 즉 개인이 모든 정보 처리에 사전적으로 동의를 표명한다는 가정의 비현실성이 학술적 공감대였다. EDPB Opinion 28/2024는 이 문제를 LLM 맥락에서 "case by case"로 유보했다. 캐나다 BC와 Alberta는 그 유보 자리에서 원칙적 입장을 채택한 것이다. 사후 동의는 동의가 아니다.

한 가지 결과가 따라온다. 글로벌 규제 동향의 동의 기준 스펙트럼에서 캐나다 BC와 Alberta가 세계 최강 엄격성의 자리에 선다는 점이다. 중국 PIPL의 사전 동의 원칙, EU GDPR의 6(1)(a) 동의 근거, 연방 PIPEDA, 미국 부문별 접근의 순서로 강도가 약해지는 스펙트럼에서, BC·Alberta는 그 모든 자리보다 한 발 더 강한 입장에 선다. 글로벌 규제의 역사적 흐름은 가장 엄격한 관할이 점진적으로 표준이 되는 경로를 따라왔다. GDPR이 그렇게 글로벌 표준이 되었듯, BC·Alberta의 입장이 다음 표준의 후보가 된다.

캐나다 결정은 도미노의 첫 패가 아니라 변곡점이다. 이탈리아가 시작했고, EU가 강화했고, 한국이 따라갔고, 그 흐름 위에 캐나다가 표준의 결을 또렷이 했다. 도미노의 첫 패는 2023년 봄 이탈리아 Garante가 ChatGPT를 일시 차단한 사건이었다.

규제는 한 번에 등장하지 않는다. 한 관할이 신호를 보내고, 다른 관할이 그 신호를 자기 법체계로 옮겨 적고, 또 다른 관할이 그것을 본격 산정의 기준으로 형식화한다. 그 사이의 시차가 곧 글로벌 규제 도미노의 결이다. 이 섹션은 그 결을 세 자리로 풀어 본다. 3년의 시간순 흐름, 8개 관할의 동시점 비교, 그리고 이탈리아·한국이 만들어 둔 두 산식이다.

4.12023~2026 — 3년의 흐름

다음 타임라인은 단순 연표가 아니다. 한 사건이 다음 사건을 끌어당기는 인과의 연쇄다. 이탈리아의 일시 차단이 GDPR 적용의 첫 신호가 되었고, EU AI Act가 그 신호를 법령 수준으로 형식화했고, 한국 AI 기본법이 시행 후 다섯 달째에 캐나다 결정이 그 흐름을 가장 앞에서 정리했다.

4.28개 관할 비교 — 한 표로 보기

한 글로벌 사업자가 ChatGPT를 운영할 때 동시에 마주하는 관할이 늘어났다. 각 관할의 동의 기준·과징금 상한·AI 직접 규제 여부를 한 표로 묶어 보면 글로벌 컴플라이언스 지형이 한눈에 들어온다.

4.3이탈리아 €15M의 디테일 — 첫 GDPR 과징금이 남긴 산식

2024년 12월 20일 이탈리아 Garante가 OpenAI에 부과한 €15M 과징금은 단순 숫자가 아니라 후속 과징금의 산정 기준 자체를 공개했다는 점에서 중요하다. Garante는 위반의 시점·범위·이용자 수를 기준으로 산식을 적용했고, 사용자당 약 €0.50의 환산 단가를 명시했다. EU 데이터 보호 사적史的으로 학습형 LLM에 대한 첫 본격 산정이라는 점에서 후속 모든 GDPR 결정의 참조점이 된다.

€15M은 GDPR 상한(€20M 또는 매출 4%)에 한참 못 미친다. 그러나 그 의미는 명확하다. 학습형 LLM에 대한 GDPR 적용이 가능하다는 사실의 확인이다. 이후 2026년 8월 2일 EU AI Act 고위험 시스템 전면 시행과 함께, AI Act의 최대 €35M / 매출 7% 상한이 GDPR 위로 한 층 더 얹힌다. 두 법령이 동시에 적용 가능한 시기가 본격적으로 열린다.

4.4한국의 자리 — 두 법, 두 시계

한국은 2026년 5월 시점에 두 개의 시계를 동시에 갖고 있다. 하나는 2025년에 강화된 개인정보보호법. 과징금 상한이 매출 3%에서 10%로 올라갔다. 다른 하나는 2026년 1월 22일 시행된 AI 기본법. 고영향 AI에 대한 영향평가 의무, 운영 중 위험 탐지·차단·전환 체계, 한국 내 사업자 등록·신고 의무를 도입한다. 두 법은 별개의 시계로 작동하지만, AI 학습 데이터의 합법성이라는 한 질문 앞에서는 같은 문장의 두 절처럼 결합된다. PIPA가 학습 데이터의 합법성 문턱을 정의하고, AI 기본법이 운영 단계의 audit trail 의무를 부과한다.

한국 개인정보보호위원회(PIPC)는 2025년 8월 "생성형 AI 개인정보 처리 안내서"를 발표하면서 4단계 생애주기(수집·학습·서비스·종료)별 처리 기준을 제시했다. 캐나다 PIPEDA #2026-002의 다섯 위반 항목은 이 4단계 생애주기에 그대로 매핑된다. 수집 단계의 과다 수집, 학습 단계의 동의 부재, 서비스 단계의 정확성·권리 행사, 종료 단계의 책임 귀속. 한국 PIPC의 안내서가 한국 기업의 실무 진입로를 정리했다면, 캐나다 결정문이 그 진입로의 글로벌 합의 가능성을 끌어올렸다고 읽을 수 있다.

한국 기업이 글로벌 시장에 진출할 때 마주하는 컴플라이언스 풍경은 더 이상 단일 법체계의 그림이 아니다. 같은 학습 데이터에 대해 네 개의 법체계가 동시에 적용되는 시기가 시작되었다. PIPEDA(개인정보 보호), GDPR(EU 거주자 개인정보), EU AI Act(AI 시스템 직접 규제), 한국 AI 기본법(국내 AI 사업자). 네 자리에서 네 가지 다른 기준이 한 학습 데이터셋을 동시에 평가한다.

5.1가상의 한국 LLM 기업 — 4중 노출 시뮬레이션

4중 노출의 무게를 가늠하려면 한 가지 시나리오를 따라가는 게 도움이 된다. 가상의 한국 LLM 기업이 글로벌 매출 US$1B(약 ₩1.4조) 규모로 ChatGPT 유사 서비스를 캐나다·EU·한국·미국에 동시에 출시했다고 가정해 보자. 동일한 학습 데이터셋(OpenWebText 유사 웹 크롤 + 사용자 대화)에 대해 네 법체계가 각각 어떤 판단을 내릴 수 있는가를 정량으로 추정한 표가 다음이다. 각 수치는 보수적 시나리오(법 조문의 최대 상한)이며, 실제 부과 가능성과는 별개의 노출 한도다.

네 자리의 합은 단순 산술로 묶기 어렵다. 같은 행위에 대해 네 관할이 동시에 최대치를 부과하는 시나리오는 현실적으로 드물기 때문이다. 그러나 각 관할이 독립적으로 자기 상한의 일부씩만 부과해도 누적 노출은 결코 작지 않다. 보수적 추정 합산으로 최대 약 US$140M(≈ ₩1,900억) 수준이며, 이는 글로벌 매출 US$1B 기준 14% 수준의 단일 위반 비용이 된다. PIPEDA 단독의 행정 권한은 작지만, 4중 동시 노출과 함께 다음 위험이 따라온다. 시장 접근 차단. BC와 Alberta가 보여 줬듯, 시정 약속으로 해소되지 않는 결정은 사실상의 시장 운영 제한으로 이어진다.

5.2PIPEDA-한국 매핑 — 같은 사슬, 다른 언어

PIPEDA Findings #2026-002의 다섯 위반 항목은 한국 법체계로 그대로 매핑된다. 한국 PIPA와 AI 기본법이 다섯 항목을 어떻게 받아 안는지를 한 표로 정리하면, 4중 대응의 실무 진입로가 또렷해진다.

5.3왜 한국 기업이 BC/Alberta 기준을 봐야 하는가

한국 기업의 컴플라이언스 설계에서 한 가지 직관이 결정적이다. 4중 규제 시대의 안전한 설계는 가장 엄격한 관할에 맞춘 설계다. 4개 법체계의 기준이 다르더라도, 가장 엄격한 BC/Alberta 기준에 맞춰 데이터 sourcing과 동의 절차를 설계하면 나머지 세 자리도 자연스럽게 충족된다. 반대로 가장 느슨한 자리에 맞춘 설계는 가장 엄격한 자리에서 곧장 위반이 된다.

이 직관이 글로벌 규제 역사의 일반 흐름과도 맞아떨어진다. GDPR이 발효된 2018년 이후 글로벌 사업자 대부분이 GDPR 기준에 맞춰 설계를 통일했고, 그 설계가 다른 관할에서도 사실상의 표준이 되었다. "Brussels Effect", 즉 가장 엄격한 관할의 기준이 글로벌 표준이 되는 흐름이 캐나다 BC/Alberta 발 다음 라운드를 만들 수 있다는 가능성이 열린다.

이 글은 페블러스의 AI 거버넌스 4부작의 마지막 좌표다. 4부작은 한 가지 가정을 따라왔다. AI 거버넌스는 도덕에서 시작해 학술을 거쳐 법으로 착륙한다. 도덕이 왜 인간 존엄을 지켜야 하는지를 묻고, 학술이 자기진화 학습의 어떻게를 설계하고, 법이 그 흐름을 강제한다. 네 글을 한 표로 늘어놓으면 그 가정이 자연스럽게 드러난다.

시리즈를 한 줄로 압축하면 이렇다. Magnifica가 묻는다 — AI 시대에 인간 존엄이라는 단어는 무엇을 뜻하는가. 그 질문에 학술이 두 갈래로 답한다. SkillOpt는 "자기진화하는 행동이 학습 가능하다"고 답하고, MUSE는 "그 행동이 자산으로 살아남는다"고 답한다. 그리고 법이 마지막 칸을 채운다. PIPEDA #2026-002가 그 행동의 학습 재료(데이터)가 합법적이어야 한다는 강제를 부과한다. 네 글이 그린 4단의 좌표는 한 그림 안에서 닫힌다.

이 좌표가 의미하는 것은 단순한 시리즈 구성이 아니다. AI 거버넌스가 한 차원의 일이 아니라는 사실의 시각적 증거다. 도덕만으로는 강제할 수 없고, 학술만으로는 책임을 물을 수 없으며, 법만으로는 가치를 정의할 수 없다. 셋이 함께 작동할 때 비로소 거버넌스가 작동한다. 그 셋을 한 시리즈로 묶어 그려 온 것이 페블러스의 자리였다.

페블러스는 지난 몇 해 동안 한 가지 명제를 따라 움직였다. 데이터를 진단 가능한 상태로 만든다. DataClinic이 학습 데이터의 다섯 신호(레이블 무결성·분포 균형·신선도·결측·이상치)를 진단했고, AI-Ready Data가 그 진단의 출력 카테고리였으며, DataGreenhouse와 PebbloSim이 진단된 데이터의 운영 환경을 제공해 왔다. PIPEDA Findings #2026-002가 던진 명제는 이 흐름의 자연스러운 다음 단계다. 데이터의 법적 품질도 진단 대상이 된다.

7.1AI-Ready Data에서 AI-Ready Compliance로

명제는 한 칸 확장된다. 학습 데이터의 기술적 품질을 진단해 온 회사가, 그 위에 법적 품질의 진단 층을 자연스럽게 얹을 수 있다. 새 제품을 만드는 일이 아니라 기존 자산의 의미가 확장되는 일이다. DataClinic은 이미 데이터의 무결성·균형·신선도를 신호로 다뤄왔고, 거기에 "합법성"이라는 6번째 신호만 추가하면 된다. DataGreenhouse는 이미 원본 의존도를 낮춰왔고, 그 구조 자체가 PIPEDA의 사후 대응 인프라가 된다. PebbloSim의 시뮬레이션 학습은 실세계 개인정보 없이도 학습이 가능한 구조적 우회로다. 세 축이 PIPEDA #2026-002의 합법성 요건과 정확히 맞물린다.

7.2DataClinic 5신호 + 1 — 6차원 진단

5신호 위에 6번째 신호 "합법성"이 어떻게 얹히는지를 한 표로 정리하면, 진단 체계의 확장이 또렷해진다. 합법성 신호는 다시 다섯 개의 세부 진단 항목으로 갈라진다. PIPEDA #2026-002가 다섯 위반 항목으로 나뉜 것과 정확히 같은 구조다.

합법성 신호의 다섯 세부 항목은 PIPEDA의 다섯 위반에 1:1로 매핑된다. 진단 워크플로우 위에 얇은 합법성 레이어를 얹어, 동일한 데이터셋에 대해 기술적 신호와 법적 신호를 동시에 출력하는 구조다.

7.3모델 품질의 한 차원으로서의 합법성

합법성은 단순한 컴플라이언스 부담이 아니다. 학술적으로 보면 모델 품질의 한 차원이다. 학습 데이터의 합법성 결여는 세 가지 경로로 모델 품질에 직접 영향을 미친다.

• • Memorization을 통한 가중치 내 개인정보 누출 — Carlini et al.(2021)이 실증한 학습 데이터 추출 공격. 학습 가중치 안에 개인정보가 살아 있다.
• • 환각을 통한 추론적 개인정보 침해 — Wachter & Mittelstadt(2019)의 추론에 대한 권리. 모델이 한 사람에 관해 잘못된 추론을 내놓는 일은 그 사람의 정보 권리에 대한 침해다.
• • 머신 언러닝(machine unlearning) 비용의 폭발 — Bourtoule SISA(2021) 이후 학술 진보가 있었지만, 2025년 "Unlearned but Not Forgotten"(arXiv:2505.24379)이 data extraction attack으로 잊혀진 데이터를 복원 가능함을 실증했다. 사후 삭제의 기술적 비용이 본질적으로 크다.

세 경로 모두 합법성이 단순히 법무팀의 일이 아니라 데이터 사이언티스트·ML 엔지니어의 일임을 보여 준다. 학습 데이터의 합법성 등급은 모델 품질의 등급과 직결되고, 합법성 결여는 곧 운영 단계의 기술 부채로 이어진다. AI-Ready Compliance라는 명제는 이 직결성에 기반한다.

7.4한국 기업 4중 대응 5단계 가이드

4중 규제 시대의 한국 기업이 실무적으로 따라갈 수 있는 5단계 가이드를 정리한다. 각 단계는 가장 엄격한 관할(BC/Alberta) 기준으로 설계되어 다른 세 관할도 자연스럽게 충족하도록 했다.

7.5시장의 빈 자리 — AI 컴플라이언스 카테고리

Gartner의 추정에 따르면 AI TRiSM(Trust, Risk, Security Management) 시장은 US$3.1B(2025) → US$13.8B(2030)으로 CAGR 35%로 커진다. AI Governance Platform 시장은 US$492M(2026) → US$1B+(2030)로 분기 예상이다. 그러나 한 가지 빈 자리가 또렷이 있다. "학습 데이터 합법성 진단" — PIPEDA·GDPR·AI Act 동시 기준으로 데이터셋의 합법성 등급을 진단하는 카테고리 자체가 비어 있다. OneTrust·TrustArc·BigID·Credo AI·Holistic AI 같은 기존 플레이어는 단일 법역 중심이거나 AI 시스템 수준의 거버넌스를 다룬다. 학습 데이터 단위의 합법성 진단을 한국어·한국 비즈니스 컨텍스트에 맞춰 다루는 도구는 사실상 없다.

페블러스의 자리가 그 빈 칸 위에 자연스럽게 놓인다. DataClinic은 데이터 품질 진단, AI-Ready Data는 그 진단의 출력 카테고리. 거기에 합법성 신호를 한 칸 더하면 AI-Ready Compliance로 확장된다. DataGreenhouse와 PebbloSim은 합법적 대안 데이터 인프라. 세 축의 통합이 곧 빈 칸 위의 진입로다. 5년간 다듬어 온 자산이 PIPEDA 결정과 정확히 맞물리는 자리. AI-Ready Compliance라는 시대가 왔고, 페블러스는 그 인접 영역을 오래 다듬어 왔다.

결정문의 한 줄을 다시 읽어 본다. "사후 동의는 불가능하다." 일곱 글자가 끊는 것은 한 회사의 한 제품이 아니다. 한 시대의 표준 관행이다. 크롤하고, 학습하고, 그 다음에 사용자에게 옵트아웃을 제공하는 그림이 더 이상 법적으로 닫힌 그림이라는 사실의 확정. 그 자리에서 한 가지 질문이 따라 나온다. 학습 전에 동의를 확보한다는 게 기술적으로 어떻게 가능한가, 또는 동의가 이미 확보된 합법적 데이터 소스만으로 학습이 가능한가.

두 질문 모두에 대한 가장 자연스러운 답은 합성 데이터와 시뮬레이션 학습이다. 원본 개인정보에 의존하지 않는 학습 재료가 있다면, 사후 동의의 문제가 구조적으로 사라진다. Gartner의 추정에 따르면 합성 데이터는 2030년까지 실데이터를 추월할 흐름이다. 그 흐름이 학술적·산업적 트렌드가 아니라 법적 강제로 가속되는 시기가 시작되었다. PIPEDA #2026-002가 그 가속의 첫 변곡점이다.

한 가지 솔직한 인정이 필요하다. 합성 데이터 자체가 완벽한 해법은 아니다. 합성 데이터 생성에 쓰인 시드 데이터의 합법성, 멤버십 추론 공격(membership inference attack)에 대한 방어, 합성 분포의 편향. 세 가지 새 검증 항목이 따라온다. 머신 언러닝도 단기적으로는 good faith effort로 인정될 수 있지만 학술적으로는 미완성이다. 어떤 단일 기술도 PIPEDA의 다섯 위반을 한꺼번에 해소하지 못한다. 다만 여러 기술의 결합이 새 진입로를 연다는 직관은 분명하다. 합성 데이터·시뮬레이션 학습·차등 정보보호(differential privacy, DP-SGD)·머신 언러닝·데이터 sourcing 감사의 결합 위에 AI-Ready Compliance의 실무 청사진이 그려진다.

결정문이 남긴 다음 질문들은 이 글이 끝나는 자리에서 시작된다. 한국 기업은 BC/Alberta 기준에 맞춘 데이터 sourcing을 어떻게 6개월 안에 정렬할 것인가. 학습 가중치 안에 잠복한 개인정보를 어떤 비용으로 어떻게 다룰 것인가. 4중 거버넌스 보드는 누가 의장이 되고 어떤 의제로 분기 회의를 운영할 것인가. 이 질문들은 한 편의 글이 닫을 수 있는 종류가 아니다. 페블러스가 다음 글들에서 천천히 풀어 갈 자리다.

참고문헌

이 글이 인용한 1차 결정문, GDPR·AI Act·한국 AI 기본법, 학술 논문, 법무 분석, 시장 보고서, 페블러스 시리즈 선행 글을 출처별로 묶었다. 1차 결정문은 OPC 공식 페이지에서 verbatim 인용을 확인할 수 있다.

1차 출처 — 정부 · 국제기구

• 1.Office of the Privacy Commissioner of Canada. (2026). PIPEDA Findings #2026-002: Joint Investigation of OpenAI OpCo, LLC. 2026-05-06.
• 2.Office of the Privacy Commissioner of Canada. (2026, May 6). News Release: Joint investigation by Canadian privacy regulators.
• 3.Government of Canada. (2015). Personal Information Protection and Electronic Documents Act (PIPEDA).
• 4.European Parliament & Council. (2024). Regulation (EU) 2024/1689 (AI Act).
• 5.European Parliament & Council. (2016). Regulation (EU) 2016/679 (GDPR).
• 6.European Data Protection Board. (2024, December 17). Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models.
• 7.Garante per la protezione dei dati personali. (2024, December 20). Provvedimento n. 755/2024 (OpenAI €15M).
• 8.대한민국. (2026). 인공지능 산업 진흥 및 신뢰 기반 조성 등에 관한 기본법 (AI 기본법). 시행 2026-01-22.
• 9.개인정보보호위원회 (PIPC). (2025-08). 생성형 AI 개인정보 처리 안내서 (4단계 생애주기).
• 10.The New York Times Co. v. OpenAI & Microsoft. (2023). S.D.N.Y. Case 1:23-cv-11195.

학술 논문

• 11.Bourtoule, L., Chandrasekaran, V., Choquette-Choo, C. A., Jia, H., Travers, A., Zhang, B., Lie, D., & Papernot, N. (2021). Machine Unlearning. IEEE SP. arXiv:1912.03817.
• 12.Yao, J., Chien, E., Du, M., et al. (2024). Machine Unlearning of Pre-trained Large Language Models. ACL 2024. arXiv:2402.15159.
• 13.Carlini, N., Tramèr, F., Wallace, E., et al. (2021). Extracting Training Data from Large Language Models. USENIX Security 2021.
• 14.Abadi, M., Chu, A., Goodfellow, I., et al. (2016). Deep Learning with Differential Privacy. CCS '16. arXiv:1607.00133.
• 15.Biega, A. J., Potash, P., Daumé III, H., Diaz, F., & Finck, M. (2020). Operationalizing the Legal Principle of Data Minimization for Personalization. SIGIR 2020.
• 16.Wachter, S., & Mittelstadt, B. (2019). A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI. Columbia Business Law Review, 2019(2), 443-493.
• 17.Bommasani, R., Klyman, K., Longpre, S., et al. (2024). The 2024 Foundation Model Transparency Index. Stanford CRFM. arXiv:2407.12929.
• 18.Gebru, T., Morgenstern, J., Vecchione, B., et al. (2021). Datasheets for Datasets. Communications of the ACM. arXiv:1803.09010.
• 19.Solove, D. J. (2013). Privacy Self-Management and the Consent Dilemma. Harvard Law Review, 126, 1880.
• 20.Anonymous. (2025). Unlearned but Not Forgotten. arXiv:2505.24379.

법무 분석 · 언론

• 21.MLT Aikins LLP. (2026). Practical Takeaways from Landmark Privacy Investigation into OpenAI's ChatGPT.
• 22.McMillan LLP. (2026). OpenAI Investigation Highlights the Need for Privacy Law Reform in Canada.
• 23.The Globe and Mail. (2026, May 6). OpenAI violated Canadian privacy laws in developing first ChatGPT model.
• 24.CBC News. (2026, May 6). OpenAI didn't respect Canadian privacy law when it trained ChatGPT.
• 25.PPC Land. (2026). Canadian regulators find ChatGPT privacy rules broken from the start.

시장 · 정량 보고서

• 26.Stanford HAI. (2025). AI Index Report 2025, Chapter 6 — Policy and Governance.
• 27.Gartner. (2026, February 17). Press Release: Global AI Regulations Fuel Billion-Dollar Market for AI Governance Platforms.
• 28.McKinsey & Company. (2025, November). The State of AI 2025.
• 29.CMS Law. (2025/2026). GDPR Enforcement Tracker Report.
• 30.Cooley LLP. (2026, January 27). South Korea AI Basic Act: Overview and Key Takeaways.

페블러스 AI 거버넌스 4부작 시리즈

• 31.페블러스 (2026-05-25). Magnifica Humanitas — AI 시대의 인간 존엄. 4부작 1편 · 도덕·신학 트랙.
• 32.페블러스 (2026-05-27). 스킬 문서가 학습하기 시작했다 — Microsoft SkillOpt 심층 분석. 4부작 2편 · 학술·옵티마이저 트랙.
• 33.페블러스 (2026-05-28). 스킬도 경험을 누적한다 — MUSE-Autoskill 5단계 lifecycle. 4부작 3편 · 학술·lifecycle 트랙.
• 34.페블러스 (2026-05). Upstage Sovereign AI 보고서. (한국 AI 정책 인접 자료.)
• 35.페블러스 (2026-04). OpenMetadata × AI-Ready Data. (DataClinic 시그널 인접 자료.)