Executive Summary

주요 수치

네 숫자를 뽑았다. 앞의 둘은 조항을 만든 사건의 크기이고, 셋째는 그 사건이 실제로 닿은 거리다. 마지막은 같은 개정에서 함께 바뀐 고위험 목록의 크기다.

출처: Anthropic Usage Policy (2026-11-12 발효), Countering misuse of AI: September 2026.

11월 12일 발효한 사용 정책에 '기만적 캠페인이나 인위적 활동에 관여하지 말 것'이라는 절이 새로 섰다. 이번 개정으로 손본 대목은 모두 일곱이고, 이 절의 신설이 발표문 목록의 맨 앞에 놓였다. 앤트로픽은 선거·사기·프라이버시·허위정보 절에 흩어져 있던 금지들을 이 한 절로 모았고, 정치적 목적이든 상업적 목적이든 가리지 않고 적용한다고 밝혔다. 그 절에 적힌 여러 줄 가운데 하나가 아래 문장이다.

"Manipulate the sources from which search engines or AI systems draw answers by seeding them with content that misrepresents its origin, authorship, or independence (e.g., networks of sites posing as unaffiliated sources corroborating the same claims)"

"검색엔진이나 AI 시스템이 답변을 끌어오는 출처를, 그 콘텐츠의 출처·저자·독립성을 거짓으로 표시한 글을 심어 조작하는 행위(예: 같은 주장을 뒷받침하는 무관한 출처인 척하는 사이트 네트워크)"

Anthropic Usage Policy, 'Do Not Engage in Deceptive Campaigns or Artificial Activity' 절. 2026년 11월 12일 발효.

경계를 긋는 것은 세 낱말이다. 출처(origin), 저자(authorship), 독립성(independence). 무엇을 썼는지가 아니라 그 글이 어디서 나왔고 누구 손으로 쓰였고 누구와 이해관계가 없는지를 사실대로 밝혔는지가 기준이다. 정책이 괄호 안에 든 예시도 같은 자리를 짚는다. 같은 주장을 서로 뒷받침해 주는 독립 출처인 척하는 사이트 묶음이다.

같은 절은 이 한 줄만 담고 있지 않다. 실제 개인이나 단체를 사칭하거나 가짜 페르소나와 계정으로 콘텐츠의 출처를 속이는 일, 여론이나 결정권자를 겨냥한 콘텐츠의 후원 관계를 숨기는 일, 공통 출처라는 사실을 가리려고 가짜 매체와 계정의 네트워크로 콘텐츠를 뿌리는 일, 그리고 그런 활동을 쉽게 만드는 도구를 짓는 일이 함께 적혀 있다.

그런데 10월 8일 발표문을 끝까지 읽어도 검색엔진과 AI 답변 이야기는 나오지 않는다. 발표문에서 'search engine'도 'AI system'도 'authorship'도 'independence'도 한 번 쓰이지 않는다. 발표문이 설명한 기만 행위는 가짜 계정으로 메시지의 배후를 가리거나 콘텐츠를 증폭하는 일, 영향력 작전을 돌릴 도구와 인프라를 짓는 일이었다. AI가 집어 들 출처를 겨냥한 줄은 정책 본문을 따로 열어야 보인다. 아래 표는 두 문서를 같은 낱말로 찾아 대조한 결과다.

▲ 앤트로픽 발표문(2026-10-08)과 사용 정책 본문(2026-11-12 발효)에서 같은 낱말을 찾아 대조했다.

가장 널리 인용된 변화도 이 줄이 아니었다. 같은 개정에는 모델을 향한 지속적이고 불필요한 학대를 금지하는 조항이 함께 들어갔고, 국내외 보도 대부분이 그쪽을 제목에 올렸다. 그 조항과 집행 구조는 앞선 글에서 따로 다뤘다.

발표문은 이 절을 만든 이유로 한 달 앞서 공개한 글을 가리켰다. 국영 매체와 정부 선전 기관, 그리고 상업 회사가 클로드를 써서 가짜 계정망과 조작된 뉴스 사이트를 돌린 사례를 봤다는 것이다. 그 사례들이 실린 문서가 9월 10일 공개된 위협 보고서이고, 2025년 12월부터 2026년 8월까지 관찰한 내용을 담았다.

보고서에서 이번 조항과 가장 가까운 사례는 GTG-54002로 매겨진 건이다. 독립 지역 언론사처럼 꾸민 뉴스 사이트가 약 70곳 있었고, 앤트로픽은 이 운영의 주체를 프랑스에 기반을 둔 디지털 광고대행사 LKM Company로 추적했다. 70곳의 도메인은 2025년 중반 열 주 사이에 프랑스에서 모두 등록됐다. 네트워크는 적어도 8,913건의 기사를 약 20개 언어로 냈다. 사이트마다 X 계정이 하나씩 짝지어져 있었고, 사이트와 정확히 같은 시기에 만들어진 댓글용 계정 한 층이 따로 있었다. 댓글 계정은 250개가 넘었고, 그 상당수가 AI로 생성한 프로필 사진을 썼다.

운영 방식은 선전보다 영업에 가까웠다. 보고서는 이 행위자들이 같은 원본 기사를 서로 반대 방향의 이념으로 다시 쓰는 수법에 거듭 기댔고, 그때그때 돈을 내는 쪽에 맞춰 정치적 입장을 옮겼다고 적었다. 그러면서도 어느 고객이 이 콘텐츠를 주문했는지는 독립적으로 확인하지 못했고, 어떤 정부가 지시했다는 증거도 찾지 못했다고 밝혔다.

이 묶음을 풀어낸 단서는 기사의 내용이 아니었다. 70곳이 공유 인프라 위에 올라가 있어 하나의 운영자 계정으로 이어졌고, 콩고민주공화국과 르완다의 분쟁을 다룬 거의 같은 기사가 여러 사이트에 3분 안에 올라왔다. 제작 과정도 흔적을 남겼다. 클로드에게 준 프롬프트가 하나같이 고정된 JSON 출력 구조와 서식이 갖춰진 HTML, 정확한 글자 수 제한, 기사당 내부 링크 3~4개를 요구했다.

▲ 페블러스 원본 도식. 네 가지 흔적은 앤트로픽 위협 보고서(2026-09-10)의 GTG-54002 사례 서술에서 옮겼다.

같은 보고서에 사례가 하나 더 있다. GTG-84005로 매겨진 말레이시아의 합성 뉴스 매체 'Malaysia Pulse'다. 이 매체는 현지 언론의 기사를 긁어와 모델로 여러 번 고쳐 쓴 뒤 지어낸 기자 이름을 달아 다시 냈다. TV BRICS와 신화통신, 스푸트니크/RIA, CGTN 같은 러시아·중국 국영 계열 매체의 기사도 가져다 실었는데, 국가가 낸 글이라는 표시를 지우고 독립적인 말레이시아 보도인 것처럼 내놨다. 여기 붙은 가짜 X 계정은 1,000개쯤 된다.

조항이 적은 세 가지가 이 한 매체에서 동시에 어긋나 있다. 기사가 어디서 왔는지, 누가 썼는지, 누구와 이해관계가 없는지가 모두 표시와 달랐다. 보고서는 이 매체의 확산 등급도 2단계로 적었다. 여러 플랫폼에 자산이 뿌려졌지만 진짜 공동체 안으로 번진 증거는 찾지 못했다는 뜻이다.

규모만 보면 성공한 작전처럼 읽힌다. 그런데 보고서는 70곳 사례를 적으면서 결과를 두 문장으로 못 박아 두었다.

"most of the content we identified generated little observable engagement from real audiences"

"we would assess this activity as Category Two: content distributed across the network's own websites and matching social media accounts, with no evidence of breakout beyond its own activity"

"우리가 확인한 콘텐츠 대부분은 실제 독자에게서 눈에 띄는 반응을 거의 만들어 내지 못했다." / "이 활동은 2단계로 평가한다. 콘텐츠가 네트워크 자신의 웹사이트와 짝지어진 소셜 계정 안에서만 돌았고, 그 바깥으로 퍼져 나간 증거는 없다."

Anthropic, Countering misuse of AI: September 2026. 등급은 브루킹스연구소의 Breakout Scale을 따랐다.

여기서 간극이 생긴다. 조항이 막으려는 결과는 AI가 답변을 만들 때 그런 글을 근거로 집어 드는 일이다. 그런데 공개된 문서에서 확인되는 것은 그 지점까지 가지 못한 네트워크 둘이다. 앤트로픽은 70곳을 돌린 작전을 진짜 독자층이 생기기 전에 일찍 끊었다고 적었다. 기록에 남은 것은 거기까지 가는 길이 열려 있었다는 사실이다.

그래서 이 조항은 이미 벌어진 일을 벌하는 규정보다 아직 열려 있는 경로를 미리 닫는 규정에 가깝다고 이 글은 본다. 선제적이라는 말에 흠잡을 뜻은 없다. 다만 조항의 문구를 읽을 때와 그 조항의 효과를 가늠할 때는 다른 잣대를 대야 한다. 문구는 정확하지만, 그 문구가 겨냥한 피해의 크기는 아직 아무도 재지 않았다.

범위에도 선이 있다. 사용 정책이 묶는 대상은 앤트로픽의 제품을 쓰는 쪽이다. 다른 도구로 만들어 이미 웹에 올라간 글에는 닿지 않고, 그런 글을 내리게 할 힘도 여기엔 없다. 클로드가 답변을 만들 때 그런 출처를 만나면 어떻게 다룰지도 이 문서가 말하는 바가 아니다. 약관이 금지하는 것은 그런 글을 만드는 데 클로드를 쓰는 일이다.

같은 개정에서 조용히 바뀐 것이 하나 더 있다. 앤트로픽의 사용 정책에는 고위험 쓰임 목록이 있고, 여기 걸리면 두 가지가 요구된다. 자격 있는 사람이 결과물을 실제로 검토하고 필요하면 고칠 권한을 가질 것, 그리고 영향을 받는 당사자에게 AI가 쓰였다는 사실을 알릴 것이다.

이전 판본의 그 목록에는 언론·저널리즘 콘텐츠 항목이 있었다. 원문은 "Media or professional journalistic content: Use cases related to using our products or services to automatically generate content and publish it for external consumption"이었다. 자동으로 콘텐츠를 만들어 외부에 내보내는 쓰임 자체가 고위험으로 분류됐고, 그래서 사람 검토와 AI 사용 고지가 따라붙었다.

새 정책의 고위험 목록은 11개 영역이다. 법률, 의료, 금융, 신용, 보험, 주거, 고용, 교육과 자격, 의료 서비스 접근, 공공 급여와 서비스, 법적 지위와 판정. 언론·저널리즘 항목은 여기 없다. 발표문은 고위험 요건 자체가 바뀌지 않았다고 적었고, 어떤 쓰임이 요건에 걸리는지 이용자가 자주 물어 와서 해당 절을 다시 썼다고 설명했다. 목록에서 무엇이 빠졌는지는 적지 않았다.

두 변화를 겹쳐 놓으면 금지선이 어디로 옮겨 갔는지가 보인다. 전에는 사람 손을 거치지 않고 만들어 내보냈느냐를 먼저 물었다. 이제는 누가 썼고 누구 돈으로 썼는지를 숨겼느냐를 묻는다. 자동으로 쓴 글이라도 자기 이름을 달고 내놓으면 기만적 캠페인 조항에 걸리지 않고, 사람이 한 문장씩 손으로 쓴 글이라도 무관한 독립 매체인 척 내놓으면 걸린다. 이 대비는 이 글의 해석이다. 앤트로픽은 축을 옮겼다고 말한 적이 없다.

▲ 페블러스 원본 도식. 두 판의 고위험 목록·기만적 캠페인 절 문구 비교에서 가져왔다.

오해하기 쉬운 자리가 하나 있다. 고위험 목록에서 빠졌다는 것은 허용 보증이 아니다. 고위험에만 붙는 두 요건이 자동으로 따라오지 않는다는 뜻이고, 다른 절의 금지는 그대로 남아 있다. 자동으로 글을 찍어 내더라도 출처와 저자를 속이면 기만적 캠페인 절에 걸리고, 선거를 겨냥하면 민주적 절차를 다루는 절에 걸린다.

이 뉴스는 보통 마케팅 업계의 규제 소식으로 소비된다. 데이터를 다루는 쪽에서 보면 다른 대목이 남는다. 70곳을 한 묶음으로 되돌린 것이 글의 내용이 아니라 생산의 흔적이었다는 사실이다. 등록된 시기, 올라탄 호스팅, 기사가 올라온 시각, 기사마다 똑같이 세 개에서 네 개씩 박힌 내부 링크. 어느 하나도 본문을 읽어서 나온 단서가 아니다.

심은 글은 흔적이 고르다. 한 파이프라인에서 나왔으니 길이도 구조도 간격도 닮는다. 성실히 쌓은 쪽은 반대다. 날짜가 흩어지고 길이가 들쑥날쑥하고 고쳐 쓴 자국이 남는다. 다만 그 불균질함이 저절로 증거가 되지는 않는다. 밖에서 확인할 수 있는 자리에 남아 있어야 증거다. 기록이 없으면 성실히 쌓은 글과 심은 글은 둘 다 그냥 웹페이지로 보인다.

자기 콘텐츠와 데이터를 두고 던질 질문도 같은 꼴이다.

• 발행한 글마다 누가 썼고 어느 조직이 냈는지가 페이지 밖에서, 기계가 읽을 수 있는 형태로 남아 있는가. 본문 아래 이름 한 줄만 있으면 사람은 알아보지만 수집기는 지나친다.
• 최초 발행일과 고친 날짜가 따로 남는가. 날짜가 하나뿐이면 언제 쓴 글인지와 언제 손본 글인지를 가릴 수 없고, 한 시기에 몰려 생긴 묶음과 구별되지 않는다.
• 돈을 받았거나 제휴 관계가 있는 글이면 그 사실이 글 안에 적혀 있는가. 후원 관계 은폐는 같은 절이 따로 이름 붙여 금지한 행위다.

반대편에서도 같은 세 가지가 쓰인다. 학습이나 인용에 쓸 코퍼스를 거르는 쪽은 결국 출처가 밝혀지지 않은 글, 한 시기에 몰려 생긴 도메인, 저자가 없는 기사 같은 신호로 후보를 추려 낸다. 이때 억울하게 걸리는 쪽은 거짓말을 한 쪽이 아니라 성실히 쌓았지만 기록을 남기지 않은 쪽이다. 조항이 생겼다고 해서 그 비용이 심은 쪽으로 옮겨 가지는 않는다. 구별을 증명할 기록을 가진 쪽만 비용을 덜 낸다.

여기까지 읽어 주셔서 감사하다. 조항 문구와 고위험 목록은 11월 12일 발효 사용 정책 본문에서, 개정의 배경과 발표문 문구는 10월 8일 발표문에서, 사건 수치와 탐지 단서는 9월 10일 위협 보고서에서 각각 확인했다. 여러분의 팀은 발행한 글의 저자와 수정 이력을 어디에 남기고 있는지 나눠 주시면 좋겠다.

공식 문서

• 1.Anthropic. (2026-10-08). "2026 Usage Policy update." Anthropic News.
• 2.Anthropic. "Usage Policy" (2026-11-12 발효). Anthropic Legal.
• 3.Anthropic. (2026-09-10). "Countering misuse of AI: September 2026." Anthropic Threat Intelligence.

업계·분석 소스

• 4.unite.ai. "Anthropic Updates Usage Policy, Adding Model Abuse and Deception Rules."
• 5.relevantaudience.com. "Anthropic bans Claude for seeding fake AI answer sources."
• 6.tofubofu.com. "Anthropic's Usage Policy Now Names AI Answers. Where Is the Line for AEO?"
• 7.seosherpa.com. "Anthropic Targets GEO Spam: What Claude's New AI Search Rules Mean for Businesses."