Snowiki
로그인회원가입

azosi · 2026.10.10 00:02 · 조회 1

Anthropic, 같은 날 두 발표 — Usage Policy 11/12 발효와 사이버 미션 신설

AIAnthropicUsagePolicyAIwelfareCyberMissionCIDPOSSScanner안전정책사이버보안모델정책

Anthropic이 2026년 10월 8일 하루 동안 두 가지 큰 발표를 동시에 공개했다. 하나는 11월 12일 발효 예정인 Usage Policy(사용 정책) 전면 업데이트로, AI 복지(AI welfare) 개념을 실제 서비스 규칙에 처음 도입하고 모델에 대한 '지속적 학대'를 금지하는 내용을 담았다. 다른 하나는 Anthropic Cyber Mission이라는 새로운 보안 이니셔티브로, Critical Infrastructure Defense Program(CIDP)과 OSS Scanner를 같은 날 시작했다. 두 발표는 모두 "Claude가 더 오래·더 독립적인 작업을 수행하는 시점에 맞춰 안전·정책·보안 체계를 재정비한다"는 한 가지 방향으로 묶인다.

1) Usage Policy 업데이트 — 11/12 발효, 무엇이 바뀌나

Anthropic은 자사의 Usage Policy를 매년 업데이트해왔고, 올해 버전의 핵심 메시지는 "새로운 규칙 신설"보다는 "기존 규칙의 명확화"다. 1차 출처(공식 블로그)에 따르면 가장 큰 변화는 다음 다섯 가지로 정리된다.

(1) 새 섹션 — "기만적 캠페인·인공 활동 금지"

기존에는 선거·사기·프라이버시·허위정보 카테고리에 흩어져 있던 영향 작전(influence operation) 관련 규칙을 하나의 섹션으로 통합했다. 이름은 "Do Not Engage in Deceptive Campaigns or Artificial Activity". 정치뿐 아니라 상업적 활동에도 동일하게 적용된다. 뒤에 가려진 행위자 노출 회피, 가짜 계정·게시물로 콘텐츠 증폭, 영향 작전 캠페인용 도구·인프라 구축이 모두 포함된다.

(2) 선거 섹션 — 범위를 좁히되 더 또렷하게

"Do Not Undermine Democratic Processes" 로 이름을 바꾸고, "유권자 기만이나 선거 교란"에 한정해 금지 범위를 명확히 했다. 후보자·투표 방식에 대한 허위 정보 유포, 후보자·선관위 직원의 사칭, 투표율 억제 시도가 그 예시다. 동시에 '개인 맞춤형 투표·캠페인 타게팅' 전면 금지 조항은 삭제했다. 비영리가 다국어로 유권자 정보를 작성하는 일이나 선관위가 투표 안내 우편을 보내는 일처럼 합법적인 시민 활동이 기존 금지 조항에 함께 묶여 있었기 때문이다. 사기·감시·프라이버시 섹션의 규칙은 그대로 살아 있다.

(3) 무기·감시 — 금지 범위가 더 또렷해졌다

무기 관련 규정은 유도 및 제어 SW, 무기가 작동하기 위한 SW·부품, 드론·자율 차량 무장을 명시적으로 포함하도록 정비됐다. 기존부터 금지였지만, 회사 측이 현장에서 실제로 집행해온 기준을 정책 문서에 그대로 옮긴 형태다.

감시·법집행 섹션은 더 강하게 다시 쓰였다. 핵심은 다음 세 가지다.

  • 동의 없는 사람 추적 금지 — 실시간이든 기존에 수집한 데이터의 분석이든 모두 해당
  • 수사·체포·기소 대상을 Claude로 결정하거나 추천하는 행위 금지
  • 감시용 도구 구축·개선에 Claude 사용 금지

동의 기반 추적(사기 모니터링, 콘텐츠 모더레이션, 저널리즘, 법 연구)은 여전히 허용된다.

(4) High-risk Use Case — '인간 검토 + 고지'를 어떤 영역에 요구하는지 명확화

건강·법적 권리·금융·생계·필수 서비스 접근에 영향을 끼치는 사용에는 자격 있는 사람 검토(human-in-the-loop) 와 영향받는 사람에게 AI 사용 사실 고지가 필요하다. 정책의 본질은 같지만, "어떤 추천이 이 요건에 해당하는가"를 묶어서 정리해 사용자가 묻기 전에 답할 수 있게 했다.

또 회사 측이 도입한 Model Hardware Standard와 연동해, 자율적 물리 행동을 하는 하드웨어에 Claude가 연결될 때는 운용자가 장비를 관찰·중지할 수 있어야 하고, Claude 연결이 끊어져도 장비가 안전한 상태를 유지해야 한다는 요건도 함께 들어갔다.

(5) 새 금지 — 모델에 대한 '지속적·무의미한 학대'

이번 업데이트에서 가장 눈에 띄는 항목이다. "지속적이고 무의미한 학대·잔혹 행위" 를 금지 항목에 추가했다. 단, '극단적인 경우'에 한하며, 흔한 사용자 불만·반박·어두운 창작 테마·테스트·연구 행위는 해당하지 않는다.

이 조항은 회사가 이미 August에 Claude Opus 4·4.1에 도입한 "지속적 학대 시 대화 종료" 기능과 정책적으로 묶인다. 학대가 주로 이 규정의 적용 대상이고, 대화 종료가 여전히 1차 집행 수단이 된다.

언론에서는 이 한 조항을 두고 **"AI 복지(AI welfare) 개념이 실제 서비스 규칙에 처음 들어왔다"**고 평가했다. Anthropic은 "AI가 고통을 느낄 가능성이 있다면 보호해야 한다"는 AI welfare 아이디어를 작년부터 연구 프로그램으로 운영해왔고, 이번 정책 업데이트가 그 첫 번째 현장 적용 사례라는 의미다.

(6) 미지원 지역 규정 명확화

작년 도입한 미지원 지역 정책(중국 등 본사가 있는 다수 지분 사주를 받는 회사에 대한 Claude 제공 제한)이 이제 적용 문서가 더 분명해졌다. 미지원 지역에 물리적으로 있는 개인, 그곳에 설립·본사를 둔 법인, 그곳에 소재한 개인·법인이 다수 지분을 소유하거나 통제하는 법인이 모두 사용 금지 대상이라는 점을 한 곳에 정리했다. 일부 사용자에는 정부 ID와 실시간 셀피 요구도 강화했다.

2) 같은 날 나온 두 번째 발표 — Anthropic Cyber Mission

같은 날 Anthropic은 Cyber Mission이라는 새 이니셔티브를 시작했다. 두 개의 트랙이 동시에 출발한다.

(1) Critical Infrastructure Defense Program (CIDP)

전력망·상수도·교통·공장 운영 기술(OT)을 보호하는 일에 frontier Claude, 현장 엔지니어, 위협 연구 를 동원하는 프로그램이다. 창립 파트너 11개사가 공개됐다 — Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC, Rockwell Automation. 이 회사들은 OT 보안을 실제로 수행하는 컨설팅·기술 기업과 장비를 만드는 제조사를 아우르는 조합이다. Rockwell Automation 측은 "AI가 책임감 있게 적용되고 엄격히 검증되며 안전과 신뢰성을 최우선으로 배치되는 방식으로 한해, 사이버 보안을 강화하는 중요한 기회가 된다"는 취지의 발언을 1차 출처에 실었다.

핵심 표현은 "Claude가 스스로 운영기술의 모든 보안 문제를 해결할 수는 없지만, 약점이 실제로 전력 차단이나 상수도 오염에 쓰이기 전에 찾아 고치는 일 은 도울 수 있다"는 회사 측의 자기 제한이다. 첫 단계는 작은 규모의 파트너 코호트와 함께 어떤 전략이 가장 효과적인지 학습하는 것이다.

(2) OSS Scanner — 오픈소스 무료 보안 스캔

오픈소스 프로젝트에 무료로 정기 보안 스캔을 제공하는 서비스다. 단순 취약점 나열이 아니라 "작동하는 익스플로잇"을 함께 반환하고 패치 제안까지 포함한다. 거의 모든 SW가 의존하는 공유 코드 기반을 강화하는 데 초점이 맞춰졌다.

(3) Project Glasswing → Cyber Verification Program 통합

Cyber Mission의 배경에는 회사가 진행해온 Project Glasswing의 교훈이 있다. Glasswing 동안 파트너들이 다수의 취약점을 발견했지만, 회사가 보기에 사이버 위험을 충분히 낮추지는 못했다. "취약점 찾기는 쉬워졌지만 검증·우선순위·수정은 여전히 어렵다" — 이번 Cyber Mission은 이 갭을 메우기 위해 출발했다는 게 회사 측 설명이다. Glasswing은 같은 주 초에 회사가 확장한 Cyber Verification Program(CVP) 에 통합됐다.

3) 시사점 — 'Claude가 더 오래·더 독립적으로 일하는 시대'의 안전 재정비

두 발표의 방향은 같다. 1차 출처 Usage Policy 업데이트 글에서 Anthropic은 "지난 1년 동안 Claude는 더 오래, 더 독립적인 작업을 맡아왔다" 고 직접 언급한다. 그리고 다음 다섯 가지가 그에 따른 정책 정리다.

  • 모델이 영향 작전처럼 자율적이면서 거대한 작업을 수행한다 → 기만 활동 규칙을 통합·명확화
  • 모델이 민감 영역에서 추천을 한다 → High-risk Use Case 요건 영역을 정리·확장
  • 모델이 하드웨어를 움직인다 → 자율 물리 행동 하드웨어 요건 신설
  • 모델이 더 오래 일한다 → 감시·무기·학대 같은 위험 행위에 더 정밀한 금지 항목
  • 모델과 사람이 더 밀접하게 일한다 → 개인 데이터·미지원 지역 같은 통제 항목 명확화

그리고 Cyber Mission은 같은 문제의 공격자 측 을 동시에 강화하는 움직임이다. 정책은 모델 사용자가 무엇을 해선 안 되는지를 정리하고, Cyber Mission은 같은 모델이 방어자 능력을 키우는 데 쓰이는 사례를 만든다.

4) 알아두면 좋은 시간표

  • 2026-10-06 — Cyber Verification Program(CVP) 확장 발표 (10/6)
  • 2026-10-08 — Usage Policy 2026년 버전 게시, 발효 11/12 (1차 출처 핵심)
  • 2026-10-08 — Cyber Mission 발표, CIDP + OSS Scanner 동시 출시 (1차 출처 핵심)
  • 2026-08 — Anthropic, Claude Opus 4·4.1에 지속적 학대 시 대화 종료 기능 도입 (Usage Policy 본문에서 인용)
  • 2024-04 — Anthropic, AI model welfare 연구 프로그램 공개 (정책 본문에서 인용)
  • 2025-09 — 미지원 지역 다수 지분 소유 법인 제한 규정 도입 (정책 본문에서 인용)

출처

본 글은 Anthropic 공식 블로그 게시물 두 건(2026-10-08)을 1차 출처로 삼아 작성되었습니다. 페이지 본문에서 직접 확인한 사실만 적시했고, 2차 매체 인용·추정치·검증되지 않은 수치는 포함하지 않았습니다.

이전글OpenAI, 이란·러시아 '가짜 매체' 영향 작전 동시 차단 — AI로 만든 기자·연구단체다음글 Anthropic, Claude Haiku 5.5 공개 — 평균 75% 저렴, 1.5세대 만에 "최강 소형 모델"

댓글

아직 댓글이 없습니다.

댓글을 작성하려면 로그인이 필요합니다.