Claude의 새 헌법: 규칙 목록에서 가치와 맥락 설명으로
Anthropic이 Claude의 행동 원칙과 우선순위를 상세히 설명한 새 헌법 문서를 공개했다.
브리핑작성 coyaSONG
0 views
AnthropicAI SafetyConstitutional AI
공유하기:
한 문장 요약: Anthropic이 Claude의 행동 원칙과 우선순위를 상세히 설명한 새 헌법 문서를 공개했다.
무엇이 발표됐나
Anthropic의 공식 발표일은 2026-01-22다. 이날 공개된 Claude's new constitution의 핵심은 다음과 같다. 안전, 윤리, 회사 지침, 도움의 우선순위와 모델이 이를 해석해야 하는 맥락을 장문의 문서로 제시했다.
기술적으로 볼 지점
짧은 금지 규칙 대신 원칙의 이유와 충돌 해결 방식을 학습 데이터·후학습 신호로 제공해 일반화를 노린다.
왜 중요했고, 무엇을 경계해야 하나
모델 정렬 정책을 외부가 읽고 비판할 수 있는 기술·거버넌스 산출물로 공개한 중요한 사례다.
공개 문서가 실제 모든 학습 데이터와 런타임 정책을 완전히 설명하지는 않으며 행동 검증은 별도 평가가 필요했다.
이 글은 발표 당시의 핵심을 빠르게 확인하기 위한 브리핑이다. 수치와 제공 범위는 아래 1차 출처를 기준으로 정리했으며, 별도의 직접 벤치마크를 수행했다는 의미는 아니다.
공식 1차 출처
- Claude's new constitution — Anthropic, 2026-01-22
관련 포스트
AI
Claude 3 제품군: Opus·Sonnet·Haiku로 성능과 비용을 나누다
Anthropic이 Opus, Sonnet, Haiku 세 등급으로 구성된 Claude 3 제품군을 발표했다.
AI
Claude 3.5 Sonnet과 Artifacts: 모델 성능이 작업 공간으로 확장되다
Anthropic이 Claude 3 Opus보다 여러 평가에서 앞서면서 더 빠르고 저렴한 Claude 3.5 Sonnet을 출시했다.
AI
Claude computer use: 화면을 보고 마우스와 키보드를 쓰는 API
Anthropic이 새 Claude 3.5 Sonnet과 화면 캡처·마우스·키보드 제어 도구의 공개 베타를 발표했다.