Loading...
    • 개발자 가이드
    • API 레퍼런스
    • MCP
    • 리소스
    • 릴리스 노트
    Search...
    ⌘K
    시작하기
    Claude 소개빠른 시작
    모델 및 가격
    모델 개요모델 선택Claude 4.6의 새로운 기능마이그레이션 가이드모델 지원 중단가격
    Claude로 구축하기
    기능 개요Messages API 사용중지 사유 처리프롬프트 모범 사례
    컨텍스트 관리
    컨텍스트 윈도우압축컨텍스트 편집
    기능
    프롬프트 캐싱확장 사고적응형 사고노력 수준메시지 스트리밍배치 처리인용다국어 지원토큰 카운팅임베딩비전PDF 지원Files API검색 결과구조화된 출력
    도구
    개요도구 사용 구현 방법세분화된 도구 스트리밍Bash 도구코드 실행 도구프로그래밍 방식 도구 호출컴퓨터 사용 도구텍스트 편집기 도구웹 페치 도구웹 검색 도구메모리 도구도구 검색 도구
    Agent Skills
    개요빠른 시작모범 사례엔터프라이즈용 SkillsAPI로 Skills 사용
    Agent SDK
    개요빠른 시작TypeScript SDKTypeScript V2 (미리보기)Python SDK마이그레이션 가이드
    API에서 MCP
    MCP 커넥터원격 MCP 서버
    서드파티 플랫폼의 Claude
    Amazon BedrockMicrosoft FoundryVertex AI
    프롬프트 엔지니어링
    개요프롬프트 생성기프롬프트 템플릿 사용프롬프트 개선기명확하고 직접적으로 작성예시 사용 (멀티샷 프롬프팅)Claude에게 생각하게 하기 (CoT)XML 태그 사용Claude에게 역할 부여 (시스템 프롬프트)복잡한 프롬프트 연결긴 컨텍스트 팁확장 사고 팁
    테스트 및 평가
    성공 기준 정의테스트 케이스 개발평가 도구 사용지연 시간 줄이기
    가드레일 강화
    환각 줄이기출력 일관성 높이기탈옥 방지스트리밍 거부프롬프트 유출 줄이기Claude 캐릭터 유지
    관리 및 모니터링
    Admin API 개요데이터 상주워크스페이스사용량 및 비용 APIClaude Code Analytics API제로 데이터 보존
    Console
    Log in
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...
    Loading...

    Solutions

    • AI agents
    • Code modernization
    • Coding
    • Customer support
    • Education
    • Financial services
    • Government
    • Life sciences

    Partners

    • Amazon Bedrock
    • Google Cloud's Vertex AI

    Learn

    • Blog
    • Catalog
    • Courses
    • Use cases
    • Connectors
    • Customer stories
    • Engineering at Anthropic
    • Events
    • Powered by Claude
    • Service partners
    • Startups program

    Company

    • Anthropic
    • Careers
    • Economic Futures
    • Research
    • News
    • Responsible Scaling Policy
    • Security and compliance
    • Transparency

    Learn

    • Blog
    • Catalog
    • Courses
    • Use cases
    • Connectors
    • Customer stories
    • Engineering at Anthropic
    • Events
    • Powered by Claude
    • Service partners
    • Startups program

    Help and security

    • Availability
    • Status
    • Support
    • Discord

    Terms and policies

    • Privacy policy
    • Responsible disclosure policy
    • Terms of service: Commercial
    • Terms of service: Consumer
    • Usage policy
    컨텍스트 관리

    컨텍스트 편집

    컨텍스트 편집을 통해 대화 컨텍스트가 증가할 때 자동으로 관리합니다.

    개요

    대부분의 사용 사례에서 서버 측 압축이 장기 실행 대화에서 컨텍스트를 관리하는 주요 전략입니다. 이 페이지의 전략은 어떤 콘텐츠를 지울지 더 세밀한 제어가 필요한 특정 시나리오에 유용합니다.

    컨텍스트 편집을 사용하면 대화 기록이 증가할 때 특정 콘텐츠를 선택적으로 지울 수 있습니다. 이를 통해 비용을 최적화하고 컨텍스트 윈도우 제한 내에서 유지할 수 있습니다. 이 페이지에서 다루는 내용:

    • 도구 결과 지우기 - 이전 도구 결과가 더 이상 필요하지 않은 도구 사용이 많은 에이전트 워크플로에 적합
    • 사고 블록 지우기 - 확장 사고 사용 시 사고 블록을 관리하며, 컨텍스트 연속성을 위해 최근 사고를 보존하는 옵션 제공
    • 클라이언트 측 SDK 압축 - 요약 기반 컨텍스트 관리를 위한 SDK 기반 대안 (일반적으로 서버 측 압축이 선호됨)
    접근 방식실행 위치전략작동 방식
    서버 측API도구 결과 지우기 (clear_tool_uses_20250919)
    사고 블록 지우기 (clear_thinking_20251015)
    프롬프트가 Claude에 도달하기 전에 적용됩니다. 대화 기록에서 특정 콘텐츠를 지웁니다. 각 전략은 독립적으로 구성할 수 있습니다.

    Was this page helpful?

    • Memory Tool과 함께 사용
    • 클라이언트 측 압축 (SDK)
    클라이언트 측
    SDK
    압축
    tool_runner 사용 시 Python 및 TypeScript SDK에서 사용 가능합니다. 요약을 생성하고 전체 대화 기록을 대체합니다. 아래 클라이언트 측 압축을 참조하세요.

    서버 측 전략

    컨텍스트 편집은 현재 도구 결과 지우기 및 사고 블록 지우기를 지원하는 베타 상태입니다. 활성화하려면 API 요청에서 베타 헤더 context-management-2025-06-27을 사용하세요.

    이 기능에 대한 피드백은 피드백 양식을 통해 공유해 주세요.

    도구 결과 지우기

    clear_tool_uses_20250919 전략은 대화 컨텍스트가 구성된 임계값을 초과할 때 도구 결과를 지웁니다. 이는 도구 사용이 많은 에이전트 워크플로에 특히 유용합니다. 이전 도구 결과(파일 내용이나 검색 결과 등)는 Claude가 처리한 후에는 더 이상 필요하지 않습니다.

    활성화되면 API가 시간순으로 가장 오래된 도구 결과를 자동으로 지웁니다. 지워진 각 결과는 Claude가 제거되었음을 알 수 있도록 플레이스홀더 텍스트로 대체됩니다. 기본적으로 도구 결과만 지워집니다. clear_tool_inputs를 true로 설정하면 도구 결과와 도구 호출(도구 사용 매개변수)을 모두 선택적으로 지울 수 있습니다.

    사고 블록 지우기

    clear_thinking_20251015 전략은 확장 사고가 활성화된 대화에서 thinking 블록을 관리합니다. 이 전략은 사고 보존에 대한 제어를 제공합니다: 추론 연속성을 유지하기 위해 더 많은 사고 블록을 유지하거나, 컨텍스트 공간을 절약하기 위해 더 적극적으로 지울 수 있습니다.

    기본 동작: clear_thinking_20251015 전략을 구성하지 않고 확장 사고를 활성화하면, API는 자동으로 마지막 어시스턴트 턴의 사고 블록만 유지합니다 (keep: {type: "thinking_turns", value: 1}과 동일).

    캐시 적중률을 최대화하려면 keep: "all"을 설정하여 모든 사고 블록을 보존하세요.

    어시스턴트 대화 턴에는 여러 콘텐츠 블록(예: 도구 사용 시)과 여러 사고 블록(예: 인터리브 사고 사용 시)이 포함될 수 있습니다.

    컨텍스트 편집은 서버 측에서 수행됩니다

    컨텍스트 편집은 프롬프트가 Claude에 도달하기 전에 서버 측에서 적용됩니다. 클라이언트 애플리케이션은 수정되지 않은 전체 대화 기록을 유지합니다. 편집된 버전과 클라이언트 상태를 동기화할 필요가 없습니다. 평소처럼 로컬에서 전체 대화 기록을 계속 관리하세요.

    컨텍스트 편집과 프롬프트 캐싱

    컨텍스트 편집과 프롬프트 캐싱의 상호작용은 전략에 따라 다릅니다:

    • 도구 결과 지우기: 콘텐츠가 지워지면 캐시된 프롬프트 접두사가 무효화됩니다. 이를 고려하여 캐시 무효화가 가치 있을 만큼 충분한 토큰을 지우세요. clear_at_least 매개변수를 사용하여 매번 최소한의 토큰이 지워지도록 하세요. 콘텐츠가 지워질 때마다 캐시 쓰기 비용이 발생하지만, 후속 요청은 새로 캐시된 접두사를 재사용할 수 있습니다.

    • 사고 블록 지우기: 사고 블록이 컨텍스트에 유지되면(지워지지 않으면) 프롬프트 캐시가 보존되어 캐시 적중이 가능하고 입력 토큰 비용이 줄어듭니다. 사고 블록이 지워지면 지우기가 발생하는 지점에서 캐시가 무효화됩니다. 캐시 성능을 우선시할지 컨텍스트 윈도우 가용성을 우선시할지에 따라 keep 매개변수를 구성하세요.

    지원 모델

    컨텍스트 편집은 다음 모델에서 사용할 수 있습니다:

    • Claude Opus 4.6 (claude-opus-4-6)
    • Claude Opus 4.5 (claude-opus-4-5-20251101)
    • Claude Opus 4.1 (claude-opus-4-1-20250805)
    • Claude Opus 4 (claude-opus-4-20250514)
    • Claude Sonnet 4.5 (claude-sonnet-4-5-20250929)
    • Claude Sonnet 4 (claude-sonnet-4-20250514)
    • Claude Haiku 4.5 (claude-haiku-4-5-20251001)

    도구 결과 지우기 사용법

    도구 결과 지우기를 활성화하는 가장 간단한 방법은 전략 유형만 지정하는 것입니다. 다른 모든 구성 옵션은 기본값을 사용합니다:

    curl https://api.anthropic.com/v1/messages \
        --header "x-api-key: $ANTHROPIC_API_KEY" \
        --header "anthropic-version: 2023-06-01" \
        --header "content-type: application/json" \
        --header "anthropic-beta: context-management-2025-06-27" \
        --data '{
            "model": "claude-opus-4-6",
            "max_tokens": 4096,
            "messages": [
                {
                    "role": "user",
                    "content": "Search for recent developments in AI"
                }
            ],
            "tools": [
                {
                    "type": "web_search_20250305",
                    "name": "web_search"
                }
            ],
            "context_management": {
                "edits": [
                    {"type": "clear_tool_uses_20250919"}
                ]
            }
        }'

    고급 구성

    추가 매개변수로 도구 결과 지우기 동작을 사용자 정의할 수 있습니다:

    curl https://api.anthropic.com/v1/messages \
        --header "x-api-key: $ANTHROPIC_API_KEY" \
        --header "anthropic-version: 2023-06-01" \
        --header "content-type: application/json" \
        --header "anthropic-beta: context-management-2025-06-27" \
        --data '{
            "model": "claude-opus-4-6",
            "max_tokens": 4096,
            "messages": [
                {
                    "role": "user",
                    "content": "Create a simple command line calculator app using Python"
                }
            ],
            "tools": [
                {
                    "type": "text_editor_20250728",
                    "name": "str_replace_based_edit_tool",
                    "max_characters": 10000
                },
                {
                    "type": "web_search_20250305",
                    "name": "web_search",
                    "max_uses": 3
                }
            ],
            "context_management": {
                "edits": [
                    {
                        "type": "clear_tool_uses_20250919",
                        "trigger": {
                            "type": "input_tokens",
                            "value": 30000
                        },
                        "keep": {
                            "type": "tool_uses",
                            "value": 3
                        },
                        "clear_at_least": {
                            "type": "input_tokens",
                            "value": 5000
                        },
                        "exclude_tools": ["web_search"]
                    }
                ]
            }
        }'

    사고 블록 지우기 사용법

    확장 사고가 활성화된 경우 컨텍스트와 프롬프트 캐싱을 효과적으로 관리하기 위해 사고 블록 지우기를 활성화하세요:

    curl https://api.anthropic.com/v1/messages \
        --header "x-api-key: $ANTHROPIC_API_KEY" \
        --header "anthropic-version: 2023-06-01" \
        --header "content-type: application/json" \
        --header "anthropic-beta: context-management-2025-06-27" \
        --data '{
            "model": "claude-opus-4-6",
            "max_tokens": 1024,
            "messages": [...],
            "thinking": {
                "type": "enabled",
                "budget_tokens": 10000
            },
            "context_management": {
                "edits": [
                    {
                        "type": "clear_thinking_20251015",
                        "keep": {
                            "type": "thinking_turns",
                            "value": 2
                        }
                    }
                ]
            }
        }'

    사고 블록 지우기 구성 옵션

    clear_thinking_20251015 전략은 다음 구성을 지원합니다:

    구성 옵션기본값설명
    keep{type: "thinking_turns", value: 1}사고 블록이 있는 최근 어시스턴트 턴을 몇 개 보존할지 정의합니다. {type: "thinking_turns", value: N} (N은 0보다 커야 함)을 사용하여 마지막 N개 턴을 유지하거나, "all"을 사용하여 모든 사고 블록을 유지합니다.

    구성 예시:

    // 마지막 3개 어시스턴트 턴의 사고 블록 유지
    {
      "type": "clear_thinking_20251015",
      "keep": {
        "type": "thinking_turns",
        "value": 3
      }
    }
    
    // 모든 사고 블록 유지 (캐시 적중률 최대화)
    {
      "type": "clear_thinking_20251015",
      "keep": "all"
    }

    전략 결합

    사고 블록 지우기와 도구 결과 지우기를 함께 사용할 수 있습니다:

    여러 전략을 사용할 때 clear_thinking_20251015 전략은 edits 배열에서 먼저 나열되어야 합니다.

    response = client.beta.messages.create(
        model="claude-opus-4-6",
        max_tokens=1024,
        messages=[...],
        thinking={
            "type": "enabled",
            "budget_tokens": 10000
        },
        tools=[...],
        betas=["context-management-2025-06-27"],
        context_management={
            "edits": [
                {
                    "type": "clear_thinking_20251015",
                    "keep": {
                        "type": "thinking_turns",
                        "value": 2
                    }
                },
                {
                    "type": "clear_tool_uses_20250919",
                    "trigger": {
                        "type": "input_tokens",
                        "value": 50000
                    },
                    "keep": {
                        "type": "tool_uses",
                        "value": 5
                    }
                }
            ]
        }
    )

    도구 결과 지우기 구성 옵션

    구성 옵션기본값설명
    trigger100,000 입력 토큰컨텍스트 편집 전략이 활성화되는 시점을 정의합니다. 프롬프트가 이 임계값을 초과하면 지우기가 시작됩니다. 이 값은 input_tokens 또는 tool_uses로 지정할 수 있습니다.
    keep3 도구 사용지우기 발생 후 유지할 최근 도구 사용/결과 쌍의 수를 정의합니다. API는 가장 오래된 도구 상호작용을 먼저 제거하고 가장 최근 것을 보존합니다.
    clear_at_least없음전략이 활성화될 때마다 최소한의 토큰이 지워지도록 합니다. API가 지정된 양 이상을 지울 수 없으면 전략이 적용되지 않습니다. 이는 프롬프트 캐시를 깨뜨릴 가치가 있는지 판단하는 데 도움이 됩니다.
    exclude_tools없음도구 사용과 결과가 절대 지워지지 않아야 하는 도구 이름 목록입니다. 중요한 컨텍스트를 보존하는 데 유용합니다.
    clear_tool_inputsfalse도구 호출 매개변수가 도구 결과와 함께 지워지는지 여부를 제어합니다. 기본적으로 도구 결과만 지워지고 Claude의 원래 도구 호출은 표시된 상태로 유지됩니다.

    컨텍스트 편집 응답

    context_management 응답 필드를 사용하여 요청에 적용된 컨텍스트 편집과 지워진 콘텐츠 및 입력 토큰에 대한 유용한 통계를 확인할 수 있습니다.

    Response
    {
        "id": "msg_013Zva2CMHLNnXjNJJKqJ2EF",
        "type": "message",
        "role": "assistant",
        "content": [...],
        "usage": {...},
        "context_management": {
            "applied_edits": [
                // `clear_thinking_20251015` 사용 시
                {
                    "type": "clear_thinking_20251015",
                    "cleared_thinking_turns": 3,
                    "cleared_input_tokens": 15000
                },
                // `clear_tool_uses_20250919` 사용 시
                {
                    "type": "clear_tool_uses_20250919",
                    "cleared_tool_uses": 8,
                    "cleared_input_tokens": 50000
                }
            ]
        }
    }

    스트리밍 응답의 경우 컨텍스트 편집은 최종 message_delta 이벤트에 포함됩니다:

    Streaming Response
    {
        "type": "message_delta",
        "delta": {
            "stop_reason": "end_turn",
            "stop_sequence": null
        },
        "usage": {
            "output_tokens": 1024
        },
        "context_management": {
            "applied_edits": [...]
        }
    }

    토큰 카운팅

    토큰 카운팅 엔드포인트는 컨텍스트 관리를 지원하여 컨텍스트 편집이 적용된 후 프롬프트가 사용할 토큰 수를 미리 확인할 수 있습니다.

    curl https://api.anthropic.com/v1/messages/count_tokens \
        --header "x-api-key: $ANTHROPIC_API_KEY" \
        --header "anthropic-version: 2023-06-01" \
        --header "content-type: application/json" \
        --header "anthropic-beta: context-management-2025-06-27" \
        --data '{
            "model": "claude-opus-4-6",
            "messages": [
                {
                    "role": "user",
                    "content": "Continue our conversation..."
                }
            ],
            "tools": [...],
            "context_management": {
                "edits": [
                    {
                        "type": "clear_tool_uses_20250919",
                        "trigger": {
                            "type": "input_tokens",
                            "value": 30000
                        },
                        "keep": {
                            "type": "tool_uses",
                            "value": 5
                        }
                    }
                ]
            }
        }'
    Response
    {
        "input_tokens": 25000,
        "context_management": {
            "original_input_tokens": 70000
        }
    }

    응답은 컨텍스트 관리가 적용된 후의 최종 토큰 수(input_tokens)와 지우기가 발생하기 전의 원래 토큰 수(original_input_tokens)를 모두 보여줍니다.

    Memory Tool과 함께 사용

    컨텍스트 편집은 memory tool과 결합할 수 있습니다. 대화 컨텍스트가 구성된 지우기 임계값에 가까워지면 Claude는 중요한 정보를 보존하라는 자동 경고를 받습니다. 이를 통해 Claude는 도구 결과나 컨텍스트가 대화 기록에서 지워지기 전에 메모리 파일에 저장할 수 있습니다.

    이 조합을 통해 다음을 수행할 수 있습니다:

    • 중요한 컨텍스트 보존: Claude는 도구 결과가 지워지기 전에 필수 정보를 메모리 파일에 기록할 수 있습니다
    • 장기 실행 워크플로 유지: 정보를 영구 저장소로 오프로드하여 컨텍스트 제한을 초과할 수 있는 에이전트 워크플로를 가능하게 합니다
    • 필요 시 정보 접근: Claude는 활성 컨텍스트 윈도우에 모든 것을 유지하는 대신 필요할 때 메모리 파일에서 이전에 지워진 정보를 조회할 수 있습니다

    예를 들어, Claude가 많은 작업을 수행하는 파일 편집 워크플로에서 컨텍스트가 증가하면 Claude는 완료된 변경 사항을 메모리 파일에 요약할 수 있습니다. 도구 결과가 지워져도 Claude는 메모리 시스템을 통해 해당 정보에 접근할 수 있으며 효과적으로 작업을 계속할 수 있습니다.

    두 기능을 함께 사용하려면 API 요청에서 모두 활성화하세요:

    response = client.beta.messages.create(
        model="claude-opus-4-6",
        max_tokens=4096,
        messages=[...],
        tools=[
            {
                "type": "memory_20250818",
                "name": "memory"
            },
            # 기타 도구
        ],
        betas=["context-management-2025-06-27"],
        context_management={
            "edits": [
                {"type": "clear_tool_uses_20250919"}
            ]
        }
    )

    클라이언트 측 압축 (SDK)

    SDK 압축보다 서버 측 압축이 권장됩니다. 서버 측 압축은 더 적은 통합 복잡성, 더 나은 토큰 사용량 계산, 클라이언트 측 제한 없이 컨텍스트 관리를 자동으로 처리합니다. 요약 프로세스에 대한 클라이언트 측 제어가 특별히 필요한 경우에만 SDK 압축을 사용하세요.

    압축은 tool_runner 메서드 사용 시 Python 및 TypeScript SDK에서 사용할 수 있습니다.

    압축은 토큰 사용량이 너무 커질 때 요약을 생성하여 대화 컨텍스트를 자동으로 관리하는 SDK 기능입니다. 콘텐츠를 지우는 서버 측 컨텍스트 편집 전략과 달리, 압축은 Claude에게 대화 기록을 요약하도록 지시한 다음 전체 기록을 해당 요약으로 대체합니다. 이를 통해 Claude는 컨텍스트 윈도우를 초과할 수 있는 장기 실행 작업을 계속 수행할 수 있습니다.

    압축 작동 방식

    압축이 활성화되면 SDK는 각 모델 응답 후 토큰 사용량을 모니터링합니다:

    1. 임계값 확인: SDK는 총 토큰을 input_tokens + cache_creation_input_tokens + cache_read_input_tokens + output_tokens로 계산합니다.
    2. 요약 생성: 임계값을 초과하면 요약 프롬프트가 사용자 턴으로 주입되고 Claude가 <summary></summary> 태그로 감싼 구조화된 요약을 생성합니다.
    3. 컨텍스트 대체: SDK가 요약을 추출하고 전체 메시지 기록을 대체합니다.
    4. 계속: 대화는 요약에서 재개되며 Claude는 중단된 곳에서 계속합니다.

    압축 사용

    tool_runner 호출에 compaction_control을 추가하세요:

    import anthropic
    
    client = anthropic.Anthropic()
    
    runner = client.beta.messages.tool_runner(
        model="claude-opus-4-6",
        max_tokens=4096,
        tools=[...],
        messages=[
            {
                "role": "user",
                "content": "Analyze all the files in this directory and write a summary report."
            }
        ],
        compaction_control={
            "enabled": True,
            "context_token_threshold": 100000
        }
    )
    
    for message in runner:
        print(f"Tokens used: {message.usage.input_tokens}")
    
    final = runner.until_done()

    압축 중 발생하는 일

    대화가 진행됨에 따라 메시지 기록이 누적됩니다:

    압축 전 (100k 토큰에 근접):

    [
      { "role": "user", "content": "Analyze all files and write a report..." },
      { "role": "assistant", "content": "I'll help. Let me start by reading..." },
      { "role": "user", "content": [{ "type": "tool_result", "tool_use_id": "...", "content": "..." }] },
      { "role": "assistant", "content": "Based on file1.txt, I see..." },
      { "role": "user", "content": [{ "type": "tool_result", "tool_use_id": "...", "content": "..." }] },
      { "role": "assistant", "content": "After analyzing file2.txt..." },
      // ... 이와 같은 50개 이상의 교환 ...
    ]

    토큰이 임계값을 초과하면 SDK가 요약 요청을 주입하고 Claude가 요약을 생성합니다. 그런 다음 전체 기록이 대체됩니다:

    압축 후 (~2-3k 토큰으로 감소):

    [
      {
        "role": "assistant",
        "content": "# Task Overview\nThe user requested analysis of directory files to produce a summary report...\n\n# Current State\nAnalyzed 52 files across 3 subdirectories. Key findings documented in report.md...\n\n# Important Discoveries\n- Configuration files use YAML format\n- Found 3 deprecated dependencies\n- Test coverage at 67%\n\n# Next Steps\n1. Analyze remaining files in /src/legacy\n2. Complete final report sections...\n\n# Context to Preserve\nUser prefers markdown format with executive summary first..."
      }
    ]

    Claude는 이 요약을 원래 대화 기록인 것처럼 사용하여 작업을 계속합니다.

    구성 옵션

    매개변수유형필수기본값설명
    enabledboolean예-자동 압축 활성화 여부
    context_token_thresholdnumber아니오100,000압축이 트리거되는 토큰 수
    modelstring아니오메인 모델과 동일요약 생성에 사용할 모델
    summary_promptstring아니오아래 참조요약 생성을 위한 사용자 정의 프롬프트

    토큰 임계값 선택

    임계값은 압축이 발생하는 시점을 결정합니다. 낮은 임계값은 더 작은 컨텍스트 윈도우로 더 빈번한 압축을 의미합니다. 높은 임계값은 더 많은 컨텍스트를 허용하지만 제한에 도달할 위험이 있습니다.

    # 메모리 제약이 있는 시나리오를 위한 더 빈번한 압축
    compaction_control={
        "enabled": True,
        "context_token_threshold": 50000
    }
    
    # 더 많은 컨텍스트가 필요할 때 덜 빈번한 압축
    compaction_control={
        "enabled": True,
        "context_token_threshold": 150000
    }

    요약에 다른 모델 사용

    요약 생성에 더 빠르거나 저렴한 모델을 사용할 수 있습니다:

    compaction_control={
        "enabled": True,
        "context_token_threshold": 100000,
        "model": "claude-haiku-4-5"
    }

    사용자 정의 요약 프롬프트

    도메인별 요구 사항에 맞는 사용자 정의 프롬프트를 제공할 수 있습니다. 프롬프트는 Claude에게 요약을 <summary></summary> 태그로 감싸도록 지시해야 합니다.

    compaction_control={
        "enabled": True,
        "context_token_threshold": 100000,
        "summary_prompt": """Summarize the research conducted so far, including:
    - Sources consulted and key findings
    - Questions answered and remaining unknowns
    - Recommended next steps
    
    Wrap your summary in <summary></summary> tags."""
    }

    기본 요약 프롬프트

    내장 요약 프롬프트는 Claude에게 다음을 포함하는 구조화된 연속 요약을 생성하도록 지시합니다:

    1. 작업 개요: 사용자의 핵심 요청, 성공 기준 및 제약 조건.
    2. 현재 상태: 완료된 작업, 수정된 파일 및 생성된 산출물.
    3. 중요한 발견 사항: 기술적 제약, 내린 결정, 해결된 오류 및 실패한 접근 방식.
    4. 다음 단계: 필요한 구체적 조치, 차단 요소 및 우선순위.
    5. 보존할 컨텍스트: 사용자 선호 사항, 도메인별 세부 정보 및 한 약속.

    이 구조를 통해 Claude는 중요한 컨텍스트를 잃거나 실수를 반복하지 않고 효율적으로 작업을 재개할 수 있습니다.

    제한 사항

    서버 측 도구

    압축은 웹 검색이나 웹 페치와 같은 서버 측 도구를 사용할 때 특별한 고려가 필요합니다.

    서버 측 도구를 사용할 때 SDK가 토큰 사용량을 잘못 계산하여 압축이 잘못된 시점에 트리거될 수 있습니다.

    예를 들어, 웹 검색 작업 후 API 응답이 다음과 같이 표시될 수 있습니다:

    {
      "usage": {
        "input_tokens": 63000,
        "cache_read_input_tokens": 270000,
        "output_tokens": 1400
      }
    }

    SDK는 총 사용량을 63,000 + 270,000 = 333,000 토큰으로 계산합니다. 그러나 cache_read_input_tokens 값은 실제 대화 컨텍스트가 아니라 서버 측 도구가 수행한 여러 내부 API 호출에서 누적된 읽기를 포함합니다. 실제 컨텍스트 길이는 63,000 input_tokens에 불과할 수 있지만, SDK는 333k로 인식하여 압축을 조기에 트리거합니다.

    해결 방법:

    • 토큰 카운팅 엔드포인트를 사용하여 정확한 컨텍스트 길이를 확인
    • 서버 측 도구를 광범위하게 사용할 때는 압축을 피함

    도구 사용 엣지 케이스

    도구 사용 응답이 대기 중일 때 압축이 트리거되면, SDK는 요약을 생성하기 전에 메시지 기록에서 도구 사용 블록을 제거합니다. Claude는 여전히 필요한 경우 요약에서 재개한 후 도구 호출을 다시 실행합니다.

    압축 모니터링

    로깅을 활성화하여 압축이 발생하는 시점을 추적합니다:

    import logging
    
    logging.basicConfig(level=logging.INFO)
    logging.getLogger("anthropic.lib.tools").setLevel(logging.INFO)
    
    # Logs will show:
    # INFO: Token usage 105000 has exceeded the threshold of 100000. Performing compaction.
    # INFO: Compaction complete. New token usage: 2500

    압축을 사용해야 하는 경우

    적합한 사용 사례:

    • 많은 파일이나 데이터 소스를 처리하는 장시간 실행 에이전트 작업
    • 대량의 정보를 축적하는 리서치 워크플로우
    • 명확하고 측정 가능한 진행 상황이 있는 다단계 작업
    • 대화 외부에 지속되는 산출물(파일, 보고서)을 생성하는 작업

    덜 적합한 사용 사례:

    • 초기 대화 세부 사항의 정확한 회상이 필요한 작업
    • 서버 측 도구를 광범위하게 사용하는 워크플로우
    • 많은 변수에 걸쳐 정확한 상태를 유지해야 하는 작업