Modifica del contesto

Panoramica

La modifica del contesto consente di eliminare selettivamente contenuti specifici dalla cronologia della conversazione man mano che cresce. Oltre a ottimizzare i costi e rimanere entro i limiti, si tratta di curare attivamente ciò che Claude vede: il contesto è una risorsa finita con rendimenti decrescenti, e i contenuti irrilevanti degradano la concentrazione del modello. La modifica del contesto offre un controllo granulare in fase di esecuzione su questa cura. Per i principi più ampi alla base della gestione del contesto, vedere Effective context engineering. Questa pagina tratta:

• Eliminazione dei risultati degli strumenti - Ideale per flussi di lavoro agentici con uso intensivo degli strumenti in cui i vecchi risultati degli strumenti non sono più necessari
• Eliminazione dei blocchi di pensiero - Per gestire i blocchi di pensiero quando si utilizza il pensiero esteso, con opzioni per preservare il pensiero recente per la continuità del contesto
• Compattazione lato client SDK - Un'alternativa basata su SDK per la gestione del contesto basata su riassunti (la compattazione lato server è generalmente preferita)

Strategie lato server

Eliminazione dei risultati degli strumenti

La strategia clear_tool_uses_20250919 elimina i risultati degli strumenti quando il contesto della conversazione supera la soglia configurata. Questo è particolarmente utile per i flussi di lavoro agentici con uso intensivo degli strumenti. I risultati degli strumenti più vecchi (come contenuti di file o risultati di ricerca) non sono più necessari una volta che Claude li ha elaborati.

Quando attivata, l'API elimina automaticamente i risultati degli strumenti più vecchi in ordine cronologico. Ogni risultato eliminato viene sostituito con un testo segnaposto in modo che Claude sappia che è stato rimosso. Per impostazione predefinita, vengono eliminati solo i risultati degli strumenti. Puoi facoltativamente eliminare sia i risultati degli strumenti che le chiamate agli strumenti (i parametri di utilizzo degli strumenti) impostando clear_tool_inputs su true.

Eliminazione dei blocchi di pensiero

La strategia clear_thinking_20251015 gestisce i blocchi thinking nelle conversazioni quando il pensiero esteso è abilitato. Questa strategia ti dà il controllo sulla preservazione del pensiero: puoi scegliere di mantenere più blocchi di pensiero per mantenere la continuità del ragionamento, o eliminarli in modo più aggressivo per risparmiare spazio nel contesto.

Un turno di conversazione dell'assistente può includere più blocchi di contenuto (ad esempio quando si utilizzano strumenti) e più blocchi di pensiero (ad esempio con il pensiero interleaved).

La modifica del contesto avviene lato server

La modifica del contesto viene applicata lato server prima che il prompt raggiunga Claude. La tua applicazione client mantiene la cronologia completa e non modificata della conversazione. Non è necessario sincronizzare lo stato del client con la versione modificata. Continua a gestire la tua cronologia completa della conversazione localmente come faresti normalmente.

Modifica del contesto e caching dei prompt

L'interazione della modifica del contesto con il caching dei prompt varia in base alla strategia:

• Eliminazione dei risultati degli strumenti: Invalida i prefissi del prompt memorizzati nella cache quando il contenuto viene eliminato. Per tenerne conto, elimina abbastanza token da rendere conveniente l'invalidazione della cache. Usa il parametro clear_at_least per garantire che venga eliminato un numero minimo di token ogni volta. Incorrerai in costi di scrittura della cache ogni volta che il contenuto viene eliminato, ma le richieste successive possono riutilizzare il prefisso appena memorizzato nella cache.

• Eliminazione dei blocchi di pensiero: Quando i blocchi di pensiero vengono mantenuti nel contesto (non eliminati), la cache del prompt viene preservata, consentendo cache hit e riducendo i costi dei token di input. Quando i blocchi di pensiero vengono eliminati, la cache viene invalidata nel punto in cui avviene l'eliminazione. Configura il parametro keep in base al fatto che tu voglia dare priorità alle prestazioni della cache o alla disponibilità della finestra di contesto.

Modelli supportati

La modifica del contesto è disponibile su:

• Claude Opus 4.6 (claude-opus-4-6)
• Claude Opus 4.5 (claude-opus-4-5-20251101)
• Claude Opus 4.1 (claude-opus-4-1-20250805)
• Claude Opus 4 (claude-opus-4-20250514)
• Claude Sonnet 4.6 (claude-sonnet-4-6)
• Claude Sonnet 4.5 (claude-sonnet-4-5-20250929)
• Claude Sonnet 4 (claude-sonnet-4-20250514)
• Claude Haiku 4.5 (claude-haiku-4-5-20251001)

Utilizzo dell'eliminazione dei risultati degli strumenti

Il modo più semplice per abilitare l'eliminazione dei risultati degli strumenti è specificare solo il tipo di strategia. Tutte le altre opzioni di configurazione utilizzano i loro valori predefiniti:

Configurazione avanzata

Puoi personalizzare il comportamento di eliminazione dei risultati degli strumenti con parametri aggiuntivi:

Utilizzo dell'eliminazione dei blocchi di pensiero

Abilita l'eliminazione dei blocchi di pensiero per gestire efficacemente il contesto e il caching dei prompt quando il pensiero esteso è abilitato:

Opzioni di configurazione per l'eliminazione dei blocchi di pensiero

La strategia clear_thinking_20251015 supporta la seguente configurazione:

Configurazioni di esempio:

Mantieni i blocchi di pensiero degli ultimi 3 turni dell'assistente:

{
  "type": "clear_thinking_20251015",
  "keep": {
    "type": "thinking_turns",
    "value": 3
  }
}

Mantieni tutti i blocchi di pensiero (massimizza i cache hit):

{
  "type": "clear_thinking_20251015",
  "keep": "all"
}

Combinazione di strategie

Puoi utilizzare sia l'eliminazione dei blocchi di pensiero che l'eliminazione dei risultati degli strumenti insieme:

Opzioni di configurazione per l'eliminazione dei risultati degli strumenti

Risposta alla modifica del contesto

Puoi vedere quali modifiche al contesto sono state applicate alla tua richiesta utilizzando il campo di risposta context_management, insieme a statistiche utili sul contenuto e sui token di input eliminati.

{
  "id": "msg_013Zva2CMHLNnXjNJJKqJ2EF",
  "type": "message",
  "role": "assistant",
  "content": [
    // ...
  ],
  "usage": {
    // ...
  },
  "context_management": {
    "applied_edits": [
      // Quando si utilizza `clear_thinking_20251015`
      {
        "type": "clear_thinking_20251015",
        "cleared_thinking_turns": 3,
        "cleared_input_tokens": 15000
      },
      // Quando si utilizza `clear_tool_uses_20250919`
      {
        "type": "clear_tool_uses_20250919",
        "cleared_tool_uses": 8,
        "cleared_input_tokens": 50000
      }
    ]
  }
}

Per le risposte in streaming, le modifiche al contesto saranno incluse nell'evento finale message_delta:

{
  "type": "message_delta",
  "delta": {
    "stop_reason": "end_turn",
    "stop_sequence": null
  },
  "usage": {
    "output_tokens": 1024
  },
  "context_management": {
    "applied_edits": [
      // ...
    ]
  }
}

Conteggio dei token

L'endpoint di conteggio dei token supporta la gestione del contesto, consentendoti di visualizzare in anteprima quanti token utilizzerà il tuo prompt dopo l'applicazione della modifica del contesto.

{
  "input_tokens": 25000,
  "context_management": {
    "original_input_tokens": 70000
  }
}

La risposta mostra sia il conteggio finale dei token dopo l'applicazione della gestione del contesto (input_tokens) che il conteggio originale dei token prima di qualsiasi eliminazione (original_input_tokens).

Utilizzo con lo strumento Memory

La modifica del contesto può essere combinata con lo strumento memory. Quando il contesto della conversazione si avvicina alla soglia di eliminazione configurata, Claude riceve un avviso automatico per preservare le informazioni importanti. Questo consente a Claude di salvare i risultati degli strumenti o il contesto nei suoi file di memoria prima che vengano eliminati dalla cronologia della conversazione.

Questa combinazione ti consente di:

• Preservare il contesto importante: Claude può scrivere informazioni essenziali dai risultati degli strumenti nei file di memoria prima che quei risultati vengano eliminati
• Mantenere flussi di lavoro di lunga durata: Abilitare flussi di lavoro agentici che altrimenti supererebbero i limiti del contesto scaricando le informazioni in un archivio persistente
• Accedere alle informazioni su richiesta: Claude può cercare informazioni precedentemente eliminate dai file di memoria quando necessario, invece di mantenere tutto nella finestra del contesto attivo

Ad esempio, in un flusso di lavoro di modifica dei file in cui Claude esegue molte operazioni, Claude può riassumere le modifiche completate nei file di memoria man mano che il contesto cresce. Quando i risultati degli strumenti vengono eliminati, Claude mantiene l'accesso a quelle informazioni attraverso il suo sistema di memoria e può continuare a lavorare efficacemente.

Per utilizzare entrambe le funzionalità insieme, abilitale nella tua richiesta API:

Compattazione lato client (SDK)

La compattazione è una funzionalità SDK che gestisce automaticamente il contesto della conversazione generando riassunti quando l'utilizzo dei token diventa troppo grande. A differenza delle strategie di modifica del contesto lato server che eliminano il contenuto, la compattazione istruisce Claude a riassumere la cronologia della conversazione, quindi sostituisce l'intera cronologia con quel riassunto. Questo consente a Claude di continuare a lavorare su attività di lunga durata che altrimenti supererebbero la finestra di contesto.

Come funziona la compattazione

Quando la compattazione è abilitata, l'SDK monitora l'utilizzo dei token dopo ogni risposta del modello:

1. Controllo della soglia: L'SDK calcola i token totali come input_tokens + cache_creation_input_tokens + cache_read_input_tokens + output_tokens.
2. Generazione del riassunto: Quando la soglia viene superata, viene iniettato un prompt di riepilogo come turno utente e Claude genera un riassunto strutturato racchiuso nei tag <summary></summary>.
3. Sostituzione del contesto: L'SDK estrae il riassunto e sostituisce l'intera cronologia dei messaggi con esso.
4. Continuazione: La conversazione riprende dal riassunto, con Claude che riprende da dove si era interrotto.

Utilizzo della compattazione

Aggiungi compaction_control alla tua chiamata tool_runner:

Cosa succede durante la compattazione

Man mano che la conversazione cresce, la cronologia dei messaggi si accumula:

Prima della compattazione (avvicinandosi a 100k token):

[
  { "role": "user", "content": "Analyze all files and write a report..." },
  { "role": "assistant", "content": "I'll help. Let me start by reading..." },
  {
    "role": "user",
    "content": [{ "type": "tool_result", "tool_use_id": "...", "content": "..." }]
  },
  { "role": "assistant", "content": "Based on file1.txt, I see..." },
  {
    "role": "user",
    "content": [{ "type": "tool_result", "tool_use_id": "...", "content": "..." }]
  },
  { "role": "assistant", "content": "After analyzing file2.txt..." }
  // ... altri 50 scambi come questo ...
]

Quando i token superano la soglia, l'SDK inietta una richiesta di riepilogo e Claude genera un riassunto. L'intera cronologia viene quindi sostituita:

Dopo la compattazione (tornando a ~2-3k token):

[
  {
    "role": "assistant",
    "content": "# Task Overview\nThe user requested analysis of directory files to produce a summary report...\n\n# Current State\nAnalyzed 52 files across 3 subdirectories. Key findings documented in report.md...\n\n# Important Discoveries\n- Configuration files use YAML format\n- Found 3 deprecated dependencies\n- Test coverage at 67%\n\n# Next Steps\n1. Analyze remaining files in /src/legacy\n2. Complete final report sections...\n\n# Context to Preserve\nUser prefers markdown format with executive summary first..."
  }
]

Claude continua a lavorare da questo riassunto come se fosse la cronologia originale della conversazione.

Opzioni di configurazione

Scelta di una soglia di token

La soglia determina quando avviene la compattazione. Una soglia più bassa significa compattazioni più frequenti con finestre di contesto più piccole. Una soglia più alta consente più contesto ma rischia di raggiungere i limiti.

# Compattazione più frequente per scenari con memoria limitata
compaction_control = {"enabled": True, "context_token_threshold": 50000}

# Compattazione meno frequente quando hai bisogno di più contesto
compaction_control = {"enabled": True, "context_token_threshold": 150000}

Utilizzo di un modello diverso per i riassunti

Puoi utilizzare un modello più veloce o meno costoso per generare i riassunti:

compaction_control = {
    "enabled": True,
    "context_token_threshold": 100000,
    "model": "claude-haiku-4-5",
}

Prompt di riepilogo personalizzati

Puoi fornire un prompt personalizzato per esigenze specifiche del dominio. Il tuo prompt dovrebbe istruire Claude a racchiudere il suo riassunto nei tag <summary></summary>.

compaction_control = {
    "enabled": True,
    "context_token_threshold": 100000,
    "summary_prompt": """Riassumi la ricerca condotta finora, includendo:
- Fonti consultate e risultati chiave
- Domande a cui è stata data risposta e incognite rimanenti
- Prossimi passi raccomandati

Racchiudi il tuo riassunto nei tag <summary></summary>.""",
}

Prompt di riepilogo predefinito

Il prompt di riepilogo integrato istruisce Claude a creare un riepilogo di continuazione strutturato che include:

1. Panoramica del compito: La richiesta principale dell'utente, i criteri di successo e i vincoli.
2. Stato attuale: Cosa è stato completato, i file modificati e gli artefatti prodotti.
3. Scoperte importanti: Vincoli tecnici, decisioni prese, errori risolti e approcci falliti.
4. Prossimi passi: Azioni specifiche necessarie, blocchi e ordine di priorità.
5. Contesto da preservare: Preferenze dell'utente, dettagli specifici del dominio e impegni presi.

Questa struttura consente a Claude di riprendere il lavoro in modo efficiente senza perdere il contesto importante o ripetere gli errori.

Limitazioni

Strumenti lato server

Quando si utilizzano strumenti lato server, l'SDK potrebbe calcolare in modo errato l'utilizzo dei token, causando l'attivazione della compattazione al momento sbagliato.

Ad esempio, dopo un'operazione di ricerca web, la risposta API potrebbe mostrare:

{
  "usage": {
    "input_tokens": 63000,
    "cache_read_input_tokens": 270000,
    "output_tokens": 1400
  }
}

L'SDK calcola l'utilizzo totale come 63.000 + 270.000 = 333.000 token. Tuttavia, il valore cache_read_input_tokens include le letture accumulate da più chiamate API interne effettuate dallo strumento lato server, non il contesto effettivo della conversazione. La lunghezza reale del contesto potrebbe essere solo i 63.000 input_tokens, ma l'SDK vede 333k e attiva la compattazione prematuramente.

Soluzioni alternative:

• Utilizza l'endpoint di conteggio dei token per ottenere la lunghezza del contesto accurata
• Evita la compattazione quando si utilizzano strumenti lato server in modo estensivo

Casi limite nell'uso degli strumenti

Quando la compattazione viene attivata mentre è in attesa una risposta di utilizzo degli strumenti, l'SDK rimuove il blocco di utilizzo degli strumenti dalla cronologia dei messaggi prima di generare il riepilogo. Claude rieseguirà la chiamata allo strumento dopo aver ripreso dal riepilogo, se ancora necessario.

Monitoraggio della compattazione

Abilita il logging per tracciare quando si verifica la compattazione:

import logging

logging.basicConfig(level=logging.INFO)
logging.getLogger("anthropic.lib.tools").setLevel(logging.INFO)

# I log mostreranno:
# INFO: Token usage 105000 has exceeded the threshold of 100000. Performing compaction.
# INFO: Compaction complete. New token usage: 2500

Quando utilizzare la compattazione

Casi d'uso ideali:

• Attività di agenti a lungo termine che elaborano molti file o fonti di dati
• Flussi di lavoro di ricerca che accumulano grandi quantità di informazioni
• Attività multi-step con progressi chiari e misurabili
• Attività che producono artefatti (file, report) che persistono al di fuori della conversazione

Casi d'uso meno ideali:

• Attività che richiedono il richiamo preciso dei dettagli iniziali della conversazione
• Flussi di lavoro che utilizzano strumenti lato server in modo estensivo
• Attività che devono mantenere uno stato esatto su molte variabili