Cache dei prompt

Il "prompt caching" (cache dei prompt) ottimizza l'utilizzo dell'API consentendo di riprendere l'elaborazione da prefissi specifici dei tuoi prompt. Questo riduce in modo significativo i tempi di elaborazione e i costi per attività ripetitive o prompt con elementi costanti.

Ci sono due modi per abilitare la cache dei prompt:

• Cache automatica: aggiungi un singolo campo cache_control al livello superiore della richiesta. Il sistema applica automaticamente il "cache breakpoint" (punto di interruzione della cache) all'ultimo blocco memorizzabile nella cache e lo sposta in avanti man mano che la conversazione cresce. È la soluzione migliore per le conversazioni a più turni, in cui la cronologia crescente dei messaggi deve essere memorizzata automaticamente nella cache.
• Punti di interruzione espliciti della cache: inserisci cache_control direttamente sui singoli blocchi di contenuto per un controllo granulare su cosa viene memorizzato esattamente nella cache.

Il modo più semplice per iniziare è con la cache automatica:

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    cache_control={"type": "ephemeral"},
    system="You are an AI assistant tasked with analyzing literary works. Your goal is to provide insightful commentary on themes, characters, and writing style.",
    messages=[
        {
            "role": "user",
            "content": "Analyze the major themes in 'Pride and Prejudice'.",
        }
    ],
)
print(response.usage.model_dump_json())

Con la cache automatica, il sistema memorizza nella cache tutto il contenuto fino all'ultimo blocco memorizzabile incluso. Nelle richieste successive con lo stesso prefisso, il contenuto nella cache viene riutilizzato automaticamente.

Come funziona la cache dei prompt

Quando invii una richiesta con la cache dei prompt abilitata:

1. Il sistema verifica se un prefisso del prompt, fino a un punto di interruzione della cache specificato, è già presente nella cache a seguito di una query recente.
2. Se lo trova, utilizza la versione nella cache, riducendo tempi di elaborazione e costi.
3. Altrimenti, elabora il prompt completo e memorizza il prefisso nella cache non appena inizia la risposta.

Questo è particolarmente utile per:

• Prompt con molti esempi
• Grandi quantità di contesto o informazioni di base
• Attività ripetitive con istruzioni costanti
• Lunghe conversazioni a più turni

Per impostazione predefinita, la cache ha una durata di 5 minuti. La cache viene aggiornata senza costi aggiuntivi ogni volta che il contenuto memorizzato viene utilizzato.

La durata viene misurata dall'inizio della richiesta che scrive o legge la voce della cache, non dalla fine della sua risposta. Il tempo impiegato per generare una risposta viene conteggiato nella durata: se una risposta impiega 4 minuti per lo streaming, una richiesta successiva che riutilizza lo stesso prefisso nella cache deve iniziare entro circa 1 minuto dal completamento di quella risposta.

Prezzi

La cache dei prompt introduce una nuova struttura dei prezzi. La tabella seguente mostra il prezzo per milione di token per ciascun modello supportato:

Model	Base tokens		Prompt caching
Name	Input	Output	5m writes	1h writes	Hits and refreshes
Claude Fable 5.1For demanding reasoning and long-horizon agentic work	$10 / MTok	$50 / MTok	$12.50 / MTok	$20 / MTok	$0.25 / MTok1
Claude Opus 5.5For long-running agentic coding and knowledge work	$4 / MTok	$20 / MTok	$5 / MTok	$8 / MTok	$0.20 / MTok2
Claude Sonnet 5.5The best combination of speed and intelligence	$2 / MTok	$10 / MTok	$2.50 / MTok	$4 / MTok	$0.20 / MTok
Claude Haiku 4.5The fastest model with near-frontier intelligence	$1 / MTok	$5 / MTok	$1.25 / MTok	$2 / MTok	$0.10 / MTok
Additional models
Claude Mythos 5.1	$10 / MTok	$50 / MTok	$12.50 / MTok	$20 / MTok	$0.25 / MTok1
Claude Fable 5	$10 / MTok	$50 / MTok	$12.50 / MTok	$20 / MTok	$1 / MTok
Claude Mythos 5	$10 / MTok	$50 / MTok	$12.50 / MTok	$20 / MTok	$1 / MTok
Claude Opus 5	$5 / MTok	$25 / MTok	$6.25 / MTok	$10 / MTok	$0.50 / MTok
Claude Opus 4.8	$5 / MTok	$25 / MTok	$6.25 / MTok	$10 / MTok	$0.50 / MTok
Claude Opus 4.7	$5 / MTok	$25 / MTok	$6.25 / MTok	$10 / MTok	$0.50 / MTok
Claude Opus 4.6	$5 / MTok	$25 / MTok	$6.25 / MTok	$10 / MTok	$0.50 / MTok
Claude Opus 4.5	$5 / MTok	$25 / MTok	$6.25 / MTok	$10 / MTok	$0.50 / MTok
Claude Opus 4.1	$15 / MTok	$75 / MTok	$18.75 / MTok	$30 / MTok	$1.50 / MTok
Claude Opus 4	$15 / MTok	$75 / MTok	$18.75 / MTok	$30 / MTok	$1.50 / MTok
Claude Sonnet 5	$2 / MTok	$10 / MTok	$2.50 / MTok	$4 / MTok	$0.20 / MTok
Claude Sonnet 4.6	$3 / MTok	$15 / MTok	$3.75 / MTok	$6 / MTok	$0.30 / MTok
Claude Sonnet 4.5	$3 / MTok	$15 / MTok	$3.75 / MTok	$6 / MTok	$0.30 / MTok
Claude Sonnet 4	$3 / MTok	$15 / MTok	$3.75 / MTok	$6 / MTok	$0.30 / MTok
Claude Haiku 3.5	$0.80 / MTok	$4 / MTok	$1 / MTok	$1.60 / MTok	$0.08 / MTok

^{1 Cache hits and refreshes on Claude Fable 5.1 and Claude Mythos 5.1 are priced at 0.025x the base input price.}

^{2 Cache hits and refreshes on Claude Opus 5.5 are priced at 0.05x the base input price.}

^{All other models use the standard 0.1x multiplier.}

Modelli supportati

La cache dei prompt (sia automatica che esplicita) è supportata su tutti i modelli Claude attivi.

Cache automatica

La cache automatica è il modo più semplice per abilitare la cache dei prompt. Invece di inserire cache_control sui singoli blocchi di contenuto, aggiungi un singolo campo cache_control al livello superiore del corpo della richiesta. Il sistema applica automaticamente il punto di interruzione della cache all'ultimo blocco memorizzabile nella cache.

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    cache_control={"type": "ephemeral"},
    system="You are a helpful assistant that remembers our conversation.",
    messages=[
        {"role": "user", "content": "My name is Alex. I work on machine learning."},
        {
            "role": "assistant",
            "content": "Nice to meet you, Alex! How can I help with your ML work today?",
        },
        {"role": "user", "content": "What did I say I work on?"},
    ],
)
print(response.usage.model_dump_json())

Come funziona la cache automatica nelle conversazioni a più turni

Con la cache automatica, il punto della cache si sposta in avanti automaticamente man mano che la conversazione cresce. Ogni nuova richiesta memorizza nella cache tutto fino all'ultimo blocco memorizzabile, e il contenuto precedente viene letto dalla cache.

Il punto di interruzione della cache si sposta automaticamente sull'ultimo blocco memorizzabile in ogni richiesta, quindi non è necessario aggiornare alcun marcatore cache_control man mano che la conversazione cresce.

Supporto TTL

Per impostazione predefinita, la cache automatica utilizza un "TTL" (time-to-live, durata) di 5 minuti. Puoi specificare un TTL di 1 ora a 2 volte il prezzo base dei token di input:

{ "cache_control": { "type": "ephemeral", "ttl": "1h" } }

Combinazione con la cache a livello di blocco

La cache automatica è compatibile con i punti di interruzione espliciti della cache. Quando vengono usati insieme, il punto di interruzione automatico della cache occupa uno dei 4 slot disponibili per i punti di interruzione.

Questo ti consente di combinare entrambi gli approcci. Ad esempio, usa un punto di interruzione esplicito per memorizzare nella cache il tuo prompt di sistema, mentre la cache automatica gestisce la conversazione:

{
  "model": "claude-opus-5-5",
  "max_tokens": 1024,
  "cache_control": { "type": "ephemeral" },
  "system": [
    {
      "type": "text",
      "text": "You are a helpful assistant.",
      "cache_control": { "type": "ephemeral" }
    }
  ],
  "messages": [{ "role": "user", "content": "What are the key terms?" }]
}

Cosa rimane invariato

La cache automatica utilizza la stessa infrastruttura di cache sottostante. Prezzi, soglie minime di token, requisiti di ordinamento del contesto e la finestra di ricerca a ritroso di 20 blocchi si applicano tutti allo stesso modo dei punti di interruzione espliciti.

Casi limite

• Se l'ultimo blocco ha già un cache_control esplicito con lo stesso TTL, la cache automatica non ha alcun effetto.
• Se l'ultimo blocco ha un cache_control esplicito con un TTL diverso, l'API restituisce un errore 400.
• Se esistono già 4 punti di interruzione espliciti a livello di blocco, l'API restituisce un errore 400 (non rimangono slot per la cache automatica).
• Se l'ultimo blocco non è idoneo come destinazione di un punto di interruzione automatico della cache, il sistema risale silenziosamente all'indietro per trovare il blocco idoneo più vicino. Se non ne trova nessuno, la cache viene saltata.

Punti di interruzione espliciti della cache

Per un maggiore controllo sulla cache, puoi inserire cache_control direttamente sui singoli blocchi di contenuto. Questo è utile quando devi memorizzare nella cache sezioni diverse che cambiano con frequenze diverse, o quando hai bisogno di un controllo granulare su cosa viene memorizzato esattamente.

Strutturare il prompt

Posiziona il contenuto statico (definizioni degli strumenti, istruzioni di sistema, contesto, esempi) all'inizio del prompt. Contrassegna la fine del contenuto riutilizzabile da memorizzare nella cache usando il parametro cache_control.

I prefissi della cache vengono creati nel seguente ordine: tools, system, poi messages. Questo ordine forma una gerarchia in cui ogni livello si basa sui precedenti.

Come funziona il controllo automatico dei prefissi

Puoi usare un solo punto di interruzione della cache alla fine del contenuto statico, e il sistema troverà automaticamente il prefisso più lungo che una richiesta precedente ha già scritto nella cache. Capire come funziona ti aiuta a ottimizzare la tua strategia di cache.

Tre principi fondamentali:

1. Le scritture nella cache avvengono solo in corrispondenza del punto di interruzione. Contrassegnare un blocco con cache_control scrive esattamente una voce nella cache: un hash del prefisso che termina in quel blocco. Il sistema non scrive voci per nessuna posizione precedente. Poiché l'hash è cumulativo e copre tutto fino al punto di interruzione incluso, modificare qualsiasi blocco in corrispondenza o prima del punto di interruzione produce un hash diverso nella richiesta successiva.

2. Le letture dalla cache cercano a ritroso le voci scritte dalle richieste precedenti. A ogni richiesta il sistema calcola l'hash del prefisso in corrispondenza del punto di interruzione e verifica se esiste una voce corrispondente nella cache. Se non esiste, risale all'indietro un blocco alla volta, verificando se l'hash del prefisso in ciascuna posizione precedente corrisponde a qualcosa già presente nella cache. Cerca scritture precedenti, non contenuto stabile.

3. La "lookback window" (finestra di ricerca a ritroso) è di 20 blocchi. Il sistema controlla al massimo 20 posizioni per punto di interruzione, contando il punto di interruzione stesso come prima posizione. Se il sistema non trova alcuna voce corrispondente in quella finestra, il controllo si interrompe (o riprende dal successivo punto di interruzione esplicito, se presente). Sulla Claude API, una sequenza di blocchi tool_use consecutivi conta come una sola posizione, così come una sequenza di blocchi tool_result consecutivi, quindi un turno con molte chiamate parallele agli strumenti non spinge da solo la voce della richiesta precedente fuori dalla finestra.

Esempio: ricerca a ritroso in una conversazione in crescita

Aggiungi nuovi blocchi a ogni turno e imposti cache_control sul blocco finale di ogni richiesta:

• Turno 1: 10 blocchi, punto di interruzione sul blocco 10. Non esistono voci precedenti nella cache. Il sistema scrive una voce al blocco 10.
• Turno 2: 15 blocchi, punto di interruzione sul blocco 15. Il blocco 15 non ha alcuna voce, quindi il sistema risale al blocco 10 e trova la voce del turno 1. "Cache hit" (corrispondenza nella cache) al blocco 10; il sistema elabora da zero solo i blocchi da 11 a 15 e scrive una nuova voce al blocco 15.
• Turno 3: 35 blocchi, punto di interruzione sul blocco 35. Il sistema controlla 20 posizioni (blocchi da 35 a 16) e non trova nulla. La voce del turno 2 al blocco 15 si trova una posizione fuori dalla finestra, quindi non c'è alcun cache hit. Aggiungere un secondo punto di interruzione al blocco 15 avvia lì una seconda finestra di ricerca a ritroso, che trova la voce del turno 2.

Errore comune: punto di interruzione su contenuto che cambia a ogni richiesta

Il tuo prompt ha un ampio contesto di sistema statico (blocchi da 1 a 5) seguito da un blocco specifico per ogni richiesta contenente un timestamp e il messaggio dell'utente (blocco 6). Imposti cache_control sul blocco 6:

• Richiesta 1: scrittura nella cache al blocco 6. L'hash include il timestamp.
• Richiesta 2: il timestamp è diverso, quindi l'hash del prefisso al blocco 6 è diverso. La ricerca a ritroso attraversa i blocchi 5, 4, 3, 2 e 1, ma il sistema non ha mai scritto una voce in nessuna di quelle posizioni. Nessun cache hit. Paghi una nuova scrittura nella cache a ogni richiesta e non ottieni mai una lettura.

La ricerca a ritroso non trova il contenuto stabile dietro il punto di interruzione per memorizzarlo nella cache. Trova le voci che le richieste precedenti hanno già scritto, e le scritture avvengono solo in corrispondenza dei punti di interruzione. Sposta cache_control sul blocco 5, l'ultimo blocco che rimane invariato tra le richieste, e ogni richiesta successiva leggerà il prefisso dalla cache. La cache automatica cade nella stessa trappola: posiziona il punto di interruzione sull'ultimo blocco memorizzabile, che in questa struttura è quello che cambia a ogni richiesta, quindi usa invece un punto di interruzione esplicito sul blocco 5.

Punto chiave: posiziona cache_control sull'ultimo blocco il cui prefisso è identico tra le richieste che vuoi far condividere una cache. In una conversazione in crescita il blocco finale funziona purché ogni turno aggiunga meno di 20 blocchi: il contenuto precedente non cambia mai, quindi la ricerca a ritroso della richiesta successiva trova la scrittura precedente. Per un prompt con un suffisso variabile (timestamp, contesto specifico per richiesta, il messaggio in arrivo), posiziona il punto di interruzione alla fine del prefisso statico, non sul blocco variabile.

Quando usare più punti di interruzione

Puoi definire fino a 4 punti di interruzione della cache se vuoi:

• Memorizzare nella cache sezioni diverse che cambiano con frequenze diverse (ad esempio, gli strumenti cambiano raramente, ma il contesto si aggiorna ogni giorno)
• Avere un maggiore controllo su cosa viene memorizzato esattamente nella cache
• Garantire un cache hit quando una conversazione in crescita sposta il punto di interruzione di 20 o più blocchi oltre l'ultima scrittura nella cache

Comprendere i costi dei punti di interruzione della cache

I punti di interruzione della cache di per sé non aggiungono alcun costo. Ti vengono addebitati solo:

• Scritture nella cache: quando nuovo contenuto viene scritto nella cache (25% in più rispetto ai token di input base per il TTL di 5 minuti)
• Letture dalla cache: quando viene utilizzato contenuto memorizzato nella cache (10% del prezzo base dei token di input, oppure 2,5% su Claude Fable 5.1 e Claude Mythos 5.1, e 5% su Claude Opus 5.5)
• Token di input normali: per qualsiasi contenuto non memorizzato nella cache

Aggiungere più punti di interruzione cache_control non aumenta i costi; paghi comunque lo stesso importo in base al contenuto effettivamente memorizzato e letto dalla cache. I punti di interruzione ti danno il controllo su quali sezioni possono essere memorizzate nella cache in modo indipendente.

Strategie e considerazioni sulla cache

Limitazioni della cache

Sulla Claude API, su Claude Platform on AWS, Google Cloud e Microsoft Foundry, la lunghezza minima del prompt memorizzabile nella cache è:

• 512 token per Claude Fable 5.1, Claude Mythos 5.1, Claude Opus 5.5, Claude Opus 5, Claude Sonnet 5.5, Claude Fable 5, e Claude Mythos 5
• 2.048 token per Claude Mythos Preview e Claude Opus 4.7
• 4.096 token per Claude Opus 4.6 e Claude Opus 4.5
• 1.024 token per Claude Opus 4.8, Claude Sonnet 5, Claude Sonnet 4.6, Claude Sonnet 4.5, Claude Opus 4.1 (ritirato, tranne su Bedrock e Google Cloud), Claude Opus 4 (ritirato, tranne su Google Cloud) e Claude Sonnet 4 (ritirato, tranne su Bedrock e Google Cloud)
• 4.096 token per Claude Haiku 4.5
• 2.048 token per Claude Haiku 3.5 (ritirato, tranne su Bedrock e Google Cloud)

Questi minimi si applicano su ogni piattaforma in cui ciascun modello è disponibile.

I prompt più brevi non possono essere memorizzati nella cache, anche se contrassegnati con cache_control. Qualsiasi richiesta di memorizzare nella cache un numero di token inferiore a questo verrà elaborata senza cache, e non viene restituito alcun errore. Per verificare se un prompt è stato memorizzato nella cache, controlla i campi di utilizzo della risposta: se sia cache_creation_input_tokens che cache_read_input_tokens sono 0, il prompt non è stato memorizzato nella cache (probabilmente perché non soddisfaceva il requisito di lunghezza minima).

Se il tuo prompt è appena al di sotto del minimo per il tuo modello e la tua piattaforma, spesso conviene ampliare il contenuto memorizzato nella cache per raggiungere la soglia. Le letture dalla cache costano molto meno dei token di input non memorizzati, quindi raggiungere il minimo può ridurre i costi per i prompt riutilizzati di frequente.

Per le richieste simultanee, tieni presente che una voce della cache diventa disponibile solo dopo l'inizio della prima risposta. Se hai bisogno di cache hit per richieste parallele, attendi la prima risposta prima di inviare le richieste successive.

Attualmente, "ephemeral" è l'unico tipo di cache supportato, che per impostazione predefinita ha una durata di 5 minuti.

Cosa può essere memorizzato nella cache

La maggior parte dei blocchi nella richiesta può essere memorizzata nella cache. Questo include:

• Strumenti: definizioni degli strumenti nell'array tools
• Messaggi di sistema: blocchi di contenuto nell'array system
• Messaggi di testo: blocchi di contenuto nell'array messages.content, sia per i turni dell'utente che per quelli dell'assistente
• Immagini e documenti: blocchi di contenuto nell'array messages.content, nei turni dell'utente
• Uso degli strumenti e risultati degli strumenti: blocchi di contenuto nell'array messages.content, sia nei turni dell'utente che in quelli dell'assistente

Ciascuno di questi elementi può essere memorizzato nella cache, automaticamente oppure contrassegnandolo con cache_control.

Cosa non può essere memorizzato nella cache

Sebbene la maggior parte dei blocchi della richiesta possa essere memorizzata nella cache, ci sono alcune eccezioni:

• I blocchi di ragionamento non possono essere memorizzati direttamente nella cache con cache_control. Tuttavia, i blocchi di ragionamento POSSONO essere memorizzati nella cache insieme ad altro contenuto quando compaiono nei turni precedenti dell'assistente. Quando vengono memorizzati in questo modo, VENGONO conteggiati come token di input quando letti dalla cache.

• I blocchi di sotto-contenuto (come le citazioni) non possono essere memorizzati direttamente nella cache. Memorizza invece il blocco di livello superiore.

  Nel caso delle citazioni, i blocchi di contenuto del documento di livello superiore che fungono da materiale di origine per le citazioni possono essere memorizzati nella cache. Questo ti consente di usare efficacemente la cache dei prompt con le citazioni, memorizzando nella cache i documenti a cui le citazioni faranno riferimento.

• I blocchi di testo vuoti non possono essere memorizzati nella cache.

Cosa invalida la cache

Le modifiche al contenuto memorizzato nella cache possono invalidare la cache in parte o del tutto.

Come descritto in Strutturare il prompt, la cache segue la gerarchia: tools → system → messages. Le modifiche a ciascun livello invalidano quel livello e tutti i livelli successivi.

La tabella seguente mostra quali parti della cache vengono invalidate dai diversi tipi di modifiche. ✘ indica che la cache viene invalidata, mentre ✓ indica che la cache rimane valida.

Sui modelli che supportano le modifiche agli strumenti a metà conversazione, l'header beta inline-tools-2026-09-15 ti consente di aggiungere uno strumento, o modificare la definizione di uno strumento, a metà di una conversazione senza modificare tools. Invia la definizione in un blocco tool_addition in un messaggio di sistema a metà conversazione e lascia tools esattamente come l'hai inviato la prima volta. Il prefisso nella cache continua a corrispondere, quindi solo il messaggio aggiunto viene elaborato come nuovo input. L'unica eccezione è un array tools senza alcuno strumento non differito, in cui il primo strumento definito in questo modo comporta un cache miss completo in quella richiesta. Consulta Definire gli strumenti in un messaggio.

Monitorare le prestazioni della cache

Monitora le prestazioni della cache usando questi campi della risposta dell'API, all'interno di usage nella risposta (o nell'evento message_start se usi lo streaming):

• cache_creation_input_tokens: numero di token scritti nella cache durante la creazione di una nuova voce.
• cache_read_input_tokens: numero di token recuperati dalla cache per questa richiesta.
• input_tokens: numero di token di input che non sono stati letti dalla cache né usati per crearla (ovvero, i token dopo l'ultimo punto di interruzione della cache).

Cache con i blocchi di ragionamento

Quando usi il ragionamento con la cache dei prompt, i blocchi di ragionamento hanno un comportamento speciale:

Cache automatica insieme ad altro contenuto: sebbene i blocchi di ragionamento non possano essere contrassegnati esplicitamente con cache_control, vengono memorizzati nella cache come parte del contenuto della richiesta quando effettui chiamate API successive con risultati degli strumenti. Questo accade comunemente durante l'uso degli strumenti, quando ripassi i blocchi di ragionamento per continuare la conversazione.

Conteggio dei token di input: quando i blocchi di ragionamento vengono letti dalla cache, vengono conteggiati come token di input nelle metriche di utilizzo. Questo è importante per il calcolo dei costi e la pianificazione del budget di token.

Schemi di invalidazione della cache:

• La cache rimane valida quando vengono forniti solo risultati degli strumenti come messaggi dell'utente
• Su Opus 4.5+ e Sonnet 4.6+, i blocchi di ragionamento vengono preservati per impostazione predefinita anche quando viene aggiunto contenuto dell'utente diverso dai risultati degli strumenti, quindi la cache rimane valida
• Sui modelli Opus/Sonnet precedenti e su tutti i modelli Haiku, la cache viene invalidata quando viene aggiunto contenuto dell'utente diverso dai risultati degli strumenti, causando la rimozione dal contesto di tutti i blocchi di ragionamento precedenti
• Questo comportamento della cache si verifica anche senza marcatori cache_control espliciti

Per maggiori dettagli sull'invalidazione della cache, consulta Cosa invalida la cache.

Esempio con uso degli strumenti:

Request 1: User: "What's the weather in Paris?"
Response: [thinking_block_1] + [tool_use block 1]

Request 2:
User: ["What's the weather in Paris?"],
Assistant: [thinking_block_1] + [tool_use block 1],
User: [tool_result_1, cache=True]
Response: [thinking_block_2] + [text block 2]
# Request 2 caches its request content (not the response)
# The cache includes: user message, thinking_block_1, tool_use block 1, and tool_result_1

Request 3:
User: ["What's the weather in Paris?"],
Assistant: [thinking_block_1] + [tool_use block 1],
User: [tool_result_1, cache=True],
Assistant: [thinking_block_2] + [text block 2],
User: [Text response, cache=True]
# On earlier Opus/Sonnet and all Haiku models, non-tool-result user block causes prior thinking blocks to be stripped; on Opus 4.5+/Sonnet 4.6+ they are kept

Sui modelli Opus/Sonnet precedenti e su tutti i modelli Haiku, a questo punto tutti i blocchi di ragionamento precedenti vengono rimossi dal contesto. Su Opus 4.5+ e Sonnet 4.6+, i blocchi di ragionamento precedenti vengono mantenuti per impostazione predefinita e restano parte del prefisso nella cache.

Per informazioni più dettagliate, consulta Ragionamento e cache dei prompt.

Archiviazione e condivisione della cache

• Isolamento per organizzazione e workspace: le cache sono isolate tra le organizzazioni. Organizzazioni diverse non condividono mai le cache, anche se usano prompt identici. Le cache sono inoltre isolate per workspace all'interno di un'organizzazione sulla Claude API, su Claude Platform on AWS e su Microsoft Foundry; Bedrock e Google Cloud usano solo l'isolamento a livello di organizzazione.

• Corrispondenza esatta: i cache hit richiedono segmenti di prompt identici al 100%, inclusi tutto il testo e tutte le immagini fino al blocco contrassegnato con il controllo della cache incluso.

• Generazione dei token di output: la cache dei prompt non ha alcun effetto sulla generazione dei token di output. La risposta che ricevi è identica a quella che otterresti se la cache dei prompt non fosse utilizzata.

Best practice per una cache efficace

Per ottimizzare le prestazioni della cache dei prompt:

• Inizia con la cache automatica per le conversazioni a più turni. Gestisce automaticamente i punti di interruzione.
• Usa i punti di interruzione espliciti a livello di blocco quando devi memorizzare nella cache sezioni diverse con frequenze di modifica diverse.
• Memorizza nella cache contenuto stabile e riutilizzabile, come istruzioni di sistema, informazioni di base, contesti ampi o definizioni di strumenti usate di frequente.
• Posiziona il contenuto da memorizzare nella cache all'inizio del prompt per ottenere le migliori prestazioni.
• Usa i punti di interruzione della cache in modo strategico per separare le diverse sezioni di prefisso memorizzabili.
• Posiziona il punto di interruzione sull'ultimo blocco che rimane identico tra le richieste. Per un prompt con un prefisso statico e un suffisso variabile (timestamp, contesto specifico per richiesta, il messaggio in arrivo), si tratta della fine del prefisso, non del blocco variabile.
• Analizza regolarmente i tassi di cache hit e adatta la tua strategia secondo necessità.

Ottimizzazione per diversi casi d'uso

Adatta la tua strategia di cache dei prompt al tuo scenario:

• Agenti conversazionali: riduci costi e "latency" (latenza) per conversazioni estese, in particolare quelle con istruzioni lunghe o documenti caricati.
• Assistenti di programmazione: migliora il completamento automatico e le domande e risposte sulla codebase mantenendo nel prompt le sezioni rilevanti o una versione riassunta della codebase.
• Elaborazione di documenti di grandi dimensioni: incorpora nel prompt materiale completo di lunga durata, incluse le immagini, senza aumentare la latenza della risposta.
• Set di istruzioni dettagliati: condividi elenchi estesi di istruzioni, procedure ed esempi per perfezionare le risposte di Claude. Gli sviluppatori spesso includono uno o due esempi nel prompt, ma con la cache dei prompt puoi ottenere prestazioni ancora migliori includendo più di 20 esempi diversificati di risposte di alta qualità.
• Uso degli strumenti in modalità agentica: migliora le prestazioni per scenari che prevedono più chiamate agli strumenti e modifiche iterative al codice, in cui ogni passaggio richiede in genere una nuova chiamata API.
• Conversare con libri, articoli, documentazione, trascrizioni di podcast e altri contenuti di lunga durata: dai vita a qualsiasi base di conoscenza incorporando l'intero documento (o gli interi documenti) nel prompt e consentendo agli utenti di porre domande.

Risoluzione dei problemi comuni

Se riscontri un comportamento inatteso:

• Assicurati che le sezioni memorizzate nella cache siano identiche tra le chiamate. Per i punti di interruzione espliciti, verifica che i marcatori cache_control si trovino nelle stesse posizioni
• Controlla che le chiamate vengano effettuate entro la durata della cache (5 minuti per impostazione predefinita)
• Verifica che tool_choice, l'uso delle immagini, la configurazione del ragionamento e output_config.effort rimangano coerenti tra le chiamate
• Verifica di memorizzare nella cache almeno il numero minimo di token per il tuo modello e la tua piattaforma (consulta Limitazioni della cache)
• Conferma che il punto di interruzione si trovi su un blocco che rimane identico tra le richieste. Le scritture nella cache avvengono solo in corrispondenza del punto di interruzione e, se quel blocco cambia (timestamp, contesto specifico per richiesta, il messaggio in arrivo), l'hash del prefisso non corrisponde mai. La ricerca a ritroso non trova il contenuto stabile dietro il punto di interruzione; trova solo le voci che le richieste precedenti hanno scritto in corrispondenza dei propri punti di interruzione
• Verifica che le chiavi nei blocchi di contenuto tool_use abbiano un ordinamento stabile, poiché alcuni linguaggi (ad esempio Swift, Go) rendono casuale l'ordine delle chiavi durante la conversione in JSON, compromettendo le cache
• Usa la diagnostica della cache per far sì che l'API confronti richieste consecutive e segnali quale parte del prompt è divergente

Durata della cache di 1 ora

Se ritieni che 5 minuti siano troppo pochi, Anthropic offre anche una durata della cache di 1 ora a un costo aggiuntivo.

Per usare la cache estesa, includi ttl nella definizione di cache_control in questo modo:

"cache_control": {
  "type": "ephemeral",
  "ttl": "1h"
}

La risposta include informazioni dettagliate sulla cache come le seguenti:

{
  "usage": {
    "input_tokens": 2048,
    "cache_read_input_tokens": 1800,
    "cache_creation_input_tokens": 248,
    "output_tokens": 503,

    "cache_creation": {
      "ephemeral_5m_input_tokens": 148,
      "ephemeral_1h_input_tokens": 100
    }
  }
}

Tieni presente che l'attuale campo cache_creation_input_tokens è uguale alla somma dei valori nell'oggetto cache_creation.

Se vedi scritture ephemeral_5m_input_tokens che non hai richiesto mentre usi strumenti server come la ricerca web, consulta Uso degli strumenti con la cache dei prompt.

Quando usare la cache di 1 ora

Se hai prompt utilizzati con cadenza regolare (ovvero, prompt di sistema utilizzati più spesso di ogni 5 minuti), continua a usare la cache di 5 minuti, poiché continuerà a essere aggiornata senza costi aggiuntivi.

La cache di 1 ora è più indicata nei seguenti scenari:

• Quando hai prompt che probabilmente vengono utilizzati meno spesso di ogni 5 minuti, ma più spesso di ogni ora. Ad esempio, quando un agente secondario in un flusso agentico impiegherà più di 5 minuti, oppure quando memorizzi una lunga conversazione di chat con un utente e in genere prevedi che quell'utente potrebbe non rispondere nei 5 minuti successivi.
• Quando la latenza è importante e i tuoi prompt successivi potrebbero essere inviati dopo più di 5 minuti.
• Quando vuoi migliorare l'utilizzo del tuo "rate limit" (limite di velocità), poiché i cache hit non vengono detratti dal tuo limite di velocità.

Combinare TTL diversi

Puoi usare sia controlli della cache da 1 ora sia da 5 minuti nella stessa richiesta, ma con un vincolo importante: le voci della cache con TTL più lungo devono comparire prima di quelle con TTL più breve (ovvero, una voce della cache da 1 ora deve comparire prima di qualsiasi voce della cache da 5 minuti).

Quando combini TTL diversi, l'API determina tre posizioni di fatturazione nel tuo prompt:

1. Posizione A: il conteggio dei token in corrispondenza del cache hit più alto (o 0 se non ci sono hit).
2. Posizione B: il conteggio dei token in corrispondenza del blocco cache_control da 1 ora più alto dopo A (oppure uguale ad A se non ne esistono).
3. Posizione C: il conteggio dei token in corrispondenza dell'ultimo blocco cache_control.

Ti verranno addebitati:

1. Token di lettura della cache per A.
2. Token di scrittura della cache da 1 ora per (B - A).
3. Token di scrittura della cache da 5 minuti per (C - B).

Ecco tre esempi. L'immagine mostra i token di input di 3 richieste, ciascuna con cache hit e cache miss diversi. Di conseguenza, ciascuna ha un prezzo calcolato diverso, mostrato nei riquadri colorati.

Preriscaldare la cache

Il "cache pre-warming" (preriscaldamento della cache) ti consente di caricare il tuo prompt di sistema o le definizioni degli strumenti nella cache dei prompt prima che un utente attivi una richiesta reale. Questo elimina la penalità di latenza dovuta al cache miss alla prima interazione dell'utente, riducendo il "time-to-first-token" (tempo al primo token), o TTFT, per le applicazioni sensibili alla latenza.

Come funziona

Imposta max_tokens: 0 nella tua richiesta. L'API legge il tuo prompt nel modello e scrive la cache in corrispondenza di qualsiasi breakpoint cache_control, quindi restituisce immediatamente una risposta senza generare alcun output. La risposta ha un array content vuoto, stop_reason: "max_tokens" e un blocco usage completamente popolato.

Posiziona il breakpoint cache_control sull'ultimo blocco condiviso con la richiesta successiva (in genere il tuo prompt di sistema o le definizioni degli strumenti), non sul messaggio utente segnaposto. Altrimenti la voce della cache viene associata al segnaposto e la richiesta successiva non la colpirà. Usa anche la stessa configurazione del ragionamento e lo stesso output_config.effort delle tue richieste successive: questi valori vengono inseriti nel prompt (vedi Cosa invalida la cache), quindi un preriscaldamento con una configurazione diversa può scrivere una voce che il tuo traffico reale non colpirà mai. Ciò significa usare un breakpoint della cache esplicito anziché la cache automatica, poiché la cache automatica posiziona il breakpoint sull'ultimo blocco, che in questo caso è il segnaposto. Il messaggio utente segnaposto può essere qualsiasi stringa con contenuto diverso da spazi bianchi (gli esempi qui usano "warmup"); il suo contenuto viene letto nel modello ma non riceve mai risposta.

client = anthropic.Anthropic()

# Esegui questa chiamata prima dell'arrivo degli utenti per preriscaldare la cache condivisa del prompt di sistema.
prewarm = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=0,
    system=[
        {
            "type": "text",
            "text": "You are an expert software engineer with deep knowledge of distributed systems...",
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "warmup"}],
)
print(prewarm.stop_reason)  # "max_tokens"
print(prewarm.content)  # []
print(prewarm.usage)

L'API restituisce un array content vuoto:

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
  "content": [],
  "model": "claude-opus-5-5",
  "stop_reason": "max_tokens",
  "stop_sequence": null,
  "usage": {
    "input_tokens": 8,
    "cache_creation_input_tokens": 5120,
    "cache_read_input_tokens": 0,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 5120,
      "ephemeral_1h_input_tokens": 0
    },
    "iterations": [
      {
        "input_tokens": 8,
        "output_tokens": 0,
        "cache_read_input_tokens": 0,
        "cache_creation_input_tokens": 5120,
        "cache_creation": {
          "ephemeral_5m_input_tokens": 5120,
          "ephemeral_1h_input_tokens": 0
        },
        "type": "message"
      }
    ],
    "output_tokens": 0,
    "service_tier": "standard",
    "inference_geo": "global"
  }
}

Schema di utilizzo tipico

Invia una richiesta di preriscaldamento all'avvio della tua applicazione (o a intervalli programmati), quindi invia le richieste reali degli utenti dopo il completamento del preriscaldamento:

client = anthropic.Anthropic()

SYSTEM_PROMPT = [
    {
        "type": "text",
        "text": "You are an expert software engineer with deep knowledge of distributed systems...",
        "cache_control": {"type": "ephemeral"},
    }
]


def prewarm_cache() -> None:
    """Call this at application startup or on a scheduled interval."""
    client.messages.create(
        model="claude-opus-5-5",
        max_tokens=0,
        system=SYSTEM_PROMPT,
        messages=[{"role": "user", "content": "warmup"}],
    )


def respond(user_message: str) -> anthropic.types.Message:
    """The real user request; benefits from a warm cache."""
    return client.messages.create(
        model="claude-opus-5-5",
        max_tokens=1024,
        system=SYSTEM_PROMPT,
        messages=[{"role": "user", "content": user_message}],
    )


# Prepara la cache prima che arrivi il traffico degli utenti.
prewarm_cache()

# In seguito, quando l'utente invia un messaggio, il prefisso del prompt di sistema è già in cache.
response = respond("How do I implement a binary search tree?")
for block in response.content:
    if block.type == "text":
        print(block.text)

Tieni presente che il TTL della cache continua ad applicarsi. Per la cache predefinita da 5 minuti, invia una nuova richiesta di preriscaldamento almeno ogni 5 minuti per mantenere la cache calda. Per intervalli più lunghi tra le richieste degli utenti, usa invece la durata della cache di 1 ora.

Limitazioni

Una richiesta con max_tokens: 0 viene rifiutata con un invalid_request_error se è impostato uno qualsiasi dei seguenti elementi, poiché ciascuno implica un output che un budget di zero token non può produrre:

• stream: true
• Ragionamento esteso (thinking.type: "enabled")
• Output strutturati (output_config.format)
• tool_choice con valore {"type": "tool", ...} o {"type": "any"}

max_tokens: 0 viene rifiutato anche all'interno di una richiesta Message Batches. Il preriscaldamento mira al time-to-first-token, che non si applica all'elaborazione in batch, e una voce della cache scritta durante l'elaborazione in batch probabilmente scadrebbe prima dell'esecuzione della richiesta successiva.

Sostituire la soluzione alternativa max_tokens=1

Prima che max_tokens: 0 fosse disponibile, alcune applicazioni usavano chiamate di riscaldamento con max_tokens: 1 per ottenere lo stesso effetto. L'approccio con max_tokens: 0 è preferibile: non viene prodotto alcun output, quindi non c'è una risposta di un singolo token da scartare, non vengono fatturati token di output e l'intento della richiesta è inequivocabile.

Esempi di cache dei prompt

Per aiutarti a iniziare con il "prompt caching" (cache dei prompt), il cookbook sulla cache dei prompt fornisce esempi dettagliati e best practice.

I seguenti frammenti di codice mostrano vari schemi di cache dei prompt. Questi esempi dimostrano come implementare la cache in diversi scenari, aiutandoti a comprendere le applicazioni pratiche di questa funzionalità:

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "You are an AI assistant tasked with analyzing legal documents.",
        },
        {
            "type": "text",
            "text": "Here is the full text of a complex legal agreement: [Insert full text of a 50-page legal agreement here]",
            "cache_control": {"type": "ephemeral"},
        },
    ],
    messages=[
        {
            "role": "user",
            "content": "What are the key terms and conditions in this agreement?",
        }
    ],
)
print(response.usage.model_dump_json())

{
  "model": "claude-opus-5-5",
  "max_tokens": 1024,
  "tools": [
    {
      "name": "get_weather",
      "description": "Get the current weather in a given location",
      "input_schema": {
        "type": "object",
        "properties": { "location": { "type": "string" } },
        "required": ["location"]
      }
    },
    {
      "name": "get_time",
      "description": "Get the current time in a given time zone",
      "input_schema": {
        "type": "object",
        "properties": { "timezone": { "type": "string" } },
        "required": ["timezone"]
      },
      "cache_control": { "type": "ephemeral" }
    }
  ],
  "messages": [{ "role": "user", "content": "What is the weather and time in New York?" }]
}

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "...long system prompt",
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[
        # ...lunga conversazione fin qui
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "Hello, can you tell me more about the solar system?",
                }
            ],
        },
        {
            "role": "assistant",
            "content": "Certainly! The solar system is the collection of celestial bodies that orbit our Sun. It consists of eight planets, numerous moons, asteroids, comets, and other objects. The planets, in order from closest to farthest from the Sun, are: Mercury, Venus, Earth, Mars, Jupiter, Saturn, Uranus, and Neptune. Each planet has its own unique characteristics and features. Is there a specific aspect of the solar system you'd like to know more about?",
        },
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Good to know."},
                {
                    "type": "text",
                    "text": "Tell me more about Mars.",
                    "cache_control": {"type": "ephemeral"},
                },
            ],
        },
    ],
)
print(response.usage.model_dump_json())

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    tools=[
        {
            "name": "search_documents",
            "description": "Search through the knowledge base",
            "input_schema": {
                "type": "object",
                "properties": {
                    "query": {"type": "string", "description": "Search query"}
                },
                "required": ["query"],
            },
        },
        {
            "name": "get_document",
            "description": "Retrieve a specific document by ID",
            "input_schema": {
                "type": "object",
                "properties": {
                    "doc_id": {"type": "string", "description": "Document ID"}
                },
                "required": ["doc_id"],
            },
            "cache_control": {"type": "ephemeral"},
        },
    ],
    system=[
        {
            "type": "text",
            "text": "You are a helpful research assistant with access to a document knowledge base.\n\n# Instructions\n- Always search for relevant documents before answering\n- Provide citations for your sources\n- Be objective and accurate in your responses\n- If multiple documents contain relevant information, synthesize them\n- Acknowledge when information is not available in the knowledge base",
            "cache_control": {"type": "ephemeral"},
        },
        {
            "type": "text",
            "text": "# Knowledge Base Context\n\nHere are the relevant documents for this conversation:\n\n## Document 1: Solar System Overview\nThe solar system consists of the Sun and all objects that orbit it...\n\n## Document 2: Planetary Characteristics\nEach planet has unique features. Mercury is the smallest planet...\n\n## Document 3: Mars Exploration\nMars has been a target of exploration for decades...\n\n[Additional documents...]",
            "cache_control": {"type": "ephemeral"},
        },
    ],
    messages=[
        {
            "role": "user",
            "content": "Can you search for information about Mars rovers?",
        },
        {
            "role": "assistant",
            "content": [
                {
                    "type": "tool_use",
                    "id": "tool_1",
                    "name": "search_documents",
                    "input": {"query": "Mars rovers"},
                }
            ],
        },
        {
            "role": "user",
            "content": [
                {
                    "type": "tool_result",
                    "tool_use_id": "tool_1",
                    "content": "Found 3 relevant documents: Document 3 (Mars Exploration), Document 7 (Rover Technology), Document 9 (Mission History)",
                }
            ],
        },
        {
            "role": "assistant",
            "content": [
                {
                    "type": "text",
                    "text": "I found 3 relevant documents about Mars rovers. Let me get more details from the Mars Exploration document.",
                }
            ],
        },
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "Yes, please tell me about the Perseverance rover specifically.",
                    "cache_control": {"type": "ephemeral"},
                }
            ],
        },
    ],
)
print(response.usage.model_dump_json())

Conservazione dei dati

La cache dei prompt (sia automatica sia esplicita) è idonea per ZDR. Anthropic non memorizza il testo grezzo dei tuoi prompt né delle risposte di Claude.

Le rappresentazioni della cache KV (chiave-valore) e gli hash crittografici del contenuto memorizzato nella cache sono conservati solo in memoria e non vengono archiviati in modo persistente. Le voci della cache hanno una durata minima di 5 minuti (standard) o 1 ora (estesa), dopo la quale vengono eliminate tempestivamente, anche se non immediatamente. Le voci della cache sono isolate tra organizzazioni e, sulla Claude API, su Claude Platform on AWS e su Microsoft Foundry, tra i workspace all'interno di un'organizzazione.

Per l'idoneità ZDR di tutte le funzionalità, consulta API e conservazione dei dati.

Domande frequenti

total_input_tokens = cache_read_input_tokens + cache_creation_input_tokens + input_tokens

client.beta.prompt_caching.messages.create(**params)

client.messages.create(**params)

client.beta.promptCaching.messages.create(/* ... */);

client.messages.create(/* ... */);