La finestra di contesto con il pensiero esteso

Quando si utilizza il pensiero esteso, tutti i token di input e output, inclusi i token utilizzati per il pensiero, contano verso il limite della finestra di contesto, con alcune sfumature nelle situazioni multi-turno.

I token del budget di pensiero sono un sottoinsieme del tuo parametro max_tokens, sono fatturati come token di output e contano verso i limiti di velocità.

Tuttavia, i blocchi di pensiero precedenti sono automaticamente rimossi dal calcolo della finestra di contesto dall'API Claude e non fanno parte della cronologia della conversazione che il modello "vede" per i turni successivi, preservando la capacità di token per il contenuto effettivo della conversazione.

Il diagramma sottostante dimostra la gestione specializzata dei token quando il pensiero esteso è abilitato:

• Rimozione del pensiero esteso: I blocchi di pensiero esteso (mostrati in grigio scuro) sono generati durante la fase di output di ogni turno, ma non sono portati avanti come token di input per i turni successivi. Non è necessario rimuovere i blocchi di pensiero da soli. L'API Claude fa questo automaticamente per te se li ripassi indietro.
• Dettagli di implementazione tecnica:
  • L'API esclude automaticamente i blocchi di pensiero dai turni precedenti quando li ripassi indietro come parte della cronologia della conversazione.
  • I token di pensiero esteso sono fatturati come token di output solo una volta, durante la loro generazione.
  • Il calcolo effettivo della finestra di contesto diventa: context_window = (input_tokens - previous_thinking_tokens) + current_turn_tokens.
  • I token di pensiero includono sia i blocchi thinking che i blocchi redacted_thinking.

Questa architettura è efficiente in termini di token e consente un ragionamento estensivo senza spreco di token, poiché i blocchi di pensiero possono essere sostanziali in lunghezza.

La finestra di contesto con pensiero esteso e uso di strumenti

Il diagramma sottostante illustra la gestione dei token della finestra di contesto quando si combina il pensiero esteso con l'uso di strumenti:

• Considerazioni per l'uso di strumenti con pensiero esteso:
  • Quando si pubblicano risultati di strumenti, l'intero blocco di pensiero non modificato che accompagna quella specifica richiesta di strumento (incluse le porzioni di firma/redatte) deve essere incluso.
  • Il calcolo effettivo della finestra di contesto per il pensiero esteso con uso di strumenti diventa: context_window = input_tokens + current_turn_tokens.
  • Il sistema utilizza firme crittografiche per verificare l'autenticità del blocco di pensiero. Non riuscire a preservare i blocchi di pensiero durante l'uso di strumenti può interrompere la continuità del ragionamento di Claude. Quindi, se modifichi i blocchi di pensiero, l'API restituirà un errore.

Finestra di contesto da 1M token

Claude Sonnet 4 e 4.5 supportano una finestra di contesto da 1 milione di token. Questa finestra di contesto estesa ti consente di elaborare documenti molto più grandi, mantenere conversazioni più lunghe e lavorare con basi di codice più estese.

Per utilizzare la finestra di contesto da 1M token, includi l'header beta context-1m-2025-08-07 nelle tue richieste API:

Considerazioni importanti:

• Stato beta: Questa è una funzionalità beta soggetta a modifiche. Le funzionalità e i prezzi possono essere modificati o rimossi nelle versioni future.
• Requisito del livello di utilizzo: La finestra di contesto da 1M token è disponibile per le organizzazioni nel livello di utilizzo 4 e le organizzazioni con limiti di velocità personalizzati. Le organizzazioni di livello inferiore devono avanzare al livello di utilizzo 4 per accedere a questa funzionalità.
• Disponibilità: La finestra di contesto da 1M token è attualmente disponibile sull'API Claude, Amazon Bedrock e Vertex AI di Google Cloud.
• Prezzi: Le richieste che superano i 200K token sono automaticamente addebitate a tariffe premium (2x input, 1.5x output pricing). Vedi la documentazione sui prezzi per i dettagli.
• Limiti di velocità: Le richieste di contesto lungo hanno limiti di velocità dedicati. Vedi la documentazione sui limiti di velocità per i dettagli.
• Considerazioni multimodali: Quando si elabora un gran numero di immagini o pdf, tieni presente che i file possono variare nell'uso dei token. Quando si abbina un prompt grande con un gran numero di immagini, potresti raggiungere i limiti di dimensione della richiesta.

Consapevolezza del contesto in Claude Sonnet 4.5 e Haiku 4.5

Claude Sonnet 4.5 e Claude Haiku 4.5 presentano la consapevolezza del contesto, consentendo a questi modelli di tracciare la loro finestra di contesto rimanente (cioè "budget di token") durante una conversazione. Questo consente a Claude di eseguire compiti e gestire il contesto più efficacemente comprendendo quanto spazio ha per lavorare. Claude è nativamente addestrato per utilizzare questo contesto precisamente per persistere nel compito fino alla fine, piuttosto che dover indovinare quanti token rimangono. Per un modello, mancare di consapevolezza del contesto è come competere in uno show di cucina senza un orologio. I modelli Claude 4.5 cambiano questo informando esplicitamente il modello sul suo contesto rimanente, così può trarre il massimo vantaggio dai token disponibili.

Come funziona:

All'inizio di una conversazione, Claude riceve informazioni sulla sua finestra di contesto totale:

Il budget è impostato a 200K token (standard), 500K token (Claude.ai Enterprise), o 1M token (beta, per organizzazioni idonee).

Dopo ogni chiamata allo strumento, Claude riceve un aggiornamento sulla capacità rimanente:

Questa consapevolezza aiuta Claude a determinare quanta capacità rimane per il lavoro e consente un'esecuzione più efficace su compiti di lunga durata. I token delle immagini sono inclusi in questi budget.

Benefici:

La consapevolezza del contesto è particolarmente preziosa per:

• Sessioni di agenti di lunga durata che richiedono attenzione sostenuta
• Flussi di lavoro multi-finestra di contesto dove le transizioni di stato contano
• Compiti complessi che richiedono una gestione attenta dei token

Per la guida al prompting su come sfruttare la consapevolezza del contesto, vedi la nostra guida alle migliori pratiche di Claude 4.

Gestione della finestra di contesto con i modelli Claude più recenti

Nei modelli Claude più recenti (a partire da Claude Sonnet 3.7), se la somma dei token del prompt e dei token di output supera la finestra di contesto del modello, il sistema restituirà un errore di validazione piuttosto che troncare silenziosamente il contesto. Questo cambiamento fornisce un comportamento più prevedibile ma richiede una gestione più attenta dei token.

Per pianificare l'uso dei tuoi token e assicurarti di rimanere entro i limiti della finestra di contesto, puoi utilizzare l'API di conteggio dei token per stimare quanti token useranno i tuoi messaggi prima di inviarli a Claude.

Vedi la nostra tabella di confronto dei modelli per un elenco delle dimensioni delle finestre di contesto per modello.

Prossimi passi