Fenêtres de contexte

À mesure que les conversations s'allongent, vous finirez par approcher les limites de la fenêtre de contexte. Ce guide explique comment fonctionnent les fenêtres de contexte et présente des stratégies pour les gérer efficacement.

Pour les conversations longues et les flux de travail agentiques, la compaction côté serveur est la stratégie principale de gestion du contexte. Pour des besoins plus spécialisés, l'édition de contexte offre des stratégies supplémentaires comme l'effacement des résultats d'outils et l'effacement des blocs de réflexion.

Comprendre la fenêtre de contexte

La « fenêtre de contexte » fait référence à tout le texte qu'un modèle de langage peut référencer lors de la génération d'une réponse, y compris la réponse elle-même. Ceci est différent du grand corpus de données sur lequel le modèle de langage a été entraîné, et représente plutôt une « mémoire de travail » pour le modèle. Une fenêtre de contexte plus grande permet au modèle de gérer des invites plus complexes et plus longues, mais plus de contexte n'est pas automatiquement mieux. À mesure que le nombre de jetons augmente, la précision et le rappel se dégradent, un phénomène connu sous le nom de dégradation du contexte. Cela rend la curation de ce qui est en contexte tout aussi importante que l'espace disponible.

Claude obtient des résultats de pointe sur les benchmarks de récupération de contexte long comme MRCR et GraphWalks, mais ces gains dépendent de ce qui est en contexte, pas seulement de ce qui rentre.

Le diagramme ci-dessous illustre le comportement standard de la fenêtre de contexte pour les demandes API¹ :

¹Pour les interfaces de chat, comme pour claude.ai, les fenêtres de contexte peuvent également être configurées sur un système roulant « premier entré, premier sorti ».

• Accumulation progressive de jetons : À mesure que la conversation progresse à travers les tours, chaque message utilisateur et réponse d'assistant s'accumulent dans la fenêtre de contexte. Les tours précédents sont préservés complètement.
• Modèle de croissance linéaire : L'utilisation du contexte croît linéairement à chaque tour, les tours précédents étant préservés complètement.
• Capacité de la fenêtre de contexte : La fenêtre de contexte totale disponible (jusqu'à 1M de jetons) représente la capacité maximale pour stocker l'historique des conversations et générer une nouvelle sortie de Claude.
• Flux entrée-sortie : Chaque tour se compose de :
  • Phase d'entrée : Contient tout l'historique des conversations précédentes plus le message utilisateur actuel
  • Phase de sortie : Génère une réponse textuelle qui devient partie d'une entrée future

La fenêtre de contexte avec la réflexion étendue

Lors de l'utilisation de la réflexion étendue, tous les jetons d'entrée et de sortie, y compris les jetons utilisés pour la réflexion, comptent vers la limite de la fenêtre de contexte, avec quelques nuances dans les situations multi-tours.

Les jetons du budget de réflexion sont un sous-ensemble de votre paramètre max_tokens, sont facturés comme jetons de sortie et comptent vers les limites de débit. Avec la réflexion adaptative, Claude décide dynamiquement son allocation de réflexion, donc l'utilisation réelle des jetons de réflexion peut varier par demande.

Cependant, les blocs de réflexion précédents sont automatiquement supprimés du calcul de la fenêtre de contexte par l'API Claude et ne font pas partie de l'historique des conversations que le modèle « voit » pour les tours suivants, préservant la capacité des jetons pour le contenu réel de la conversation.

Le diagramme ci-dessous démontre la gestion spécialisée des jetons lorsque la réflexion étendue est activée :

• Suppression de la réflexion étendue : Les blocs de réflexion étendue (affichés en gris foncé) sont générés pendant la phase de sortie de chaque tour, mais ne sont pas reportés comme jetons d'entrée pour les tours suivants. Vous n'avez pas besoin de supprimer les blocs de réflexion vous-même. L'API Claude le fait automatiquement pour vous si vous les renvoyez.
• Détails de mise en œuvre technique :
  • L'API exclut automatiquement les blocs de réflexion des tours précédents lorsque vous les renvoyez comme partie de l'historique des conversations.
  • Les jetons de réflexion étendue sont facturés comme jetons de sortie une seule fois, lors de leur génération.
  • Le calcul de la fenêtre de contexte efficace devient : context_window = (input_tokens - previous_thinking_tokens) + current_turn_tokens.
  • Les jetons de réflexion incluent les blocs thinking.

Cette architecture est efficace en jetons et permet un raisonnement étendu sans gaspillage de jetons, car les blocs de réflexion peuvent être substantiels en longueur.

La fenêtre de contexte avec la réflexion étendue et l'utilisation d'outils

Le diagramme ci-dessous illustre la gestion des jetons de la fenêtre de contexte lors de la combinaison de la réflexion étendue avec l'utilisation d'outils :

• Considérations pour l'utilisation d'outils avec la réflexion étendue :
  • Lors de la publication des résultats d'outils, le bloc de réflexion entier et non modifié qui accompagne cette demande d'outil spécifique (y compris les portions de signature) doit être inclus.
  • Le calcul de la fenêtre de contexte efficace pour la réflexion étendue avec utilisation d'outils devient : context_window = input_tokens + current_turn_tokens.
  • Le système utilise des signatures cryptographiques pour vérifier l'authenticité du bloc de réflexion. Ne pas préserver les blocs de réflexion lors de l'utilisation d'outils peut briser la continuité du raisonnement de Claude. Ainsi, si vous modifiez les blocs de réflexion, l'API retourne une erreur.

Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6, et Claude Sonnet 4.6 ont une fenêtre de contexte de 1M de jetons. Les autres modèles Claude, y compris Claude Sonnet 4.5 et Sonnet 4 (déprécié), ont une fenêtre de contexte de 200k de jetons.

Une seule demande peut inclure jusqu'à 600 images ou pages PDF (100 pour les modèles avec une fenêtre de contexte de 200k de jetons). Lors de l'envoi de nombreuses images ou de grands documents, vous pouvez approcher les limites de taille de demande avant la limite de jetons.

Sensibilisation au contexte dans Claude Sonnet 4.6, Sonnet 4.5, et Haiku 4.5

Claude Sonnet 4.6, Claude Sonnet 4.5, et Claude Haiku 4.5 disposent de la sensibilisation au contexte. Cette capacité permet à ces modèles de suivre leur fenêtre de contexte restante (c'est-à-dire leur « budget de jetons ») tout au long d'une conversation. Cela permet à Claude d'exécuter des tâches et de gérer le contexte plus efficacement en comprenant l'espace dont il dispose. Claude est entraîné à utiliser ce contexte avec précision, persévérant dans la tâche jusqu'à la toute fin plutôt que de deviner combien de jetons restent. Pour un modèle, manquer de sensibilisation au contexte, c'est comme participer à un concours culinaire sans horloge. Les modèles Claude 4.5+ changent cela en informant explicitement le modèle de son contexte restant, afin qu'il puisse tirer le maximum parti des jetons disponibles.

Comment cela fonctionne :

Au début d'une conversation, Claude reçoit des informations sur sa fenêtre de contexte totale :

<budget:token_budget>1000000</budget:token_budget>

Le budget est défini à 1M de jetons (200k pour les modèles avec une fenêtre de contexte plus petite).

Après chaque appel d'outil, Claude reçoit une mise à jour sur la capacité restante :

<system_warning>Token usage: 35000/1000000; 965000 remaining</system_warning>

Cette sensibilisation aide Claude à déterminer la capacité restante pour le travail et permet une exécution plus efficace sur les tâches longues. Les jetons d'image sont inclus dans ces budgets.

Avantages :

La sensibilisation au contexte est particulièrement précieuse pour :

• Les sessions d'agent longues qui nécessitent une concentration soutenue
• Les flux de travail multi-fenêtres de contexte où les transitions d'état sont importantes
• Les tâches complexes nécessitant une gestion soigneuse des jetons

Pour des conseils d'invite sur l'exploitation de la sensibilisation au contexte, consultez le guide des meilleures pratiques d'invite.

Gestion du contexte avec la compaction

Si vos conversations approchent régulièrement les limites de la fenêtre de contexte, la compaction côté serveur est l'approche recommandée. La compaction fournit une résumé côté serveur qui condense automatiquement les parties antérieures d'une conversation, permettant des conversations longues au-delà des limites de contexte avec un travail d'intégration minimal. Elle est actuellement disponible en bêta pour Claude Opus 4.7, Claude Opus 4.6, et Claude Sonnet 4.6.

Pour des besoins plus spécialisés, l'édition de contexte offre des stratégies supplémentaires :

• Effacement des résultats d'outils - Effacer les anciens résultats d'outils dans les flux de travail agentiques
• Effacement des blocs de réflexion - Gérer les blocs de réflexion avec la réflexion étendue

Gestion de la fenêtre de contexte avec les nouveaux modèles Claude

Les nouveaux modèles Claude (à partir de Claude Sonnet 3.7) retournent une erreur de validation lorsque les jetons d'invite et de sortie dépassent la fenêtre de contexte, plutôt que de tronquer silencieusement. Ce changement fournit un comportement plus prévisible mais nécessite une gestion plus soigneuse des jetons.

Utilisez l'API de comptage des jetons pour estimer l'utilisation des jetons avant d'envoyer des messages à Claude. Cela vous aide à planifier et à rester dans les limites de la fenêtre de contexte.

Consultez le tableau de comparaison des modèles pour une liste des tailles de fenêtre de contexte par modèle.

Étapes suivantes