Fenêtres de contexte

À mesure que les conversations s'allongent, vous finirez par approcher les limites de la fenêtre de contexte. Pour les conversations de longue durée et les flux de travail agentiques, la compaction côté serveur est la stratégie principale de gestion du contexte.



Comment fonctionne la fenêtre de contexte

La « context window » (fenêtre de contexte) fait référence à tout le texte qu'un modèle de langage peut référencer lors de la génération d'une réponse, y compris la réponse elle-même. Ceci est différent du grand corpus de données sur lequel le modèle de langage a été entraîné, et représente plutôt une « mémoire de travail » pour le modèle. Une fenêtre de contexte plus grande permet au modèle de traiter des prompts plus complexes et plus longs, mais plus de contexte n'est pas automatiquement meilleur. À mesure que le nombre de tokens augmente, la précision et le rappel se dégradent, un phénomène connu sous le nom de context rot (dégradation du contexte). Cela rend la sélection de ce qui se trouve dans le contexte tout aussi importante que la quantité d'espace disponible.

Le diagramme suivant illustre le comportement standard de la fenêtre de contexte pour les requêtes API¹ :

¹ Les interfaces de chat telles que claude.ai peuvent également gérer la fenêtre de contexte sur une base glissante « premier entré, premier sorti ».

• Accumulation progressive de tokens : À mesure que la conversation progresse à travers les tours, chaque message utilisateur et chaque réponse de l'assistant s'accumulent dans la fenêtre de contexte, et les tours précédents sont entièrement préservés.
• Capacité de la fenêtre de contexte : La fenêtre de contexte (jusqu'à 1M de tokens, selon le modèle) contient l'historique de la conversation plus la nouvelle sortie que Claude génère.
• Flux entrée-sortie : Chaque tour se compose de :
  • Phase d'entrée : Contient tout l'historique de conversation précédent plus le message utilisateur actuel
  • Phase de sortie : Génère une réponse textuelle qui devient une partie de l'entrée pour le tour suivant

Tout ce qui se trouve dans la requête compte dans la fenêtre de contexte : l'invite système, chaque message dans messages (y compris les résultats d'outils, les images et les documents), et vos définitions d'outils. La sortie que Claude génère pour le tour, y compris sa réflexion étendue, compte également. Chaque réponse indique ce que la requête a consommé dans son champ usage. Si vous utilisez la mise en cache des prompts, le décompte d'entrée est réparti entre input_tokens, cache_read_input_tokens et cache_creation_input_tokens, et les trois comptent dans la fenêtre. Pour estimer une requête avant de l'envoyer, utilisez l'API de comptage de tokens.



Tailles de fenêtre de contexte par modèle

Claude Opus 5, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 5 et Claude Sonnet 4.6 disposent d'une fenêtre de contexte de 1M de tokens sur l'API Claude, Amazon Bedrock, Google Cloud et Microsoft Foundry. Claude Mythos Preview dispose également d'une fenêtre de contexte de 1M de tokens.

Claude Fable 5 et Claude Mythos 5 (claude-fable-5 et claude-mythos-5) disposent également d'une fenêtre de contexte de 1M de tokens. Une seule requête vers n'importe quel modèle doté d'une fenêtre de contexte de 1M de tokens peut générer jusqu'à 128k tokens de sortie (max_tokens). Les autres modèles Claude, y compris Claude Sonnet 4.5, disposent d'une fenêtre de contexte de 200k tokens.

Pour chaque modèle doté d'une fenêtre de contexte de 1M de tokens, 1M est la valeur par défaut : vous n'avez pas besoin d'un en-tête bêta, et les requêtes à contexte long sont facturées au tarif standard.

Une seule requête peut inclure jusqu'à 600 images ou pages PDF (100 pour les modèles dotés d'une fenêtre de contexte de 200k tokens). Si vous envoyez de nombreuses images ou de grands documents, vous pourriez atteindre les limites de taille de requête avant la limite de tokens.

Consultez le tableau de comparaison des modèles pour une liste des tailles de fenêtre de contexte par modèle.



La fenêtre de contexte avec la réflexion

Avec la réflexion, tous les tokens d'entrée et de sortie, y compris les tokens de réflexion, comptent dans la limite de la fenêtre de contexte, avec quelques nuances dans les situations multi-tours.

Les tokens de réflexion sont un sous-ensemble de votre paramètre max_tokens, sont facturés comme des tokens de sortie et comptent dans les limites de débit. Avec la réflexion adaptative, Claude détermine son allocation de réflexion de manière dynamique, de sorte que l'utilisation des tokens de réflexion varie d'une requête à l'autre.

Le fait que les blocs de réflexion des tours précédents de l'assistant restent dans la fenêtre de contexte dépend du modèle. Sur Claude Opus 4.5 et les modèles Opus ultérieurs, Claude Sonnet 4.6 et les modèles Sonnet ultérieurs, Claude Fable 5, Claude Mythos 5 et Claude Mythos Preview, l'API conserve les blocs de réflexion précédents par défaut, et ils comptent dans la fenêtre de contexte comme n'importe quels autres tokens d'entrée. Sur les modèles Opus et Sonnet antérieurs et tous les modèles Haiku, l'API supprime automatiquement les blocs de réflexion précédents de l'historique de conversation lorsque vous les renvoyez, ce qui préserve la capacité en tokens pour le contenu de la conversation. Pour les valeurs par défaut par modèle, consultez la préservation des blocs de réflexion par modèle. Pour remplacer la valeur par défaut dans un sens ou dans l'autre, utilisez l'effacement des blocs de réflexion.

Le diagramme suivant montre comment les tokens sont gérés lorsque la réflexion est activée sur un modèle qui supprime les blocs de réflexion précédents :

• Suppression des blocs de réflexion : Sur les modèles qui suppriment les blocs de réflexion précédents, les blocs de réflexion (affichés en gris foncé) sont générés pendant la phase de sortie de chaque tour mais ne sont pas reportés comme tokens d'entrée pour les tours suivants. Vous n'avez pas besoin de supprimer les blocs de réflexion vous-même : si vous les renvoyez, l'API Claude les supprime automatiquement.
• Facturation : Les tokens de réflexion sont facturés comme tokens de sortie une seule fois, lorsqu'ils sont générés. Sur les modèles qui conservent les blocs de réflexion précédents, les blocs conservés font ensuite partie de l'entrée des requêtes ultérieures et sont facturés comme tokens d'entrée, comme le reste de l'historique de conversation.



La fenêtre de contexte avec la réflexion et l'utilisation d'outils

Le diagramme suivant illustre comment les tokens sont gérés lorsque vous combinez la réflexion avec l'utilisation d'outils sur un modèle qui supprime les blocs de réflexion précédents :

• Considérations pour l'utilisation d'outils avec la réflexion :
  • Lorsque vous publiez des résultats d'outils, vous devez inclure l'intégralité du bloc de réflexion non modifié qui accompagne cette requête d'outil, y compris sa signature.
  • L'API utilise des signatures cryptographiques pour vérifier l'authenticité des blocs de réflexion. Si vous modifiez un bloc de réflexion, l'API renvoie une erreur.

Pour réduire le contexte consommé par les définitions d'outils elles-mêmes, consultez Gérer le contexte des outils, ou différez les définitions d'outils avec l'outil de recherche d'outils.



Conscience du contexte

Claude Sonnet 5, Claude Sonnet 4.6, Claude Sonnet 4.5 et Claude Haiku 4.5 disposent de la conscience du contexte : ces modèles suivent leur fenêtre de contexte restante (leur « budget de tokens ») tout au long d'une conversation. Cela permet au modèle de gérer des tâches de longue durée en fonction de l'espace restant plutôt que de deviner combien de tokens il reste. La conscience du contexte est automatique : vous n'avez rien à activer, et vous n'envoyez jamais vous-même les balises présentées dans cette section. L'API les injecte.



Comment ça fonctionne

Dans l'invite système de chaque requête, l'API indique à Claude sa fenêtre de contexte totale :

<budget:token_budget>200000</budget:token_budget>

Le budget correspond à la fenêtre de contexte disponible pour votre requête : 1M de tokens pour Claude Sonnet 5 et Claude Sonnet 4.6, et 200k tokens pour Claude Sonnet 4.5 et Claude Haiku 4.5. Les exemples de cette section montrent un modèle doté d'une fenêtre de contexte de 200k tokens.

Après chaque appel d'outil, l'API donne à Claude une mise à jour sur sa capacité restante :

<system_warning>Token usage: 35000/200000; 165000 remaining</system_warning>

Les tokens d'images sont inclus dans ces budgets.

Claude Opus 4.7 et les modèles Opus ultérieurs, Claude Fable 5 et Claude Mythos 5 ne reçoivent pas ces balises injectées. Sur Claude Opus 4.7 et les modèles Opus ultérieurs, Claude Fable 5 et Claude Mythos 5, vous pouvez donner au modèle un budget explicite avec les budgets de tâches, qui sont en bêta.

Pour des conseils de prompting sur l'utilisation de la conscience du contexte, consultez Meilleures pratiques de prompting.



Gérer le contexte avec la compaction

Si vos conversations approchent régulièrement les limites de la fenêtre de contexte, utilisez la compaction côté serveur. La compaction résume automatiquement les parties antérieures de la conversation sur le serveur, afin que la conversation puisse se poursuivre au-delà de la limite de la fenêtre de contexte. Elle est disponible en bêta pour les modèles Claude 4.6 et ultérieurs et Claude Mythos Preview.

Pour des besoins plus spécialisés, l'édition de contexte offre des stratégies supplémentaires :

• Effacement des résultats d'outils : Effacez les anciens résultats d'outils dans les flux de travail agentiques
• Effacement des blocs de réflexion : Gérez les blocs de réflexion lorsque vous utilisez la réflexion étendue

Les préfixes de prompt mis en cache occupent toujours la fenêtre de contexte : la mise en cache des prompts change ce que vous payez pour ces tokens, pas le fait qu'ils comptent ou non.



Comportement en cas de dépassement de la fenêtre de contexte

Si l'entrée seule dépasse déjà la fenêtre de contexte du modèle, l'API renvoie une erreur 400 invalid_request_error (« prompt is too long ») sur tous les modèles.

Sur les modèles Claude 4.5 et plus récents, si les tokens d'entrée plus max_tokens dépassent la taille de la fenêtre de contexte, l'API accepte la requête. Si la génération atteint ensuite la limite de la fenêtre de contexte, elle s'arrête avec stop_reason: "model_context_window_exceeded". Sur les modèles antérieurs, l'API renvoie plutôt une erreur de validation. Pour activer le comportement model_context_window_exceeded sur ces modèles, utilisez l'en-tête bêta model-context-window-exceeded-2025-08-26. Consultez Raisons d'arrêt et solutions de repli pour plus de détails.

Pour rester dans les limites de la fenêtre de contexte, utilisez l'API de comptage de tokens pour estimer l'utilisation de tokens avant d'envoyer des messages à Claude.



Prochaines étapes