Comprendre la fenêtre de contexte

La "fenêtre de contexte" fait référence à l'intégralité de la quantité de texte qu'un modèle de langage peut consulter et référencer lors de la génération de nouveau texte, plus le nouveau texte qu'il génère. Ceci est différent du large corpus de données sur lequel le modèle de langage a été entraîné, et représente plutôt une "mémoire de travail" pour le modèle. Une fenêtre de contexte plus large permet au modèle de comprendre et de répondre à des invites plus complexes et plus longues, tandis qu'une fenêtre de contexte plus petite peut limiter la capacité du modèle à gérer des invites plus longues ou à maintenir la cohérence lors de conversations étendues.

Le diagramme ci-dessous illustre le comportement standard de la fenêtre de contexte pour les requêtes API¹ :

¹Pour les interfaces de chat, comme pour claude.ai, les fenêtres de contexte peuvent également être configurées sur un système rotatif "premier entré, premier sorti".

• Accumulation progressive des jetons : Au fur et à mesure que la conversation progresse à travers les tours, chaque message utilisateur et réponse de l'assistant s'accumule dans la fenêtre de contexte. Les tours précédents sont préservés complètement.
• Modèle de croissance linéaire : L'utilisation du contexte croît linéairement à chaque tour, avec les tours précédents préservés complètement.
• Capacité de 200K jetons : La fenêtre de contexte totale disponible (200 000 jetons) représente la capacité maximale pour stocker l'historique de conversation et générer une nouvelle sortie de Claude.
• Flux entrée-sortie : Chaque tour consiste en :
  • Phase d'entrée : Contient tout l'historique de conversation précédent plus le message utilisateur actuel
  • Phase de sortie : Génère une réponse textuelle qui devient partie d'une entrée future

La fenêtre de contexte avec la pensée étendue

Lors de l'utilisation de la pensée étendue, tous les jetons d'entrée et de sortie, y compris les jetons utilisés pour la réflexion, comptent vers la limite de la fenêtre de contexte, avec quelques nuances dans les situations multi-tours.

Les jetons du budget de réflexion sont un sous-ensemble de votre paramètre max_tokens, sont facturés comme jetons de sortie, et comptent vers les limites de taux.

Cependant, les blocs de réflexion précédents sont automatiquement supprimés du calcul de la fenêtre de contexte par l'API Claude et ne font pas partie de l'historique de conversation que le modèle "voit" pour les tours suivants, préservant la capacité de jetons pour le contenu de conversation réel.

Le diagramme ci-dessous démontre la gestion spécialisée des jetons lorsque la pensée étendue est activée :

• Suppression de la pensée étendue : Les blocs de pensée étendue (montrés en gris foncé) sont générés pendant la phase de sortie de chaque tour, mais ne sont pas transmis comme jetons d'entrée pour les tours suivants. Vous n'avez pas besoin de supprimer les blocs de réflexion vous-même. L'API Claude fait cela automatiquement pour vous si vous les renvoyez.
• Détails d'implémentation technique :
  • L'API exclut automatiquement les blocs de réflexion des tours précédents lorsque vous les renvoyez dans le cadre de l'historique de conversation.
  • Les jetons de pensée étendue sont facturés comme jetons de sortie une seule fois, lors de leur génération.
  • Le calcul effectif de la fenêtre de contexte devient : context_window = (input_tokens - previous_thinking_tokens) + current_turn_tokens.
  • Les jetons de réflexion incluent à la fois les blocs thinking et redacted_thinking.

Cette architecture est efficace en jetons et permet un raisonnement extensif sans gaspillage de jetons, car les blocs de réflexion peuvent être substantiels en longueur.

La fenêtre de contexte avec la pensée étendue et l'utilisation d'outils

Le diagramme ci-dessous illustre la gestion des jetons de la fenêtre de contexte lors de la combinaison de la pensée étendue avec l'utilisation d'outils :

• Considérations pour l'utilisation d'outils avec la pensée étendue :
  • Lors de la publication des résultats d'outils, le bloc de réflexion entier non modifié qui accompagne cette demande d'outil spécifique (y compris les portions de signature/expurgées) doit être inclus.
  • Le calcul effectif de la fenêtre de contexte pour la pensée étendue avec l'utilisation d'outils devient : context_window = input_tokens + current_turn_tokens.
  • Le système utilise des signatures cryptographiques pour vérifier l'authenticité du bloc de réflexion. Ne pas préserver les blocs de réflexion pendant l'utilisation d'outils peut briser la continuité de raisonnement de Claude. Ainsi, si vous modifiez les blocs de réflexion, l'API retournera une erreur.

Fenêtre de contexte de 1M jetons

Claude Sonnet 4 et 4.5 supportent une fenêtre de contexte d'un million de jetons. Cette fenêtre de contexte étendue vous permet de traiter des documents beaucoup plus volumineux, de maintenir des conversations plus longues, et de travailler avec des bases de code plus étendues.

Pour utiliser la fenêtre de contexte de 1M jetons, incluez l'en-tête bêta context-1m-2025-08-07 dans vos requêtes API :

from anthropic import Anthropic

client = Anthropic()

response = client.beta.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Traiter ce document volumineux..."}
    ],
    betas=["context-1m-2025-08-07"]
)

Considérations importantes :

• Statut bêta : Il s'agit d'une fonctionnalité bêta sujette à changement. Les fonctionnalités et la tarification peuvent être modifiées ou supprimées dans les versions futures.
• Exigence de niveau d'utilisation : La fenêtre de contexte de 1M jetons est disponible pour les organisations dans le niveau d'utilisation 4 et les organisations avec des limites de taux personnalisées. Les organisations de niveau inférieur doivent avancer au niveau d'utilisation 4 pour accéder à cette fonctionnalité.
• Disponibilité : La fenêtre de contexte de 1M jetons est actuellement disponible sur l'API Claude, Amazon Bedrock, et Vertex AI de Google Cloud.
• Tarification : Les requêtes dépassant 200K jetons sont automatiquement facturées aux tarifs premium (2x entrée, 1,5x sortie). Voir la documentation de tarification pour les détails.
• Limites de taux : Les requêtes de contexte long ont des limites de taux dédiées. Voir la documentation des limites de taux pour les détails.
• Considérations multimodales : Lors du traitement d'un grand nombre d'images ou de PDF, soyez conscient que les fichiers peuvent varier dans l'utilisation des jetons. Lors de l'association d'une grande invite avec un grand nombre d'images, vous pourriez atteindre les limites de taille de requête.

Conscience du contexte dans Claude Sonnet 4.5 et Haiku 4.5

Claude Sonnet 4.5 et Claude Haiku 4.5 disposent de la conscience du contexte, permettant à ces modèles de suivre leur fenêtre de contexte restante (c'est-à-dire le "budget de jetons") tout au long d'une conversation. Cela permet à Claude d'exécuter des tâches et de gérer le contexte plus efficacement en comprenant combien d'espace il a pour travailler. Claude est nativement entraîné à utiliser ce contexte précisément pour persister dans la tâche jusqu'à la toute fin, plutôt que de devoir deviner combien de jetons restent. Pour un modèle, manquer de conscience du contexte c'est comme concourir dans une émission de cuisine sans horloge. Les modèles Claude 4.5 changent cela en informant explicitement le modèle de son contexte restant, afin qu'il puisse tirer le maximum d'avantage des jetons disponibles.

Comment cela fonctionne :

Au début d'une conversation, Claude reçoit des informations sur sa fenêtre de contexte totale :

<budget:token_budget>200000</budget:token_budget>

Le budget est fixé à 200K jetons (standard), 500K jetons (Claude.ai Enterprise), ou 1M jetons (bêta, pour les organisations éligibles).

Après chaque appel d'outil, Claude reçoit une mise à jour sur la capacité restante :

<system_warning>Utilisation des jetons : 35000/200000 ; 165000 restants</system_warning>

Cette conscience aide Claude à déterminer combien de capacité reste pour le travail et permet une exécution plus efficace sur les tâches de longue durée. Les jetons d'image sont inclus dans ces budgets.

Avantages :

La conscience du contexte est particulièrement précieuse pour :

• Les sessions d'agent de longue durée qui nécessitent une concentration soutenue
• Les flux de travail multi-fenêtres de contexte où les transitions d'état importent
• Les tâches complexes nécessitant une gestion soigneuse des jetons

Pour des conseils d'invite sur l'exploitation de la conscience du contexte, voir notre guide des meilleures pratiques Claude 4.

Gestion de la fenêtre de contexte avec les modèles Claude plus récents

Dans les modèles Claude plus récents (à partir de Claude Sonnet 3.7), si la somme des jetons d'invite et des jetons de sortie dépasse la fenêtre de contexte du modèle, le système retournera une erreur de validation plutôt que de tronquer silencieusement le contexte. Ce changement fournit un comportement plus prévisible mais nécessite une gestion plus soigneuse des jetons.

Pour planifier votre utilisation des jetons et vous assurer de rester dans les limites de la fenêtre de contexte, vous pouvez utiliser l'API de comptage de jetons pour estimer combien de jetons vos messages utiliseront avant de les envoyer à Claude.

Voir notre tableau de comparaison de modèles pour une liste des tailles de fenêtre de contexte par modèle.

Prochaines étapes