Comprendre la fenêtre de contexte

La « fenêtre de contexte » fait référence à la totalité de la quantité de texte qu'un modèle de langage peut consulter et référencer lors de la génération d'un nouveau texte, plus le nouveau texte qu'il génère. Ceci est différent du grand corpus de données sur lequel le modèle de langage a été entraîné, et représente plutôt une « mémoire de travail » pour le modèle. Une fenêtre de contexte plus grande permet au modèle de comprendre et de répondre à des invites plus complexes et plus longues, tandis qu'une fenêtre de contexte plus petite peut limiter la capacité du modèle à gérer des invites plus longues ou à maintenir la cohérence sur des conversations prolongées.

Le diagramme ci-dessous illustre le comportement standard de la fenêtre de contexte pour les demandes d'API¹ :

¹Pour les interfaces de chat, comme pour claude.ai, les fenêtres de contexte peuvent également être configurées sur un système roulant « premier entré, premier sorti ».

• Accumulation progressive des jetons : À mesure que la conversation progresse à travers les tours, chaque message utilisateur et réponse d'assistant s'accumulent dans la fenêtre de contexte. Les tours précédents sont préservés complètement.
• Modèle de croissance linéaire : L'utilisation du contexte croît linéairement à chaque tour, les tours précédents étant préservés complètement.
• Capacité de 200K jetons : La fenêtre de contexte totale disponible (200 000 jetons) représente la capacité maximale pour stocker l'historique des conversations et générer une nouvelle sortie à partir de Claude.
• Flux entrée-sortie : Chaque tour se compose de :
  • Phase d'entrée : Contient tout l'historique des conversations précédentes plus le message utilisateur actuel
  • Phase de sortie : Génère une réponse textuelle qui devient partie d'une entrée future

La fenêtre de contexte avec la pensée étendue

Lors de l'utilisation de la pensée étendue, tous les jetons d'entrée et de sortie, y compris les jetons utilisés pour la pensée, comptent vers la limite de la fenêtre de contexte, avec quelques nuances dans les situations multi-tours.

Les jetons du budget de pensée sont un sous-ensemble de votre paramètre max_tokens, sont facturés comme des jetons de sortie et comptent vers les limites de débit.

Cependant, les blocs de pensée précédents sont automatiquement supprimés du calcul de la fenêtre de contexte par l'API Claude et ne font pas partie de l'historique des conversations que le modèle « voit » pour les tours suivants, préservant la capacité des jetons pour le contenu réel de la conversation.

Le diagramme ci-dessous démontre la gestion spécialisée des jetons lorsque la pensée étendue est activée :

• Suppression de la pensée étendue : Les blocs de pensée étendue (affichés en gris foncé) sont générés pendant la phase de sortie de chaque tour, mais ne sont pas reportés comme jetons d'entrée pour les tours suivants. Vous n'avez pas besoin de supprimer les blocs de pensée vous-même. L'API Claude le fait automatiquement pour vous si vous les renvoyez.
• Détails de mise en œuvre technique :
  • L'API exclut automatiquement les blocs de pensée des tours précédents lorsque vous les renvoyez dans le cadre de l'historique des conversations.
  • Les jetons de pensée étendue sont facturés comme des jetons de sortie une seule fois, lors de leur génération.
  • Le calcul effectif de la fenêtre de contexte devient : context_window = (input_tokens - previous_thinking_tokens) + current_turn_tokens.
  • Les jetons de pensée incluent à la fois les blocs thinking et les blocs redacted_thinking.

Cette architecture est efficace en termes de jetons et permet un raisonnement étendu sans gaspillage de jetons, car les blocs de pensée peuvent être substantiels en longueur.

La fenêtre de contexte avec la pensée étendue et l'utilisation d'outils

Le diagramme ci-dessous illustre la gestion des jetons de la fenêtre de contexte lors de la combinaison de la pensée étendue avec l'utilisation d'outils :

• Considérations pour l'utilisation d'outils avec la pensée étendue :
  • Lors de la publication des résultats d'outils, le bloc de pensée complet et non modifié qui accompagne cette demande d'outil spécifique (y compris les portions de signature/rédaction) doit être inclus.
  • Le calcul effectif de la fenêtre de contexte pour la pensée étendue avec utilisation d'outils devient : context_window = input_tokens + current_turn_tokens.
  • Le système utilise des signatures cryptographiques pour vérifier l'authenticité du bloc de pensée. Ne pas préserver les blocs de pensée lors de l'utilisation d'outils peut briser la continuité du raisonnement de Claude. Ainsi, si vous modifiez les blocs de pensée, l'API renverra une erreur.

Fenêtre de contexte de 1M de jetons

Claude Sonnet 4 et 4.5 prennent en charge une fenêtre de contexte d'un million de jetons. Cette fenêtre de contexte étendue vous permet de traiter des documents beaucoup plus volumineux, de maintenir des conversations plus longues et de travailler avec des bases de code plus étendues.

Pour utiliser la fenêtre de contexte de 1M jetons, incluez l'en-tête bêta context-1m-2025-08-07 dans vos demandes d'API :

from anthropic import Anthropic

client = Anthropic()

response = client.beta.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Process this large document..."}
    ],
    betas=["context-1m-2025-08-07"]
)

Considérations importantes :

• Statut bêta : Ceci est une fonctionnalité bêta sujette à modification. Les fonctionnalités et la tarification peuvent être modifiées ou supprimées dans les versions futures.
• Exigence de niveau d'utilisation : La fenêtre de contexte de 1M jetons est disponible pour les organisations au niveau d'utilisation 4 et les organisations avec des limites de débit personnalisées. Les organisations de niveau inférieur doivent passer au niveau d'utilisation 4 pour accéder à cette fonctionnalité.
• Disponibilité : La fenêtre de contexte de 1M jetons est actuellement disponible sur l'API Claude, Microsoft Foundry, Amazon Bedrock et Google Cloud's Vertex AI.
• Tarification : Les demandes dépassant 200K jetons sont automatiquement facturées à des tarifs premium (2x entrée, 1,5x tarification de sortie). Consultez la documentation de tarification pour plus de détails.
• Limites de débit : Les demandes de contexte long ont des limites de débit dédiées. Consultez la documentation des limites de débit pour plus de détails.
• Considérations multimodales : Lors du traitement d'un grand nombre d'images ou de PDF, soyez conscient que les fichiers peuvent varier dans l'utilisation des jetons. Lorsque vous associez une grande invite à un grand nombre d'images, vous pouvez atteindre les limites de taille des demandes.

Sensibilisation au contexte dans Claude Sonnet 4.5 et Haiku 4.5

Claude Sonnet 4.5 et Claude Haiku 4.5 disposent de la sensibilisation au contexte, permettant à ces modèles de suivre leur fenêtre de contexte restante (c'est-à-dire « budget de jetons ») tout au long d'une conversation. Cela permet à Claude d'exécuter des tâches et de gérer le contexte plus efficacement en comprenant l'espace dont il dispose. Claude est nativement entraîné à utiliser ce contexte précisément pour persister dans la tâche jusqu'à la toute fin, plutôt que d'avoir à deviner combien de jetons restent. Pour un modèle, manquer de sensibilisation au contexte, c'est comme participer à un concours culinaire sans horloge. Les modèles Claude 4.5 changent cela en informant explicitement le modèle de son contexte restant, afin qu'il puisse tirer le maximum parti des jetons disponibles.

Comment ça marche :

Au début d'une conversation, Claude reçoit des informations sur sa fenêtre de contexte totale :

<budget:token_budget>200000</budget:token_budget>

Le budget est défini à 200K jetons (standard), 500K jetons (Claude.ai Enterprise) ou 1M jetons (bêta, pour les organisations éligibles).

Après chaque appel d'outil, Claude reçoit une mise à jour sur la capacité restante :

<system_warning>Token usage: 35000/200000; 165000 remaining</system_warning>

Cette sensibilisation aide Claude à déterminer la capacité restante pour le travail et permet une exécution plus efficace sur les tâches longues. Les jetons d'image sont inclus dans ces budgets.

Avantages :

La sensibilisation au contexte est particulièrement précieuse pour :

• Les sessions d'agent longues qui nécessitent une concentration soutenue
• Les flux de travail multi-fenêtres de contexte où les transitions d'état sont importantes
• Les tâches complexes nécessitant une gestion minutieuse des jetons

Pour des conseils de rédaction sur l'exploitation de la sensibilisation au contexte, consultez notre guide des meilleures pratiques Claude 4.

Gestion de la fenêtre de contexte avec les modèles Claude plus récents

Dans les modèles Claude plus récents (à partir de Claude Sonnet 3.7), si la somme des jetons d'invite et des jetons de sortie dépasse la fenêtre de contexte du modèle, le système renverra une erreur de validation plutôt que de tronquer silencieusement le contexte. Ce changement fournit un comportement plus prévisible mais nécessite une gestion plus minutieuse des jetons.

Pour planifier votre utilisation des jetons et vous assurer que vous restez dans les limites de la fenêtre de contexte, vous pouvez utiliser l'API de comptage des jetons pour estimer le nombre de jetons que vos messages utiliseront avant de les envoyer à Claude.

Consultez notre tableau de comparaison des modèles pour une liste des tailles de fenêtre de contexte par modèle.

Prochaines étapes