Limites de débit

Il existe deux types de limites :

1. Les limites de dépenses définissent un coût mensuel maximal qu'une organisation peut engager pour l'utilisation de l'API.
2. Les limites de débit définissent le nombre maximal de requêtes API qu'une organisation peut effectuer sur une période donnée.

L'API applique des limites configurées par le service au niveau de l'organisation, mais vous pouvez également définir des limites configurables par l'utilisateur pour les espaces de travail de votre organisation.

Ces limites s'appliquent à la fois à l'utilisation du niveau Standard et du niveau Priority. Pour plus d'informations sur le niveau Priority, qui offre des niveaux de service améliorés en échange d'un engagement de dépenses, consultez Niveaux de service.



À propos des limites de débit

• Les limites sont conçues pour prévenir les abus de l'API, tout en minimisant l'impact sur les schémas d'utilisation courants des clients.
• Les limites sont définies par niveau d'utilisation, où chaque niveau est associé à un ensemble différent de limites de dépenses et de débit.
• Votre organisation progressera automatiquement dans les niveaux à mesure que vous atteindrez certains seuils lors de l'utilisation de l'API. Les limites sont définies au niveau de l'organisation. Vous pouvez consulter les limites de votre organisation sur la page Limites dans la Claude Console.
• Vous pourriez atteindre les limites de débit sur des intervalles de temps plus courts. Par exemple, un débit de 60 requêtes par minute (RPM) pourrait être appliqué comme 1 requête par seconde. De courtes rafales de requêtes peuvent dépasser la limite et déclencher des erreurs de limite de débit.
• Les limites décrites ci-dessous sont les limites du niveau standard. Si vous recherchez des limites personnalisées plus élevées ou le niveau Priority pour des niveaux de service améliorés, contactez l'équipe commerciale sur la page Limites.
• L'API utilise l'algorithme du seau à jetons pour effectuer la limitation de débit. Cela signifie que votre capacité est continuellement réapprovisionnée jusqu'à votre limite maximale, plutôt que d'être réinitialisée à intervalles fixes.
• Toutes les limites décrites ici représentent l'utilisation maximale autorisée, et non des minimums garantis. Ces limites visent à réduire les dépenses excessives involontaires et à assurer une répartition équitable des ressources entre les utilisateurs.



Limites de dépenses

Chaque niveau d'utilisation a une limite sur le montant que vous pouvez dépenser sur l'API chaque mois civil. Une fois que vous atteignez la limite de dépenses de votre niveau, jusqu'à ce que vous soyez éligible au niveau suivant, vous devrez attendre le mois suivant pour pouvoir utiliser à nouveau l'API.

Pour être éligible au niveau suivant, vous devez satisfaire à une exigence de dépôt. Pour minimiser le risque de surfinancement de votre compte, vous ne pouvez pas déposer plus que votre limite de dépenses mensuelle.



Conditions requises pour progresser de niveau



Augmenter vos limites de dépenses

Votre organisation dispose de deux types de limites de dépenses : une limite définie par le client que vous contrôlez directement, et un plafond imposé par le niveau défini par votre niveau d'utilisation. Chacune a un processus différent pour être augmentée.



Limites de dépenses définies par le client

Vous pouvez définir une limite de dépenses inférieure au plafond de votre niveau pour contrôler les coûts. Pour l'ajuster :



Limites de dépenses imposées par le niveau

Lorsque vous avez besoin d'une limite supérieure au plafond de votre niveau (le plafond du niveau 4 est de 200 000 $ par mois), cliquez sur Contact Sales sur la page Limites. Cela ouvre le formulaire de contact dans un nouvel onglet, et un membre de l'équipe commerciale vous contactera par e-mail lorsque votre organisation sera mise à niveau.

La facturation mensuelle supprime entièrement le plafond de dépenses mensuel et utilise par défaut des conditions de paiement à 30 jours nets.



Limites de débit

Les limites de débit pour l'API Messages sont mesurées en requêtes par minute (RPM), en tokens d'entrée par minute (ITPM) et en tokens de sortie par minute (OTPM) pour chaque classe de modèle. Si vous dépassez l'une des limites de débit, vous obtiendrez une erreur 429 décrivant quelle limite de débit a été dépassée, ainsi qu'un en-tête retry-after indiquant combien de temps attendre.



ITPM tenant compte du cache

De nombreux fournisseurs d'API utilisent une limite combinée de « tokens par minute » (TPM) qui peut inclure tous les tokens, mis en cache ou non, d'entrée et de sortie. Pour la plupart des modèles Claude, seuls les tokens d'entrée non mis en cache comptent dans vos limites de débit ITPM. Il s'agit d'un avantage clé qui rend les limites de débit effectivement plus élevées qu'elles ne le paraissent initialement.

Les limites de débit ITPM sont estimées au début de chaque requête, et l'estimation est ajustée pendant la requête pour refléter le nombre réel de tokens d'entrée utilisés.

Voici ce qui compte dans l'ITPM :

• input_tokens (tokens après le dernier point de rupture de cache) ✓ Comptent dans l'ITPM
• cache_creation_input_tokens (tokens en cours d'écriture dans le cache) ✓ Comptent dans l'ITPM
• cache_read_input_tokens (tokens lus depuis le cache) ✗ Ne comptent PAS dans l'ITPM pour la plupart des modèles

total_input_tokens = cache_read_input_tokens + cache_creation_input_tokens + input_tokens

Exemple : Avec une limite ITPM de 2 000 000 et un taux de succès de cache de 80 %, vous pourriez effectivement traiter 10 000 000 de tokens d'entrée au total par minute (2 M non mis en cache + 8 M mis en cache), car les tokens mis en cache ne comptent pas dans votre limite de débit.

Les limites de débit OTPM sont évaluées en temps réel à mesure que les tokens de sortie sont produits, en ne comptant que les tokens réellement générés. Le paramètre max_tokens n'entre pas dans les calculs de limite de débit OTPM, il n'y a donc aucun inconvénient en termes de limite de débit à définir une valeur max_tokens plus élevée.

Les limites de débit sont appliquées séparément pour chaque modèle ; vous pouvez donc utiliser différents modèles jusqu'à leurs limites respectives simultanément. Vous pouvez vérifier vos limites de débit actuelles et leur comportement dans la Claude Console, ou lire les limites configurées par programmation avec l'API Rate Limits.

^{* - La limite de débit Opus est une limite totale qui s'applique au trafic combiné de Claude Opus 4.8, Opus 4.7, Opus 4.6, Opus 4.5 et Opus 4.1 (obsolète).}

^{** - La limite de débit Sonnet 4.x est une limite totale qui s'applique au trafic combiné de Sonnet 4.6 et Sonnet 4.5.}

^{† - La limite compte cache_read_input_tokens dans l'utilisation ITPM.}



API Message Batches

L'API Message Batches dispose de son propre ensemble de limites de débit qui sont partagées entre tous les modèles. Celles-ci incluent une limite de requêtes par minute (RPM) pour tous les points de terminaison de l'API et une limite sur le nombre de requêtes de lot pouvant se trouver dans la file d'attente de traitement en même temps. Une « requête de lot » fait ici référence à une partie d'un Message Batch. Vous pouvez créer un Message Batch contenant des milliers de requêtes de lot, chacune comptant dans cette limite. Une requête de lot est considérée comme faisant partie de la file d'attente de traitement lorsqu'elle n'a pas encore été traitée avec succès par le modèle.



Agents gérés

Les points de terminaison des agents gérés Claude sont soumis à des limites de débit par organisation. Ces limites sont distinctes des limites de débit de l'API Messages ci-dessus.



Limites de débit du mode rapide

Lorsque vous utilisez le mode rapide (aperçu de recherche) avec speed: "fast" sur Claude Opus 4.8, Opus 4.7 ou Opus 4.6, des limites de débit dédiées s'appliquent, distinctes des limites de débit Opus standard. Lorsque les limites de débit du mode rapide sont dépassées, l'API renvoie une erreur 429 avec un en-tête retry-after.

La réponse inclut des en-têtes anthropic-fast-* qui indiquent l'état de votre limite de débit en mode rapide. Consultez Mode rapide pour plus de détails sur ces en-têtes.



Surveiller vos limites de débit dans la Console

Vous pouvez surveiller votre utilisation des limites de débit sur la page Utilisation de la Claude Console.

En plus de fournir des graphiques de tokens et de requêtes, la page Utilisation fournit deux graphiques distincts de limites de débit. Utilisez ces graphiques pour voir quelle marge de croissance vous avez, quand vous pourriez atteindre un pic d'utilisation, mieux comprendre quelles limites de débit demander, ou comment vous pouvez améliorer vos taux de mise en cache. Les graphiques visualisent un certain nombre de métriques pour une limite de débit donnée (par exemple, par modèle) :

• Le graphique Rate Limit - Input Tokens inclut :
  • Le maximum horaire de tokens d'entrée non mis en cache par minute
  • Votre limite de débit actuelle de tokens d'entrée par minute
  • Le taux de cache pour vos tokens d'entrée (c'est-à-dire le pourcentage de tokens d'entrée lus depuis le cache)
• Le graphique Rate Limit - Output Tokens inclut :
  • Le maximum horaire de tokens de sortie par minute
  • Votre limite de débit actuelle de tokens de sortie par minute



Définir des limites inférieures pour les espaces de travail

Pour en savoir plus sur les espaces de travail, consultez Espaces de travail.

Pour protéger les espaces de travail de votre organisation contre une surutilisation potentielle, vous pouvez définir des limites de dépenses et de débit personnalisées par espace de travail.

Exemple : Si la limite de votre organisation est de 40 000 tokens d'entrée par minute et de 8 000 tokens de sortie par minute, vous pourriez limiter un espace de travail à 30 000 tokens d'entrée par minute. Cela protège les autres espaces de travail contre une surutilisation potentielle et assure une répartition plus équitable des ressources au sein de votre organisation. Les tokens par minute restants non utilisés (ou plus, si cet espace de travail n'utilise pas la limite) sont alors disponibles pour les autres espaces de travail.

Remarque :

• Vous ne pouvez pas définir de limites sur l'espace de travail par défaut.
• Si elles ne sont pas définies, les limites de l'espace de travail correspondent à la limite de l'organisation.
• Les limites d'espace de travail sont définies par type de limiteur (comme les requêtes par minute, les tokens d'entrée par minute ou les tokens de sortie par minute).
• Les limites à l'échelle de l'organisation s'appliquent toujours, même si la somme des limites des espaces de travail est supérieure.

Pour lire vos limites de débit actuelles d'organisation et d'espace de travail par programmation, utilisez l'API Rate Limits.



En-têtes de réponse

La réponse de l'API inclut des en-têtes qui vous indiquent la limite de débit appliquée, l'utilisation actuelle et le moment où la limite sera réinitialisée.

Les en-têtes suivants sont renvoyés :

Les en-têtes anthropic-ratelimit-tokens-* affichent les valeurs de la limite la plus restrictive actuellement en vigueur. Par exemple, si vous avez dépassé la limite de tokens par minute de l'espace de travail, les en-têtes contiendront les valeurs de limite de débit de tokens par minute de l'espace de travail. Si les limites d'espace de travail ne s'appliquent pas, les en-têtes renverront le total des tokens restants, où le total est la somme des tokens d'entrée et de sortie. Cette approche garantit que vous avez une visibilité sur la contrainte la plus pertinente concernant votre utilisation actuelle de l'API.