Niveaux de service

Anthropic propose trois niveaux de service :

• Niveau prioritaire : disponible uniquement pour les organisations disposant d'un engagement de capacité existant
• Standard : niveau par défaut, adapté aussi bien aux projets pilotes qu'à la mise à l'échelle des cas d'usage quotidiens
• Batch : idéal pour les flux de travail asynchrones qui peuvent attendre ou qui bénéficient d'un traitement en dehors de votre capacité normale



Niveau standard

Le niveau standard est le niveau de service par défaut pour toutes les requêtes API. L'API priorise ces requêtes au même titre que toutes les autres requêtes, avec une disponibilité au mieux des possibilités.



Niveau prioritaire

L'API priorise les requêtes de ce niveau par rapport à toutes les autres requêtes. Cette priorisation aide à minimiser les erreurs « server overloaded », même pendant les périodes de pointe.

Pour plus d'informations, consultez Engagements de niveau prioritaire existants.



Comment les niveaux sont attribués aux requêtes

Lors du traitement d'une requête, Anthropic décide d'attribuer une requête au niveau prioritaire dans les scénarios suivants :

• Votre organisation dispose d'une capacité suffisante de tokens d'entrée par minute au niveau prioritaire
• Votre organisation dispose d'une capacité suffisante de tokens de sortie par minute au niveau prioritaire

Anthropic comptabilise l'utilisation par rapport à la capacité du niveau prioritaire comme suit :

Tokens d'entrée

• Les lectures de cache comptent pour 0,1 token par token lu depuis le cache
• Les écritures de cache comptent pour 1,25 token par token écrit dans le cache avec un TTL de 5 minutes
• Les écritures de cache comptent pour 2,00 tokens par token écrit dans le cache avec un TTL de 1 heure
• Pour les requêtes avec inférence limitée aux États-Unis (inference_geo: "us") sur Claude Opus 4.6, Claude Sonnet 4.6 et les modèles ultérieurs, les tokens d'entrée comptent pour 1,1 token par token
• Tous les autres tokens d'entrée comptent pour 1 token par token

Tokens de sortie

• Pour les requêtes avec inférence limitée aux États-Unis (inference_geo: "us") sur Claude Opus 4.6, Claude Sonnet 4.6 et les modèles ultérieurs, les tokens de sortie comptent pour 1,1 token par token
• Tous les autres tokens de sortie comptent pour 1 token par token

Dans les autres cas, les requêtes sont traitées au niveau standard.



Utilisation des niveaux de service

Vous pouvez contrôler quels niveaux de service peuvent être utilisés pour une requête en définissant le paramètre service_tier :

message = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude!"}],
    service_tier="auto",  # Automatically use Priority Tier when available, fallback to standard
)
print(message.usage.service_tier)

Le paramètre service_tier accepte les valeurs suivantes :

• "auto" (par défaut) - Utilise la capacité du niveau prioritaire si elle est disponible, avec repli sur votre autre capacité dans le cas contraire
• "standard_only" - Utilise uniquement la capacité du niveau standard, utile si vous ne souhaitez pas utiliser votre capacité de niveau prioritaire

L'objet usage de la réponse inclut également le niveau de service attribué à la requête :

{
  "usage": {
    "input_tokens": 410,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "output_tokens": 585,
    "service_tier": "priority"
  }
}

Cela vous permet de déterminer quel niveau de service a été attribué à la requête.

Lorsque vous demandez service_tier="auto" avec un modèle disposant d'un engagement de niveau prioritaire, ces en-têtes de réponse fournissent des informations utiles :

anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Z

Vous pouvez utiliser la présence de ces en-têtes pour détecter si votre requête était éligible au niveau prioritaire, même si elle dépassait la limite.



Engagements de niveau prioritaire existants

Un engagement de niveau prioritaire se compose de :

• Un nombre de tokens d'entrée par minute
• Un nombre de tokens de sortie par minute
• Une durée d'engagement (1, 3, 6 ou 12 mois)
• Une version de modèle spécifique

Le niveau prioritaire vise une disponibilité de 99,5 % avec des ressources de calcul priorisées. Les requêtes dépassant votre capacité engagée basculent automatiquement vers le niveau standard.



Modèles pris en charge

Le niveau prioritaire est pris en charge sur tous les modèles Claude disponibles (y compris Claude Fable 5 et Claude Opus 4.8), à l'exception de Claude Sonnet 5, Claude Mythos Preview et Claude Mythos 5.

Consultez la vue d'ensemble des modèles pour plus de détails sur les modèles disponibles.