Livelli di servizio

Anthropic offre tre livelli di servizio:

• Priority Tier: Disponibile solo per le organizzazioni con un impegno di capacità esistente
• Standard: Livello predefinito sia per la sperimentazione che per la scalabilità dei casi d'uso quotidiani
• Batch: Ideale per flussi di lavoro asincroni che possono attendere o che traggono vantaggio dall'essere al di fuori della tua capacità normale



Livello Standard

Il livello standard è il livello di servizio predefinito per tutte le richieste API. L'API assegna priorità a queste richieste insieme a tutte le altre richieste con disponibilità best-effort.



Priority Tier

L'API assegna priorità alle richieste in questo livello rispetto a tutte le altre richieste. Questa prioritizzazione aiuta a minimizzare gli errori "server overloaded", anche durante i periodi di picco.

Per maggiori informazioni, consulta Impegni Priority Tier esistenti.



Come vengono assegnati i livelli alle richieste

Durante la gestione di una richiesta, Anthropic decide di assegnare una richiesta al Priority Tier nei seguenti scenari:

• La tua organizzazione dispone di capacità priority tier sufficiente in token di input al minuto
• La tua organizzazione dispone di capacità priority tier sufficiente in token di output al minuto

Anthropic conteggia l'utilizzo rispetto alla capacità Priority Tier come segue:

Token di input

• Le letture dalla cache valgono 0,1 token per ogni token letto dalla cache
• Le scritture nella cache valgono 1,25 token per ogni token scritto nella cache con un TTL di 5 minuti
• Le scritture nella cache valgono 2,00 token per ogni token scritto nella cache con un TTL di 1 ora
• Per le richieste con inferenza solo negli Stati Uniti (inference_geo: "us") su Claude Opus 4.6, Claude Sonnet 4.6 e modelli successivi, i token di input valgono 1,1 token per token
• Tutti gli altri token di input valgono 1 token per token

Token di output

• Per le richieste con inferenza solo negli Stati Uniti (inference_geo: "us") su Claude Opus 4.6, Claude Sonnet 4.6 e modelli successivi, i token di output valgono 1,1 token per token
• Tutti gli altri token di output valgono 1 token per token

In caso contrario, le richieste procedono al livello standard.



Utilizzo dei livelli di servizio

Puoi controllare quali livelli di servizio possono essere utilizzati per una richiesta impostando il parametro service_tier:

message = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude!"}],
    service_tier="auto",  # Automatically use Priority Tier when available, fallback to standard
)
print(message.usage.service_tier)

Il parametro service_tier accetta i seguenti valori:

• "auto" (predefinito) - Utilizza la capacità Priority Tier se disponibile, ricorrendo alla tua altra capacità in caso contrario
• "standard_only" - Utilizza solo la capacità del livello standard, utile se non vuoi utilizzare la tua capacità Priority Tier

L'oggetto usage della risposta include anche il livello di servizio assegnato alla richiesta:

{
  "usage": {
    "input_tokens": 410,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "output_tokens": 585,
    "service_tier": "priority"
  }
}

Questo ti consente di determinare quale livello di servizio è stato assegnato alla richiesta.

Quando richiedi service_tier="auto" con un modello con un impegno Priority Tier, questi header di risposta forniscono informazioni utili:

anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Z

Puoi utilizzare la presenza di questi header per rilevare se la tua richiesta era idonea per il Priority Tier, anche se ha superato il limite.



Impegni Priority Tier esistenti

Un impegno Priority Tier consiste in:

• Un numero di token di input al minuto
• Un numero di token di output al minuto
• Una durata dell'impegno (1, 3, 6 o 12 mesi)
• Una versione specifica del modello

Priority Tier punta a un uptime del 99,5% con risorse computazionali prioritizzate. Le richieste che superano la tua capacità impegnata ricadono automaticamente sul livello standard.



Modelli supportati

Priority Tier è supportato su tutti i modelli Claude disponibili (inclusi Claude Fable 5 e Claude Opus 4.8) ad eccezione di Claude Sonnet 5, Claude Mythos Preview e Claude Mythos 5.

Consulta la Panoramica dei modelli per maggiori dettagli sui modelli disponibili.