API-ReferenzSupport & Konfiguration

Service-Tiers

Verschiedene Service-Tiers ermöglichen es dir, Verfügbarkeit, Leistung und vorhersehbare Kosten basierend auf den Anforderungen deiner Anwendung auszubalancieren.

Kapazitätsverpflichtungen für Priority Tier können nicht mehr erworben werden. Organisationen mit einer bestehenden Verpflichtung können Priority Tier bis zum Enddatum ihres Vertrags weiterhin nutzen, und diese Seite bleibt als Referenz für sie verfügbar. Wenn du garantierte Kapazität benötigst, kontaktiere den Vertrieb.

Anthropic bietet drei Service-Tiers an:

Priority Tier: Nur für Organisationen mit einer bestehenden Kapazitätsverpflichtung verfügbar
Standard: Standard-Tier sowohl für Pilotprojekte als auch für die Skalierung alltäglicher Anwendungsfälle
Batch: Am besten geeignet für asynchrone Workflows, die warten können oder davon profitieren, außerhalb deiner normalen Kapazität zu laufen

Standard Tier

Das Standard Tier ist das standardmäßige Service-Tier für alle API-Anfragen. Die API priorisiert diese Anfragen zusammen mit allen anderen Anfragen mit Best-Effort-Verfügbarkeit.

Priority Tier

Die API priorisiert Anfragen in diesem Tier vor allen anderen Anfragen. Diese Priorisierung hilft, „Server überlastet"-Fehler zu minimieren, selbst zu Spitzenzeiten.

Weitere Informationen findest du unter Bestehende Priority-Tier-Verpflichtungen.

Wie Anfragen Tiers zugewiesen werden

Bei der Bearbeitung einer Anfrage entscheidet Anthropic in den folgenden Szenarien, eine Anfrage dem Priority Tier zuzuweisen:

Deine Organisation verfügt über ausreichende Priority-Tier-Kapazität an Input-Token pro Minute
Deine Organisation verfügt über ausreichende Priority-Tier-Kapazität an Output-Token pro Minute

Anthropic rechnet die Nutzung wie folgt auf die Priority-Tier-Kapazität an:

Input-Token

Cache-Lesevorgänge zählen als 0,1 Token pro aus dem Cache gelesenem Token
Cache-Schreibvorgänge zählen als 1,25 Token pro in den Cache geschriebenem Token mit einer TTL von 5 Minuten
Cache-Schreibvorgänge zählen als 2,00 Token pro in den Cache geschriebenem Token mit einer TTL von 1 Stunde
Für Anfragen mit US-only inference (Inferenz nur in den USA) (inference_geo: "us") auf Claude Opus 4.6, Claude Sonnet 4.6 und späteren Modellen zählen Input-Token als 1,1 Token pro Token
Alle anderen Input-Token zählen als 1 Token pro Token

Output-Token

Für Anfragen mit US-only inference (Inferenz nur in den USA) (inference_geo: "us") auf Claude Opus 4.6, Claude Sonnet 4.6 und späteren Modellen zählen Output-Token als 1,1 Token pro Token
Alle anderen Output-Token zählen als 1 Token pro Token

Andernfalls werden Anfragen im Standard Tier verarbeitet.

Diese Verbrauchsraten spiegeln die relative Preisgestaltung jedes Token-Typs wider. Beispielsweise wird US-only inference auf Opus 4.6, Sonnet 4.6 und späteren Modellen mit dem 1,1-fachen Preis berechnet, sodass jedes mit inference_geo: "us" verbrauchte Token 1,1 Token von deiner Priority-Tier-Kapazität abzieht.

Anfragen, die dem Priority Tier zugewiesen werden, ziehen sowohl von der Priority-Tier-Kapazität als auch von den regulären Ratenlimits ab. Wenn die Bearbeitung der Anfrage die Ratenlimits überschreiten würde, wird die Anfrage abgelehnt.

Service-Tiers verwenden

Du kannst steuern, welche Service-Tiers für eine Anfrage verwendet werden können, indem du den Parameter service_tier setzt:

Python

message = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude!"}],
    service_tier="auto",  # Automatically use Priority Tier when available, fallback to standard
)
print(message.usage.service_tier)

Der Parameter service_tier akzeptiert die folgenden Werte:

"auto" (Standard) – Verwendet die Priority-Tier-Kapazität, falls verfügbar, und greift andernfalls auf deine andere Kapazität zurück
"standard_only" – Verwendet nur die Standard-Tier-Kapazität; nützlich, wenn du deine Priority-Tier-Kapazität nicht verwenden möchtest

Das usage-Objekt in der Antwort enthält ebenfalls das Service-Tier, das der Anfrage zugewiesen wurde:

{
  "usage": {
    "input_tokens": 410,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "output_tokens": 585,
    "service_tier": "priority"
  }
}

Dies ermöglicht es dir festzustellen, welches Service-Tier der Anfrage zugewiesen wurde.

Wenn du service_tier="auto" mit einem Modell anforderst, für das eine Priority-Tier-Verpflichtung besteht, liefern diese Response-Header Einblicke:

anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Z

Du kannst das Vorhandensein dieser Header nutzen, um zu erkennen, ob deine Anfrage für Priority Tier berechtigt war, selbst wenn sie über dem Limit lag.

Bestehende Priority-Tier-Verpflichtungen

Eine Priority-Tier-Verpflichtung besteht aus:

Einer Anzahl von Input-Token pro Minute
Einer Anzahl von Output-Token pro Minute
Einer Verpflichtungsdauer (1, 3, 6 oder 12 Monate)
Einer bestimmten Modellversion

Priority Tier strebt eine Verfügbarkeit von 99,5 % mit priorisierten Rechenressourcen an. Anfragen, die über deine zugesagte Kapazität hinausgehen, fallen automatisch auf das Standard Tier zurück.

Unterstützte Modelle

Priority Tier wird auf allen verfügbaren Claude-Modellen unterstützt (einschließlich Claude Fable 5 und Claude Opus 4.8), mit Ausnahme von Claude Sonnet 5, Claude Mythos Preview und Claude Mythos 5.

Weitere Details zu den verfügbaren Modellen findest du in der Modellübersicht.

Was this page helpful?

Standard Tier

Priority Tier

Wie Anfragen Tiers zugewiesen werden

Service-Tiers verwenden

Bestehende Priority-Tier-Verpflichtungen

Unterstützte Modelle

Standard Tier

Priority Tier

Wie Anfragen Tiers zugewiesen werden

Service-Tiers verwenden

Bestehende Priority-Tier-Verpflichtungen

Unterstützte Modelle