Fast Mode
Erhalte bis zu 2,5-mal mehr Ausgabe-Token pro Sekunde von unterstützten Claude-Modellen.
Nutzung unterscheidet sich je nach Produkt
speed: "fast" in der Anfrage.speed im Modellobjekt des Agenten, zum Beispiel {"id": "claude-opus-5-5", "speed": "fast"}.Der „fast mode“ (schneller Modus) liefert bis zu 2,5-mal mehr Ausgabe-Token pro Sekunde zu Premium-Preisen. Setze speed: "fast" in deiner Anfrage, um ihn zu aktivieren. Fast Mode ist auf Claude Fable 5.2, Claude Mythos 5.2 und Claude Opus 5.5 verfügbar. Fast Mode befindet sich auf Claude Opus 5 in der Research Preview und ist auf Claude Opus 4.8 abgekündigt.
So funktioniert Fast Mode
Fast Mode führt dasselbe Modell mit einer schnelleren Inferenzkonfiguration aus. Intelligenz und Fähigkeiten bleiben unverändert.
- Bis zu 2,5-mal mehr Ausgabe-Token pro Sekunde im Vergleich zur Standardgeschwindigkeit
- Die Geschwindigkeitsvorteile konzentrieren sich auf „output tokens per second“ (Ausgabe-Token pro Sekunde), oder OTPS, nicht auf „time to first token“ (Zeit bis zum ersten Token), oder TTFT
- Kompatibel mit Streaming, wo der OTPS-Gewinn am deutlichsten sichtbar ist
Grundlegende Verwendung
Fast Mode funktioniert nur auf unterstützten Modellen. Details findest du unter Verfügbarkeit, einschließlich der Information, welche Modelle einen Beta-Header benötigen.
client = anthropic.Anthropic()
response = client.messages.create(
model="claude-opus-5-5",
max_tokens=4096,
speed="fast",
messages=[
{"role": "user", "content": "Refactor this module to use dependency injection"}
],
)
for block in response.content:
if block.type == "text":
print(block.text)Auf Claude in Microsoft Foundry hat Fast Mode eigene Modell-IDs, und das Deployment legt die Geschwindigkeit fest. Sende Fast-Mode-Anfragen an ein Deployment des Fast-Mode-Modells und lass speed weg:
| Modell | Modell-ID für Fast Mode |
|---|---|
| Claude Fable 5.2 | claude-fable-5-2-fast |
| Claude Mythos 5.2 | claude-mythos-5-2-fast |
| Claude Opus 5.5 | claude-opus-5-5-fast |
Eine Anfrage, die speed bei einem Deployment des Standardmodells setzt, etwa claude-opus-5-5, gibt einen Fehler zurück.
Ratenlimits
Fast Mode hat ein eigenes „rate limit“ (Ratenlimit), das von den Standard-Ratenlimits getrennt ist. Wenn du dein Ratenlimit für Fast Mode überschreitest, gibt die API einen 429-Fehler mit einem retry-after-Header zurück, der angibt, wann Kapazität verfügbar ist. Auf Claude Models on Google Cloud (Google managed) verwaltet Google Cloud Ratenlimits und Kontingente.
Claude Fable 5.2, Claude Mythos 5.2 und Claude Opus 5.5 haben ein Standard-Ratenlimit für Fast Mode. Das Standardlimit gilt in den Nutzungsstufen Start, Build und Scale. Du musst für diese Modelle keinen Zugang zu Fast Mode beantragen. Organisationen in der Evaluation-Stufe können Fast Mode mit diesen Modellen nutzen, sobald sie in die Stufe Start, Build oder Scale wechseln.
Die Antwort enthält Header, die den Status deines Ratenlimits für Fast Mode angeben:
| Header | Beschreibung |
|---|---|
anthropic-fast-input-tokens-limit | Maximale Eingabe-Token pro Minute im Fast Mode |
anthropic-fast-input-tokens-remaining | Verbleibende Eingabe-Token im Fast Mode |
anthropic-fast-input-tokens-reset | Zeitpunkt, zu dem das Eingabe-Token-Limit des Fast Mode zurückgesetzt wird |
anthropic-fast-output-tokens-limit | Maximale Ausgabe-Token pro Minute im Fast Mode |
anthropic-fast-output-tokens-remaining | Verbleibende Ausgabe-Token im Fast Mode |
anthropic-fast-output-tokens-reset | Zeitpunkt, zu dem das Ausgabe-Token-Limit des Fast Mode zurückgesetzt wird |
Um deine Ratenlimits für Fast Mode einzusehen, gehe zur Seite Ratenlimits in der Claude Console.
Überprüfen, welche Geschwindigkeit verwendet wurde
Das usage-Objekt der Antwort enthält ein speed-Feld, das angibt, welche Geschwindigkeit verwendet wurde, entweder "fast" oder "standard". Das Anfordern von speed: "fast" auf einem Modell, das Fast Mode nicht unterstützt, gibt einen Fehler zurück, ebenso wie das Überschreiten der Ratenlimits oder der Kapazität des Fast Mode (ein 429 oder 529). Wenn eine Anfrage mit speed: "fast" erfolgreich ist, ist usage.speed gleich "fast". Claude Opus 4.6 ist eine Ausnahme: Anstatt einen Fehler zurückzugeben, ist eine Anfrage mit speed: "fast" und dem Beta-Header fast-mode-2026-02-01 erfolgreich, wird aber mit Standardgeschwindigkeit ausgeführt. In dieser Situation zeigt usage.speed "standard" an. Auf Claude Models on Google Cloud (Anthropic managed) gibt eine Claude Opus 4.6-Anfrage mit speed: "fast" selbst mit dem Header einen 400-Fehler zurück.
client = anthropic.Anthropic()
response = client.messages.create(
model="claude-opus-5-5",
max_tokens=1024,
speed="fast",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.usage.speed) # "fast" or "standard"{
"id": "msg_01XFDUDYJgAACzvnptvVoYEL",
"type": "message",
"role": "assistant",
"usage": {
"input_tokens": 8,
"output_tokens": 12,
"speed": "fast"
}
}Um die Nutzung und Kosten von Fast Mode in deiner gesamten Organisation zu verfolgen, siehe die Usage and Cost Analytics API.
Wiederholungsversuche und Fallbacks
Automatische Wiederholungsversuche
Das SDK wiederholt 429-Fehler des Fast Mode standardmäßig automatisch bis zu zwei Mal (konfigurierbar mit max_retries) und wartet vor jedem Wiederholungsversuch die im retry-after-Header angegebene Verzögerung ab. Da Fast Mode eine kontinuierliche Token-Auffüllung verwendet, ist die retry-after-Verzögerung in der Regel kurz, und Anfragen sind erfolgreich, sobald Kapazität verfügbar ist.
Fallback auf Standardgeschwindigkeit
Wenn du lieber auf die Standardgeschwindigkeit zurückfallen möchtest, anstatt auf Kapazität im Fast Mode zu warten, fange den Ratenlimit-Fehler ab und wiederhole die Anfrage ohne speed: "fast". Auf Claude in Microsoft Foundry legt das Deployment die Geschwindigkeit fest, wiederhole die Anfrage dort also stattdessen auf einem Deployment des Standardmodells. Setze max_retries bei der ersten schnellen Anfrage auf 0, um automatische Wiederholungsversuche zu überspringen und bei Ratenlimit-Fehlern sofort fehlzuschlagen.
Da das Setzen von max_retries auf 0 auch Wiederholungsversuche für andere vorübergehende Fehler (Überlastung, interne Serverfehler) deaktiviert, senden die folgenden Beispiele die Anfrage nach diesen Fehlern erneut.
client = anthropic.Anthropic()
def create_message_with_fast_fallback(max_retries=0, max_attempts=3, **params):
try:
return client.with_options(max_retries=max_retries).messages.create(**params)
except anthropic.RateLimitError:
if params.get("speed") == "fast":
del params["speed"]
return create_message_with_fast_fallback(max_retries=max_retries, **params)
raise
except (
anthropic.APIStatusError,
anthropic.APIConnectionError,
) as error:
if isinstance(error, anthropic.APIStatusError) and error.status_code < 500:
raise
if max_attempts > 1:
return create_message_with_fast_fallback(
max_retries=max_retries, max_attempts=max_attempts - 1, **params
)
raise
message = create_message_with_fast_fallback(
model="claude-opus-5-5",
max_tokens=1024,
messages=[{"role": "user", "content": "Hello"}],
speed="fast",
max_retries=0,
)Überlegungen
- Batch API: Fast Mode ist mit der Batch API nicht verfügbar.
- Priority Tier: Fast Mode ist mit einer Priority Tier-Verpflichtung nicht verfügbar.
Preise
Fast Mode wird mit einem Multiplikator auf die Standardtarife über das gesamte „context window“ (Kontextfenster) berechnet, einschließlich Anfragen mit mehr als 200k Eingabe-Token. Auf Claude Models on Google Cloud (Google managed) legt Google Cloud die Preise für Fast Mode fest. Siehe Preise für Cloud-Plattformen.
| Modell | Eingabe | Ausgabe |
|---|---|---|
| Claude Fable 5.2 | 16 $ / MTok | 80 $ / MTok |
| Claude Mythos 5.2 | 16 $ / MTok | 80 $ / MTok |
| Claude Opus 5.5 | 8 $ / MTok | 40 $ / MTok |
| Claude Opus 5 / Claude Opus 4.8 | 10 $ / MTok | 50 $ / MTok |
Die Preise des Fast Mode werden mit anderen Preismodifikatoren kombiniert:
- Prompt-Caching-Multiplikatoren werden zusätzlich zu den Preisen des Fast Mode angewendet.
- Multiplikatoren für Datenresidenz werden zusätzlich zu den Preisen des Fast Mode angewendet.
Vollständige Preisdetails findest du auf der Seite Preise.
Verfügbarkeit
Fast Mode ist nur auf den folgenden Modellen verfügbar. Wenn du Fast Mode auf einem früheren Modell verwendet hast, migriere zu einem Modell, das Fast Mode unterstützt.
Um Zugang zu Fast Mode auf Claude Opus 5 zu erhalten, wende dich an deinen Account Manager oder trage dich in die Warteliste ein.
Claude API
- APIs
- Messages API
- Managed AgentsNur mit Claude Opus 5.5, Claude Opus 5, Claude Opus 4.8
- Modelle
- Claude Fable 5.2
- Claude Mythos 5.2
- Claude Opus 5.5
- Claude Opus 5 Research Preview, erfordert
- Claude Opus 4.8 Abgekündigt, erfordert
Entfernungsdatum: 30. November 2026. Nach der Entfernung geben Anfragen an
claude-opus-4-8mitspeed: "fast"einen Fehler zurück. Um Fast Mode weiterhin zu nutzen, migriere zu Claude Opus 5.5. Siehe Migration von Claude Opus 4.8 zu Claude Opus 5.5.
Claude Models on Google Cloud (Anthropic managed)
- APIs
- Messages API
- Managed AgentsNur mit Claude Opus 5.5
- Modelle
- Claude Fable 5.2
- Claude Mythos 5.2
- Claude Opus 5.5
Claude Models on Google Cloud (Google managed)
- API
- Messages API
- Modelle
- Claude Fable 5.2
- Claude Mythos 5.2
Microsoft Foundry (hosted on Azure)
- API
- Messages API
- Modell
- Claude Opus 5.5
- Hinweis
Auf Microsoft Foundry hat Fast Mode eigene Modell-IDs, die auf
-fastenden. Sende Anfragen an ein Deployment des Fast-Mode-Modells und lassspeedweg.
Microsoft Foundry (hosted on Anthropic)
- API
- Messages API
- Modelle
- Claude Fable 5.2
- Claude Mythos 5.2
- Hinweis
Auf Microsoft Foundry hat Fast Mode eigene Modell-IDs, die auf
-fastenden. Sende Anfragen an ein Deployment des Fast-Mode-Modells und lassspeedweg.
Datenverarbeitung
Übersicht über die DatenverarbeitungZutreffende Endpunkte
/v1/messagesmitspeed: "fast"
Ausgenommen: Abgedeckte Modelle
Derselbe Messages-API-Endpunkt mit schnellerer Inferenz. ZDR gilt unabhängig von der Geschwindigkeitseinstellung.
Nächste Schritte
Erhalte validierte JSON-Ergebnisse aus Agent-Workflows.
Erfahre mehr über die Preisstruktur von Anthropic für Modelle und Funktionen.
Steuere mit dem Effort-Parameter, wie viele Token Claude beim Antworten verwendet, und wäge zwischen Gründlichkeit der Antwort und Token-Effizienz ab.
Streame Antworten der Messages API inkrementell mit Server-Sent Events, einschließlich Text-, Tool-Nutzungs- und Deltas für erweitertes Nachdenken.
War diese Seite hilfreich?