Fast Mode (Forschungsvorschau)

Fast Mode liefert bis zu 2,5-mal mehr Output-Token pro Sekunde von Claude Opus 4.8 und Claude Opus 4.7 zu Premium-Preisen. Setze speed: "fast" zusammen mit dem Beta-Header fast-mode-2026-02-01 in deiner Anfrage, um dich anzumelden.



Unterstützte Modelle

Fast Mode wird von den folgenden Modellen unterstützt:

• Claude Opus 4.8 (claude-opus-4-8)
• Claude Opus 4.7 (claude-opus-4-7)



So funktioniert Fast Mode

Fast Mode führt dasselbe Modell mit einer schnelleren Inferenzkonfiguration aus. Es gibt keine Änderung an Intelligenz oder Fähigkeiten.

• Bis zu 2,5-mal mehr Output-Token pro Sekunde im Vergleich zur Standardgeschwindigkeit
• Die Geschwindigkeitsvorteile konzentrieren sich auf „output tokens per second" (Output-Token pro Sekunde), oder OTPS, nicht auf „time to first token" (Zeit bis zum ersten Token), oder TTFT
• Gleiche Modellgewichte und gleiches Verhalten (kein anderes Modell)
• Kompatibel mit Streaming, wo der OTPS-Gewinn am deutlichsten sichtbar ist



Grundlegende Verwendung

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-opus-4-8",
    max_tokens=4096,
    speed="fast",
    betas=["fast-mode-2026-02-01"],
    messages=[
        {"role": "user", "content": "Refactor this module to use dependency injection"}
    ],
)

print(response.content[0].text)



Preise

Fast Mode wird mit einem modellspezifischen Multiplikator auf die Standardpreise über das gesamte Kontextfenster berechnet, einschließlich Anfragen mit mehr als 200k Input-Token. Die folgende Tabelle zeigt die Fast-Mode-Preise für jedes unterstützte Modell:

Die Fast-Mode-Preise kombinieren sich mit anderen Preismodifikatoren:

• Prompt-Caching-Multiplikatoren werden zusätzlich zu den Fast-Mode-Preisen angewendet
• Data-Residency-Multiplikatoren werden zusätzlich zu den Fast-Mode-Preisen angewendet

Vollständige Preisdetails findest du auf der Preisseite.



Ratenlimits

Fast Mode hat ein eigenes Ratenlimit, das von den Standard-Opus-Ratenlimits getrennt ist. Wenn dein Fast-Mode-Ratenlimit überschritten wird, gibt die API einen 429-Fehler mit einem retry-after-Header zurück, der angibt, wann wieder Kapazität verfügbar sein wird.

Die Antwort enthält Header, die den Status deines Fast-Mode-Ratenlimits anzeigen:

Stufenspezifische Ratenlimits findest du auf der Ratenlimit-Seite.



Überprüfen, welche Geschwindigkeit verwendet wurde

Das usage-Objekt der Antwort enthält ein speed-Feld, das angibt, welche Geschwindigkeit verwendet wurde, entweder "fast" oder "standard". Bei unterstützten Modellen fällt Fast Mode bei Ratenlimits oder Kapazitätsproblemen nicht stillschweigend auf Standardgeschwindigkeit zurück (du erhältst stattdessen einen 429- oder 529-Fehler). Wenn du also speed: "fast" bei Claude Opus 4.8 oder Claude Opus 4.7 anforderst, ist usage.speed gleich "fast". Bei Claude Opus 4.6, wo Fast Mode nicht verfügbar ist, laufen Anfragen mit speed: "fast" mit Standardgeschwindigkeit und geben usage.speed: "standard" zurück. Überprüfe dieses Feld, um zu bestätigen, mit welcher Geschwindigkeit eine Anfrage bedient wurde.

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    speed="fast",
    betas=["fast-mode-2026-02-01"],
    messages=[{"role": "user", "content": "Hello"}],
)

print(response.usage.speed)  # "fast" or "standard"

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
// ...
  "usage": {
    "input_tokens": 8,
    "output_tokens": 12,
    "speed": "fast"
  }
}

Um die Fast-Mode-Nutzung und -Kosten in deiner Organisation zu verfolgen, siehe die Usage and Cost API.



Wiederholungsversuche und Fallback



Automatische Wiederholungsversuche

Wenn die Fast-Mode-Ratenlimits überschritten werden, gibt die API einen 429-Fehler mit einem retry-after-Header zurück. Die Anthropic-SDKs wiederholen diese Anfragen standardmäßig automatisch bis zu 2-mal (konfigurierbar mit max_retries) und warten vor jedem Wiederholungsversuch die vom Server angegebene Verzögerung ab. Da Fast Mode eine kontinuierliche Token-Auffüllung verwendet, ist die retry-after-Verzögerung in der Regel kurz, und Anfragen sind erfolgreich, sobald Kapazität verfügbar ist.



Fallback auf Standardgeschwindigkeit

Wenn du lieber auf Standardgeschwindigkeit zurückfallen möchtest, anstatt auf Fast-Mode-Kapazität zu warten, fange den Ratenlimit-Fehler ab und wiederhole die Anfrage ohne speed: "fast". Setze max_retries bei der ursprünglichen Fast-Anfrage auf 0, um automatische Wiederholungsversuche zu überspringen und bei Ratenlimit-Fehlern sofort fehlzuschlagen.

Da das Setzen von max_retries auf 0 auch Wiederholungsversuche für andere vorübergehende Fehler (Überlastung, interne Serverfehler) deaktiviert, senden die folgenden Beispiele die ursprüngliche Anfrage für diese Fälle mit Standard-Wiederholungsversuchen erneut.

client = anthropic.Anthropic()


def create_message_with_fast_fallback(max_retries=0, max_attempts=3, **params):
    try:
        return client.with_options(max_retries=max_retries).beta.messages.create(
            **params
        )
    except anthropic.RateLimitError:
        if params.get("speed") == "fast":
            del params["speed"]
            return create_message_with_fast_fallback(max_retries=max_retries, **params)
        raise
    except (
        anthropic.APIStatusError,
        anthropic.APIConnectionError,
    ) as error:
        if isinstance(error, anthropic.APIStatusError) and error.status_code < 500:
            raise
        if max_attempts > 1:
            return create_message_with_fast_fallback(
                max_retries=max_retries, max_attempts=max_attempts - 1, **params
            )
        raise


message = create_message_with_fast_fallback(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello"}],
    betas=["fast-mode-2026-02-01"],
    speed="fast",
    max_retries=0,
)



Überlegungen

• Prompt-Caching: Das Wechseln zwischen Fast und Standardgeschwindigkeit macht den Prompt-Cache ungültig. Anfragen mit unterschiedlichen Geschwindigkeiten teilen keine gecachten Präfixe.
• Unterstützte Modelle: Fast Mode wird auf Claude Opus 4.8 und Claude Opus 4.7 unterstützt (Fast Mode veraltet; Entfernung am 24. Juli 2026, das Modell selbst bleibt davon unberührt). Bei Claude Opus 4.6 geben Anfragen mit speed: "fast" keinen Fehler zurück: Sie laufen mit Standardgeschwindigkeit und werden zu Standardpreisen abgerechnet. Bei jedem anderen Modell gibt das Senden von speed: "fast" einen Fehler zurück.
• TTFT: Die Vorteile von Fast Mode konzentrieren sich auf Output-Token pro Sekunde (OTPS), nicht auf die Zeit bis zum ersten Token (TTFT).
• Batch API: Fast Mode ist nicht mit der Batch API verfügbar.
• Priority Tier: Fast Mode ist nicht mit einer Priority Tier-Verpflichtung verfügbar.
• Claude Platform on AWS: Fast Mode ist derzeit nicht auf Claude Platform on AWS verfügbar.



Nächste Schritte