Ratenlimits

Es gibt zwei Arten von Limits:

1. Ausgabenlimits legen die maximalen monatlichen Kosten fest, die einer Organisation für die API-Nutzung entstehen können.
2. Ratenlimits legen die maximale Anzahl von API-Anfragen fest, die eine Organisation über einen definierten Zeitraum stellen kann.

Die API erzwingt dienstseitig konfigurierte Limits auf Organisationsebene, aber du kannst auch benutzerkonfigurierbare Limits für die Workspaces deiner Organisation festlegen.



Über Ratenlimits

• Limits sind darauf ausgelegt, API-Missbrauch zu verhindern und gleichzeitig die Auswirkungen auf übliche Nutzungsmuster von Kunden zu minimieren.
• Limits werden durch die Nutzungsstufe (usage tier) definiert. Deine Organisation wird automatisch einer Stufe zugeordnet und kann im Laufe der Zeit in eine höhere Stufe wechseln, während du die API nutzt.
• Limits werden auf Organisationsebene festgelegt. Du kannst die Stufe und die aktuellen Limits deiner Organisation auf der Seite Limits in der Claude Console einsehen.
• Du könntest Ratenlimits über kürzere Zeitintervalle erreichen. Zum Beispiel könnte eine Rate von 60 Anfragen pro Minute (RPM) als 1 Anfrage pro Sekunde durchgesetzt werden. Kurze Anfrage-Bursts können das Limit überschreiten und Ratenlimit-Fehler auslösen.
• Die folgenden Limits sind die Standardlimits für jede Stufe. Wenn du höhere Limits benötigst, siehe Höhere Limits anfordern.
• Die API verwendet den Token-Bucket-Algorithmus für die Ratenbegrenzung. Das bedeutet, dass deine Kapazität kontinuierlich bis zu deinem maximalen Limit aufgefüllt wird, anstatt in festen Intervallen zurückgesetzt zu werden.
• Alle hier beschriebenen Limits stellen die maximal erlaubte Nutzung dar, keine garantierten Mindestwerte. Diese Limits sollen unbeabsichtigte Mehrausgaben reduzieren und eine faire Verteilung der Ressourcen unter den Nutzern sicherstellen.



Ausgabenlimits

Jede der Stufen Start, Build und Scale hat eine monatliche Ausgabenobergrenze, also den Höchstbetrag, den deine Organisation pro Kalendermonat für die API ausgeben kann. Sobald du die Ausgabenobergrenze deiner Stufe erreichst, wird die API-Nutzung bis zum nächsten Monat pausiert, es sei denn, du forderst ein höheres Limit an. Du kannst die monatliche Ausgabenobergrenze deiner Organisation auf der Seite Limits einsehen.

Organisationen auf der Custom-Stufe haben keine monatliche Ausgabenobergrenze; Limits werden mit ihrem Account-Team vereinbart.

Du kannst auch dein eigenes Ausgabenlimit unterhalb der Obergrenze deiner Stufe festlegen, um Kosten zu kontrollieren:



Ratenlimits

Die Ratenlimits für die Messages API werden in Anfragen pro Minute (RPM), Input-Token pro Minute (ITPM) und Output-Token pro Minute (OTPM) für jede Modellklasse gemessen. Wenn du eines der Ratenlimits überschreitest, erhältst du einen 429-Fehler, der beschreibt, welches Ratenlimit überschritten wurde, zusammen mit einem retry-after-Header, der angibt, wie lange du warten musst.



Cache-bewusstes ITPM

Viele API-Anbieter verwenden ein kombiniertes „Token pro Minute"-Limit (TPM), das alle Token umfassen kann, sowohl gecachte als auch nicht gecachte, Input und Output. Bei den meisten Claude-Modellen zählen nur nicht gecachte Input-Token zu deinen ITPM-Ratenlimits. Dies ist ein entscheidender Vorteil, der die Ratenlimits effektiv höher macht, als sie zunächst erscheinen mögen.

ITPM-Ratenlimits werden zu Beginn jeder Anfrage geschätzt, und die Schätzung wird während der Anfrage angepasst, um die tatsächliche Anzahl der verwendeten Input-Token widerzuspiegeln.

Folgendes zählt zu ITPM:

• input_tokens (Token nach dem letzten Cache-Breakpoint) ✓ Zählen zu ITPM
• cache_creation_input_tokens (Token, die in den Cache geschrieben werden) ✓ Zählen zu ITPM
• cache_read_input_tokens (Token, die aus dem Cache gelesen werden) ✗ Zählen bei den meisten Modellen NICHT zu ITPM

total_input_tokens = cache_read_input_tokens + cache_creation_input_tokens + input_tokens

Beispiel: Mit einem ITPM-Limit von 2.000.000 und einer Cache-Trefferquote von 80 % könntest du effektiv 10.000.000 gesamte Input-Token pro Minute verarbeiten (2 Mio. nicht gecacht + 8 Mio. gecacht), weil gecachte Token nicht zu deinem Ratenlimit zählen.

OTPM-Ratenlimits werden in Echtzeit ausgewertet, während Output-Token erzeugt werden, wobei nur die tatsächlich generierten Token gezählt werden. Der Parameter max_tokens fließt nicht in die Berechnung der OTPM-Ratenlimits ein, daher gibt es keinen Ratenlimit-Nachteil, wenn du einen höheren max_tokens-Wert festlegst.

Ratenlimits werden für jedes Modell separat angewendet; daher kannst du verschiedene Modelle gleichzeitig bis zu ihren jeweiligen Limits nutzen. Du kannst deine aktuellen Ratenlimits und das Verhalten in der Claude Console überprüfen oder die konfigurierten Limits programmatisch mit der Rate Limits API auslesen.

^{* - Das Opus-Ratenlimit ist ein Gesamtlimit, das für den kombinierten Traffic über Claude Opus 4.8, Opus 4.7, Opus 4.6 und Opus 4.5 gilt.}

^{** - Das Sonnet 4.x-Ratenlimit ist ein Gesamtlimit, das für den kombinierten Traffic über Sonnet 4.6 und Sonnet 4.5 gilt. Claude Sonnet 5 hat ein separates Ratenlimit und ist nicht Teil dieses kombinierten Buckets.}

^{† - Das Limit zählt cache_read_input_tokens zur ITPM-Nutzung.}



Message Batches API

Die Message Batches API hat ihre eigenen Ratenlimits, die über alle Modelle hinweg geteilt werden. Dazu gehören ein Limit für Anfragen pro Minute (RPM) für alle API-Endpunkte und ein Limit für die Anzahl der Batch-Anfragen, die sich gleichzeitig in der Verarbeitungswarteschlange befinden können. Eine „Batch-Anfrage" bezieht sich hier auf einen Teil eines Message Batch. Du kannst einen Message Batch mit Tausenden von Batch-Anfragen erstellen, von denen jede zu diesem Limit zählt. Eine Batch-Anfrage gilt als Teil der Verarbeitungswarteschlange, solange sie noch nicht erfolgreich vom Modell verarbeitet wurde.



Managed Agents

Die Endpunkte von Claude Managed Agents sind pro Organisation ratenbegrenzt. Diese Limits sind von den oben genannten Ratenlimits der Messages API getrennt.



Fast-Mode-Ratenlimits

Bei der Verwendung des Fast Mode (Research Preview) mit speed: "fast" auf Claude Opus 4.8 oder Opus 4.7 gelten dedizierte Ratenlimits, die von den Standard-Opus-Ratenlimits getrennt sind. Wenn die Fast-Mode-Ratenlimits überschritten werden, gibt die API einen 429-Fehler mit einem retry-after-Header zurück. Der Fast Mode ist auf Claude Opus 4.6 nicht verfügbar: Anfragen an claude-opus-4-6 mit speed: "fast" laufen mit Standardgeschwindigkeit. Siehe Fast Mode.

Die Antwort enthält anthropic-fast-*-Header, die den Status deines Fast-Mode-Ratenlimits anzeigen. Siehe Fast Mode für Details zu diesen Headern.



Überwachung deiner Ratenlimits in der Console

Du kannst deine Ratenlimit-Nutzung auf der Seite Usage der Claude Console überwachen.

Zusätzlich zu Token- und Anfrage-Diagrammen bietet die Usage-Seite zwei separate Ratenlimit-Diagramme. Verwende diese Diagramme, um zu sehen, welchen Spielraum du für Wachstum hast, wann du möglicherweise Spitzenauslastung erreichst, besser zu verstehen, welche Ratenlimits du anfordern solltest, oder wie du deine Caching-Raten verbessern kannst. Die Diagramme visualisieren eine Reihe von Metriken für ein bestimmtes Ratenlimit (zum Beispiel pro Modell):

• Das Diagramm Rate Limit - Input Tokens umfasst:
  • Stündliches Maximum an nicht gecachten Input-Token pro Minute
  • Dein aktuelles Ratenlimit für Input-Token pro Minute
  • Die Cache-Rate für deine Input-Token (also der Prozentsatz der Input-Token, die aus dem Cache gelesen werden)
• Das Diagramm Rate Limit - Output Tokens umfasst:
  • Stündliches Maximum an Output-Token pro Minute
  • Dein aktuelles Ratenlimit für Output-Token pro Minute



Höhere Limits anfordern

Um höhere Ratenlimits oder eine höhere monatliche Ausgabenobergrenze anzufordern, verwende Request rate limit increase auf der Seite Limits.



Niedrigere Limits für Workspaces festlegen

Mehr über Workspaces erfährst du unter Workspaces.

Um Workspaces in deiner Organisation vor potenzieller Übernutzung zu schützen, kannst du benutzerdefinierte Ausgaben- und Ratenlimits pro Workspace festlegen.

Beispiel: Wenn das Limit deiner Organisation 40.000 Input-Token pro Minute und 8.000 Output-Token pro Minute beträgt, könntest du einen Workspace auf 30.000 Input-Token pro Minute begrenzen. Dies schützt andere Workspaces vor potenzieller Übernutzung und sorgt für eine gerechtere Verteilung der Ressourcen in deiner Organisation. Die verbleibenden ungenutzten Token pro Minute (oder mehr, wenn dieser Workspace das Limit nicht ausschöpft) stehen dann anderen Workspaces zur Verfügung.

Hinweis:

• Du kannst keine Limits für den Standard-Workspace festlegen.
• Wenn nicht festgelegt, entsprechen die Workspace-Limits dem Limit der Organisation.
• Workspace-Limits werden pro Limiter-Typ festgelegt (wie Anfragen pro Minute, Input-Token pro Minute oder Output-Token pro Minute).
• Organisationsweite Limits gelten immer, auch wenn die Workspace-Limits in Summe höher sind.

Um deine aktuellen Organisations- und Workspace-Ratenlimits programmatisch auszulesen, verwende die Rate Limits API.



Antwort-Header

Die API-Antwort enthält Header, die dir das durchgesetzte Ratenlimit, die aktuelle Nutzung und den Zeitpunkt der Zurücksetzung des Limits anzeigen.

Die folgenden Header werden zurückgegeben:

Die anthropic-ratelimit-tokens-*-Header zeigen die Werte für das derzeit restriktivste geltende Limit an. Wenn du zum Beispiel das Workspace-Token-Limit pro Minute überschritten hast, enthalten die Header die Werte des Workspace-Token-Ratenlimits pro Minute. Wenn keine Workspace-Limits gelten, geben die Header die insgesamt verbleibenden Token zurück, wobei die Gesamtsumme die Summe aus Input- und Output-Token ist. Dieser Ansatz stellt sicher, dass du Einblick in die relevanteste Einschränkung deiner aktuellen API-Nutzung hast.