Kontextfenster

Wenn Gespräche länger werden, näherst du dich irgendwann den Grenzen des Kontextfensters. Für lang laufende Gespräche und agentische Workflows ist serverseitige Kompaktierung die primäre Strategie für das Kontextmanagement.



Wie das Kontextfenster funktioniert

Das „context window" (Kontextfenster) bezieht sich auf den gesamten Text, auf den ein Sprachmodell beim Generieren einer Antwort verweisen kann, einschließlich der Antwort selbst. Dies unterscheidet sich vom großen Datenbestand, auf dem das Sprachmodell trainiert wurde, und stellt stattdessen einen „Arbeitsspeicher" für das Modell dar. Ein größeres Kontextfenster ermöglicht es dem Modell, komplexere und längere Prompts zu verarbeiten, aber mehr Kontext ist nicht automatisch besser. Mit steigender Token-Anzahl nehmen Genauigkeit und Recall ab – ein Phänomen, das als context rot bekannt ist. Deshalb ist es genauso wichtig zu kuratieren, was im Kontext steht, wie wie viel Platz verfügbar ist.

Das folgende Diagramm veranschaulicht das Standardverhalten des Kontextfensters für API-Anfragen¹:

¹Chat-Oberflächen wie claude.ai können das Kontextfenster auch nach dem rollierenden „First in, first out"-Prinzip verwalten.

• Progressive Token-Akkumulation: Während das Gespräch über mehrere Turns fortschreitet, sammeln sich jede Benutzernachricht und jede Assistentenantwort im Kontextfenster an, und vorherige Turns bleiben vollständig erhalten.
• Kapazität des Kontextfensters: Das Kontextfenster (bis zu 1M Token, je nach Modell) enthält den Gesprächsverlauf plus die neue Ausgabe, die Claude generiert.
• Input-Output-Ablauf: Jeder Turn besteht aus:
  • Input-Phase: Enthält den gesamten bisherigen Gesprächsverlauf plus die aktuelle Benutzernachricht
  • Output-Phase: Generiert eine Textantwort, die Teil des Inputs für den nächsten Turn wird

Alles in der Anfrage zählt zum Kontextfenster: der System-Prompt, jede Nachricht in messages (einschließlich Tool-Ergebnissen, Bildern und Dokumenten) und deine Tool-Definitionen. Die Ausgabe, die Claude für den Turn generiert, einschließlich seines erweiterten Denkens, zählt ebenfalls. Jede Antwort meldet im Feld usage, was die Anfrage verbraucht hat. Wenn du Prompt-Caching verwendest, wird die Input-Anzahl auf input_tokens, cache_read_input_tokens und cache_creation_input_tokens aufgeteilt, und alle drei zählen zum Fenster. Um eine Anfrage vor dem Senden abzuschätzen, verwende die Token-Counting-API.



Kontextfenstergrößen nach Modell

Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 5 und Claude Sonnet 4.6 haben ein 1M-Token-Kontextfenster auf der Claude API, Amazon Bedrock, Google Cloud und Microsoft Foundry. Claude Mythos Preview hat ebenfalls ein 1M-Token-Kontextfenster.

Claude Fable 5 und Claude Mythos 5 (claude-fable-5 und claude-mythos-5) haben ein 1M-Token-Kontextfenster, und eine einzelne Anfrage an diese Modelle kann bis zu 128k Output-Token (max_tokens) generieren. Andere Claude-Modelle, einschließlich Claude Sonnet 4.5, haben ein 200k-Token-Kontextfenster.

Für jedes Modell mit einem 1M-Token-Kontextfenster ist 1M der Standard: Du brauchst keinen Beta-Header, und Long-Context-Anfragen werden zu Standardpreisen abgerechnet.

Eine einzelne Anfrage kann bis zu 600 Bilder oder PDF-Seiten enthalten (100 für Modelle mit einem 200k-Token-Kontextfenster). Wenn du viele Bilder oder große Dokumente sendest, erreichst du möglicherweise die Anfragegrößenlimits vor dem Token-Limit.

Siehe die Modellvergleichstabelle für eine Liste der Kontextfenstergrößen nach Modell.



Das Kontextfenster mit erweitertem Denken

Mit erweitertem Denken zählen alle Input- und Output-Token, einschließlich Thinking-Token, zum Kontextfenster-Limit, mit einigen Nuancen in Multi-Turn-Situationen.

Die Thinking-Budget-Token sind eine Teilmenge deines max_tokens-Parameters, werden als Output-Token abgerechnet und zählen zu den Ratenlimits. Mit adaptivem Denken bestimmt Claude seine Thinking-Zuteilung dynamisch, sodass die Nutzung von Thinking-Token von Anfrage zu Anfrage variiert.

Ob Thinking-Blöcke aus vorherigen Assistenten-Turns im Kontextfenster bleiben, hängt vom Modell ab. Bei Claude Opus 4.5 und späteren Opus-Modellen, Claude Sonnet 4.6 und späteren Sonnet-Modellen, Claude Fable 5, Claude Mythos 5 und Claude Mythos Preview behält die API vorherige Thinking-Blöcke standardmäßig bei, und sie zählen wie alle anderen Input-Token zum Kontextfenster. Bei früheren Opus- und Sonnet-Modellen und allen Haiku-Modellen entfernt die API vorherige Thinking-Blöcke automatisch aus dem Gesprächsverlauf, wenn du sie zurückgibst, was Token-Kapazität für Gesprächsinhalte freihält. Die Standardeinstellungen pro Modell findest du unter Thinking-Block-Beibehaltung nach Modell. Um den Standard in eine der beiden Richtungen zu überschreiben, verwende Thinking-Block-Clearing.

Das folgende Diagramm zeigt, wie Token verwaltet werden, wenn erweitertes Denken auf einem Modell aktiviert ist, das vorherige Thinking-Blöcke entfernt:

• Entfernen von erweitertem Denken: Bei Modellen, die vorherige Thinking-Blöcke entfernen, werden Blöcke des erweiterten Denkens (dunkelgrau dargestellt) während der Output-Phase jedes Turns generiert, aber nicht als Input-Token für nachfolgende Turns übernommen. Du musst die Thinking-Blöcke nicht selbst entfernen: Wenn du sie zurückgibst, entfernt die Claude API sie automatisch.
• Abrechnung: Token des erweiterten Denkens werden einmal als Output-Token abgerechnet, wenn sie generiert werden. Bei Modellen, die vorherige Thinking-Blöcke beibehalten, sind die beibehaltenen Blöcke dann Teil des Inputs späterer Anfragen und werden wie der Rest des Gesprächsverlaufs als Input-Token abgerechnet.



Das Kontextfenster mit erweitertem Denken und Tool-Nutzung

Das folgende Diagramm veranschaulicht, wie Token verwaltet werden, wenn du erweitertes Denken mit Tool-Nutzung auf einem Modell kombinierst, das vorherige Thinking-Blöcke entfernt:

• Überlegungen zur Tool-Nutzung mit erweitertem Denken:
  • Wenn du Tool-Ergebnisse zurückgibst, musst du den gesamten unveränderten Thinking-Block einschließen, der zu dieser Tool-Anfrage gehört, einschließlich seiner Signatur.
  • Die API verwendet kryptografische Signaturen, um die Authentizität von Thinking-Blöcken zu verifizieren. Wenn du einen Thinking-Block veränderst, gibt die API einen Fehler zurück.

Um den Kontext zu reduzieren, den die Tool-Definitionen selbst verbrauchen, siehe Tool-Kontext verwalten, oder verschiebe Tool-Definitionen mit dem Tool-Search-Tool.



Kontextbewusstsein

Claude Sonnet 5, Claude Sonnet 4.6, Claude Sonnet 4.5 und Claude Haiku 4.5 verfügen über Kontextbewusstsein: Diese Modelle verfolgen ihr verbleibendes Kontextfenster (ihr „Token-Budget") während eines Gesprächs. Dadurch kann das Modell lang laufende Aufgaben anhand des verbleibenden Platzes verwalten, anstatt zu raten, wie viele Token noch übrig sind. Kontextbewusstsein ist automatisch: Du musst nichts aktivieren, und du sendest die in diesem Abschnitt gezeigten Tags niemals selbst. Die API fügt sie ein.



Wie es funktioniert

Im System-Prompt jeder Anfrage gibt die API Claude sein gesamtes Kontextfenster an:

<budget:token_budget>200000</budget:token_budget>

Das Budget entspricht dem Kontextfenster, das deiner Anfrage zur Verfügung steht: 1M Token für Claude Sonnet 5 und Claude Sonnet 4.6 und 200k Token für Claude Sonnet 4.5 und Claude Haiku 4.5. Die Beispiele in diesem Abschnitt zeigen ein Modell mit einem 200k-Token-Kontextfenster.

Nach jedem Tool-Aufruf gibt die API Claude ein Update über seine verbleibende Kapazität:

<system_warning>Token usage: 35000/200000; 165000 remaining</system_warning>

Bild-Token sind in diesen Budgets enthalten.

Neuere Modelle erhalten diese eingefügten Tags nicht. Bei Claude Opus 4.7 und später, Claude Fable 5 und Claude Mythos 5 kannst du dem Modell mit Task-Budgets, die sich in der Beta befinden, ein explizites Budget geben.

Prompting-Hinweise zur Nutzung des Kontextbewusstseins findest du unter Best Practices für Prompting.



Kontext mit Kompaktierung verwalten

Wenn deine Gespräche regelmäßig an die Grenzen des Kontextfensters stoßen, verwende serverseitige Kompaktierung. Kompaktierung fasst frühere Teile des Gesprächs automatisch auf dem Server zusammen, sodass das Gespräch über das Kontextfenster-Limit hinaus fortgesetzt werden kann. Sie ist in der Beta verfügbar für Claude Fable 5, Claude Mythos 5, Claude Opus 4.8, Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 5 und Claude Sonnet 4.6.

Für speziellere Anforderungen bietet Context Editing zusätzliche Strategien:

• Tool-Result-Clearing: Lösche alte Tool-Ergebnisse in agentischen Workflows
• Thinking-Block-Clearing: Verwalte Thinking-Blöcke, wenn du erweitertes Denken verwendest

Gecachte Prompt-Präfixe belegen weiterhin das Kontextfenster: Prompt-Caching ändert, was du für diese Token bezahlst, nicht ob sie zählen.



Verhalten bei Kontextfenster-Überlauf

Wenn der Input allein bereits das Kontextfenster des Modells überschreitet, gibt die API bei jedem Modell einen 400 invalid_request_error („prompt is too long") zurück.

Bei Claude-4.5-Modellen und neuer akzeptiert die API die Anfrage, wenn Input-Token plus max_tokens die Kontextfenstergröße überschreiten. Wenn die Generierung dann das Kontextfenster-Limit erreicht, stoppt sie mit stop_reason: "model_context_window_exceeded". Bei früheren Modellen gibt die API stattdessen einen Validierungsfehler zurück. Um das model_context_window_exceeded-Verhalten bei diesen Modellen zu aktivieren, verwende den Beta-Header model-context-window-exceeded-2025-08-26. Siehe Stop-Reasons und Fallback für Details.

Um innerhalb der Kontextfenster-Limits zu bleiben, verwende die Token-Counting-API, um die Token-Nutzung abzuschätzen, bevor du Nachrichten an Claude sendest.



Nächste Schritte