Das Kontextfenster verstehen

Das „Kontextfenster" bezieht sich auf die Gesamtmenge des Textes, auf den ein Sprachmodell zurückblicken und verweisen kann, wenn es neuen Text generiert, plus den neuen Text, den es generiert. Dies unterscheidet sich vom großen Datenbestand, auf dem das Sprachmodell trainiert wurde, und stellt stattdessen einen „Arbeitsspeicher" für das Modell dar. Ein größeres Kontextfenster ermöglicht es dem Modell, komplexere und längere Eingabeaufforderungen zu verstehen und darauf zu reagieren, während ein kleineres Kontextfenster die Fähigkeit des Modells, längere Eingabeaufforderungen zu verarbeiten oder die Kohärenz über längere Konversationen hinweg zu bewahren, einschränken kann.

Das folgende Diagramm zeigt das standardmäßige Kontextfensterverhalten für API-Anfragen¹:

¹Für Chat-Schnittstellen, wie z. B. für claude.ai, können Kontextfenster auch auf einem rollierenden „First-In-First-Out"-System eingerichtet werden.

• Progressive Token-Akkumulation: Mit dem Fortschreiten der Konversation durch Turns sammeln sich jede Benutzernachricht und jede Assistentenantwort im Kontextfenster an. Vorherige Turns werden vollständig beibehalten.
• Lineares Wachstumsmuster: Die Kontextnutzung wächst linear mit jedem Turn, wobei vorherige Turns vollständig beibehalten werden.
• 200K-Token-Kapazität: Das verfügbare Gesamtkontextfenster (200.000 Token) stellt die maximale Kapazität zum Speichern von Konversationsverlauf und zum Generieren neuer Ausgaben von Claude dar.
• Input-Output-Fluss: Jeder Turn besteht aus:
  • Input-Phase: Enthält den gesamten vorherigen Konversationsverlauf plus die aktuelle Benutzernachricht
  • Output-Phase: Generiert eine Textantwort, die Teil einer zukünftigen Eingabe wird

Das Kontextfenster mit erweitertem Denken

Bei Verwendung von erweitertem Denken zählen alle Input- und Output-Token, einschließlich der Token, die zum Denken verwendet werden, zum Kontextfensterlimit, mit einigen Nuancen in Multi-Turn-Situationen.

Die Denk-Budget-Token sind eine Teilmenge Ihres max_tokens-Parameters, werden als Output-Token abgerechnet und zählen zu den Ratenlimits.

Allerdings werden vorherige Denk-Blöcke automatisch von der Claude-API aus der Kontextfensterberechnung entfernt und sind nicht Teil des Konversationsverlaufs, den das Modell für nachfolgende Turns „sieht", wodurch Token-Kapazität für tatsächliche Konversationsinhalte erhalten bleibt.

Das folgende Diagramm zeigt die spezialisierte Token-Verwaltung, wenn erweitertes Denken aktiviert ist:

• Entfernen von erweitertem Denken: Blöcke mit erweitertem Denken (in dunkelgrau dargestellt) werden während der Output-Phase jedes Turns generiert, werden aber nicht als Input-Token für nachfolgende Turns weitergeleitet. Sie müssen die Denk-Blöcke nicht selbst entfernen. Die Claude-API macht dies automatisch für Sie, wenn Sie sie zurückgeben.
• Technische Implementierungsdetails:
  • Die API schließt automatisch Denk-Blöcke aus vorherigen Turns aus, wenn Sie diese als Teil des Konversationsverlaufs zurückgeben.
  • Token für erweitertes Denken werden nur einmal als Output-Token abgerechnet, während ihrer Generierung.
  • Die effektive Kontextfensterberechnung wird zu: context_window = (input_tokens - previous_thinking_tokens) + current_turn_tokens.
  • Denk-Token umfassen sowohl thinking-Blöcke als auch redacted_thinking-Blöcke.

Diese Architektur ist Token-effizient und ermöglicht umfangreiches Denken ohne Token-Verschwendung, da Denk-Blöcke erhebliche Länge haben können.

Das Kontextfenster mit erweitertem Denken und Tool-Nutzung

Das folgende Diagramm zeigt die Kontextfenster-Token-Verwaltung beim Kombinieren von erweitertem Denken mit Tool-Nutzung:

• Überlegungen zur Tool-Nutzung mit erweitertem Denken:
  • Beim Posten von Tool-Ergebnissen muss der gesamte unveränderte Denk-Block, der diese spezifische Tool-Anfrage begleitet (einschließlich Signatur-/redigierten Teilen), enthalten sein.
  • Die effektive Kontextfensterberechnung für erweitertes Denken mit Tool-Nutzung wird zu: context_window = input_tokens + current_turn_tokens.
  • Das System verwendet kryptografische Signaturen, um die Authentizität von Denk-Blöcken zu überprüfen. Das Versäumnis, Denk-Blöcke während der Tool-Nutzung zu bewahren, kann Claudes Denk-Kontinuität unterbrechen. Wenn Sie also Denk-Blöcke ändern, gibt die API einen Fehler zurück.

1M-Token-Kontextfenster

Claude Sonnet 4 und 4.5 unterstützen ein 1-Million-Token-Kontextfenster. Dieses erweiterte Kontextfenster ermöglicht es Ihnen, viel größere Dokumente zu verarbeiten, längere Konversationen zu führen und mit umfangreicheren Codebasen zu arbeiten.

Um das 1M-Token-Kontextfenster zu verwenden, fügen Sie den context-1m-2025-08-07 Beta-Header in Ihre API-Anfragen ein:

from anthropic import Anthropic

client = Anthropic()

response = client.beta.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Process this large document..."}
    ],
    betas=["context-1m-2025-08-07"]
)

Wichtige Überlegungen:

• Beta-Status: Dies ist eine Beta-Funktion, die Änderungen unterliegt. Funktionen und Preise können in zukünftigen Versionen geändert oder entfernt werden.
• Anforderung an Nutzungsstufe: Das 1M-Token-Kontextfenster ist für Organisationen in Nutzungsstufe 4 und Organisationen mit benutzerdefinierten Ratenlimits verfügbar. Organisationen mit niedrigerer Stufe müssen auf Nutzungsstufe 4 aufsteigen, um auf diese Funktion zuzugreifen.
• Verfügbarkeit: Das 1M-Token-Kontextfenster ist derzeit auf der Claude-API, Microsoft Foundry, Amazon Bedrock und Google Cloud's Vertex AI verfügbar.
• Preisgestaltung: Anfragen, die 200K Token überschreiten, werden automatisch zu Premium-Sätzen abgerechnet (2x Input, 1,5x Output-Preise). Weitere Informationen finden Sie in der Preisdokumentation.
• Ratenlimits: Anfragen mit langem Kontext haben dedizierte Ratenlimits. Weitere Informationen finden Sie in der Ratenlimit-Dokumentation.
• Multimodale Überlegungen: Beachten Sie bei der Verarbeitung einer großen Anzahl von Bildern oder PDFs, dass die Dateien in der Token-Nutzung variieren können. Wenn Sie eine große Eingabeaufforderung mit einer großen Anzahl von Bildern kombinieren, können Sie auf Anfragegrößenlimits stoßen.

Kontextbewusstsein in Claude Sonnet 4.5 und Haiku 4.5

Claude Sonnet 4.5 und Claude Haiku 4.5 verfügen über Kontextbewusstsein, das es diesen Modellen ermöglicht, ihr verbleibendes Kontextfenster (d. h. „Token-Budget") während einer Konversation zu verfolgen. Dies ermöglicht es Claude, Aufgaben auszuführen und den Kontext effektiver zu verwalten, indem es versteht, wie viel Platz es zur Verfügung hat. Claude ist nativ darauf trainiert, dieses Kontextbewusstsein genau zu nutzen, um bei der Aufgabe bis zum sehr Ende zu bleiben, anstatt raten zu müssen, wie viele Token verbleiben. Für ein Modell ist das Fehlen von Kontextbewusstsein wie das Antreten in einer Kochshow ohne Uhr. Claude 4.5-Modelle ändern dies, indem sie das Modell explizit über sein verbleibendes Kontextfenster informieren, damit es die verfügbaren Token maximal nutzen kann.

So funktioniert es:

Zu Beginn einer Konversation erhält Claude Informationen über sein Gesamtkontextfenster:

<budget:token_budget>200000</budget:token_budget>

Das Budget ist auf 200K Token (Standard), 500K Token (Claude.ai Enterprise) oder 1M Token (Beta, für berechtigte Organisationen) eingestellt.

Nach jedem Tool-Aufruf erhält Claude eine Aktualisierung der verbleibenden Kapazität:

<system_warning>Token usage: 35000/200000; 165000 remaining</system_warning>

Dieses Bewusstsein hilft Claude zu bestimmen, wie viel Kapazität für die Arbeit verbleibt, und ermöglicht eine effektivere Ausführung bei langfristigen Aufgaben. Bild-Token sind in diesen Budgets enthalten.

Vorteile:

Kontextbewusstsein ist besonders wertvoll für:

• Langfristige Agent-Sitzungen, die anhaltende Aufmerksamkeit erfordern
• Multi-Kontextfenster-Workflows, bei denen Zustandsübergänge wichtig sind
• Komplexe Aufgaben, die sorgfältige Token-Verwaltung erfordern

Für Eingabeaufforderungs-Leitlinien zur Nutzung von Kontextbewusstsein siehe unseren Claude 4 Best Practices Guide.

Kontextfenster-Verwaltung mit neueren Claude-Modellen

Bei neueren Claude-Modellen (ab Claude Sonnet 3.7) gibt das System einen Validierungsfehler zurück, wenn die Summe von Eingabe-Token und Ausgabe-Token das Kontextfenster des Modells überschreitet, anstatt den Kontext stillschweigend zu kürzen. Diese Änderung bietet vorhersagbareres Verhalten, erfordert aber sorgfältigere Token-Verwaltung.

Um Ihre Token-Nutzung zu planen und sicherzustellen, dass Sie innerhalb der Kontextfensterlimits bleiben, können Sie die Token-Counting-API verwenden, um zu schätzen, wie viele Token Ihre Nachrichten verwenden werden, bevor Sie sie an Claude senden.

Siehe unsere Modellvergleich-Tabelle für eine Liste der Kontextfenstergrößen nach Modell.

Nächste Schritte