Mit erweitertem Denken erstellen

Erweitertes Denken gibt Claude verbesserte Denkfähigkeiten für komplexe Aufgaben, während es unterschiedliche Transparenzstufen in seinen schrittweisen Denkprozess bietet, bevor es seine endgültige Antwort liefert.

Unterstützte Modelle

Manuelles erweitertes Denken (thinking: {type: "enabled", budget_tokens: N}) wird auf allen aktuellen Claude-Modellen unterstützt außer Claude Opus 4.7 und neueren Modellen, wo es nicht mehr akzeptiert wird und einen 400-Fehler zurückgibt. Einige Modelle haben modellspezifisches Verhalten:

• Claude Opus 4.7 (claude-opus-4-7) und neuere Modelle: Manuelles erweitertes Denken wird nicht mehr unterstützt. Verwenden Sie stattdessen adaptives Denken (thinking: {type: "adaptive"}) mit dem Effort-Parameter.
• Claude Mythos Preview: Adaptives Denken ist die Standardeinstellung; thinking: {type: "enabled", budget_tokens: N} wird ebenfalls akzeptiert. thinking: {type: "disabled"} wird nicht unterstützt, und display wird standardmäßig auf "omitted" gesetzt, anstatt Denkinhalte zurückzugeben. Übergeben Sie display: "summarized", um Zusammenfassungen zu erhalten.
• Claude Opus 4.6 (claude-opus-4-6): Adaptives Denken empfohlen; manueller Modus (type: "enabled") ist veraltet, funktioniert aber noch.
• Claude Sonnet 4.6 (claude-sonnet-4-6): Adaptives Denken empfohlen; manueller Modus (type: "enabled") mit verschachteltem Modus ist veraltet, funktioniert aber noch.

Wie erweitertes Denken funktioniert

Wenn erweitertes Denken aktiviert ist, erstellt Claude thinking-Inhaltsblöcke, in denen es seine interne Überlegung ausgibt. Claude integriert Erkenntnisse aus dieser Überlegung, bevor es eine endgültige Antwort formuliert.

Die API-Antwort enthält thinking-Inhaltsblöcke, gefolgt von text-Inhaltsblöcken.

Hier ist ein Beispiel des Standard-Antwortformats:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Weitere Informationen zum Antwortformat des erweiterten Denkens finden Sie in der Messages API-Referenz.

Wie man erweitertes Denken verwendet

Hier ist ein Beispiel für die Verwendung von erweitertem Denken in der Messages API:

Um erweitertes Denken zu aktivieren, fügen Sie ein thinking-Objekt hinzu, wobei der type-Parameter auf enabled und budget_tokens auf ein angegebenes Token-Budget für erweitertes Denken gesetzt ist. Für Claude Opus 4.6 und Claude Sonnet 4.6 verwenden Sie stattdessen type: "adaptive". Weitere Informationen finden Sie unter Adaptives Denken. Während type: "enabled" mit budget_tokens auf diesen Modellen noch funktioniert, ist es veraltet und wird in einer zukünftigen Version entfernt.

Der budget_tokens-Parameter bestimmt die maximale Anzahl von Token, die Claude für seinen internen Denkprozess verwenden darf. Bei Claude 4 und neueren Modellen gilt diese Grenze für vollständige Denk-Token und nicht für die zusammengefasste Ausgabe. Größere Budgets können die Antwortqualität verbessern, indem sie eine gründlichere Analyse für komplexe Probleme ermöglichen, obwohl Claude möglicherweise nicht das gesamte zugewiesene Budget nutzt, besonders bei Bereichen über 32k.

budget_tokens muss auf einen Wert kleiner als max_tokens gesetzt werden. Wenn Sie jedoch verschachteltes Denken mit Tools verwenden, können Sie diese Grenze überschreiten, da die Token-Grenze zu Ihrem gesamten Kontextfenster wird.

Zusammengefasstes Denken

With extended thinking enabled, the Messages API for Claude 4 models returns a summary of Claude's full thinking process. Summarized thinking provides the full intelligence benefits of extended thinking, while preventing misuse. This is the default behavior on Claude 4 models when the display field on the thinking configuration is unset or set to "summarized". On Claude Opus 4.7 and Claude Mythos Preview, display defaults to "omitted" instead, so you must set display: "summarized" explicitly to receive summarized thinking.

Here are some important considerations for summarized thinking:

• You're charged for the full thinking tokens generated by the original request, not the summary tokens.
• The billed output token count will not match the count of tokens you see in the response.
• On Claude 4 models, the first few lines of thinking output are more verbose, providing detailed reasoning that's particularly helpful for prompt engineering purposes. Claude Mythos Preview summarizes from the first token, so its thinking blocks do not show this verbose preamble.
• As Anthropic seeks to improve the extended thinking feature, summarization behavior is subject to change.
• Summarization preserves the key ideas of Claude's thinking process with minimal added latency, enabling a streamable user experience and easy migration from Claude Sonnet 3.7 to Claude 4 and later models.
• Summarization is processed by a different model than the one you target in your requests. The thinking model does not see the summarized output.

Denkanzeige steuern

The display field on the thinking configuration controls how thinking content is returned in API responses. It accepts two values:

• "summarized": Thinking blocks contain summarized thinking text. See Summarized thinking for details. This is the default on Claude Opus 4.6, Claude Sonnet 4.6, and earlier Claude 4 models.
• "omitted": Thinking blocks are returned with an empty thinking field. The signature field still carries the encrypted full thinking for multi-turn continuity (see Thinking encryption). This is the default on Claude Opus 4.7 and Claude Mythos Preview.

Setting display: "omitted" is useful when your application doesn't surface thinking content to users. The primary benefit is faster time-to-first-text-token when streaming: The server skips streaming thinking tokens entirely and delivers only the signature, so the final text response begins streaming sooner.

Here are some important considerations for omitted thinking:

• You're still charged for the full thinking tokens. Omitting reduces latency, not cost.
• If you pass thinking blocks back in multi-turn conversations, pass them unchanged. The server decrypts the signature to reconstruct the original thinking for prompt construction (see Preserving thinking blocks). Any text you place in the thinking field of a round-tripped omitted block is ignored.
• display is invalid with thinking.type: "disabled" (there is nothing to display).
• When using thinking.type: "adaptive" and the model skips thinking for a simple request, no thinking block is produced regardless of display.

Automatisierte Pipelines, die Denkinhalte niemals Endbenutzern anzeigen, können den Overhead überspringen, Denk-Token über die Leitung zu empfangen. Latenzempfindliche Anwendungen erhalten die gleiche Denkqualität, ohne auf Denktext zu warten, bevor die endgültige Antwort beginnt.

Wenn display: "omitted" gesetzt ist, enthält die Antwort thinking-Blöcke mit einem leeren thinking-Feld:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "",
      "signature": "EosnCkYICxIMMb3LzNrMu..."
    },
    {
      "type": "text",
      "text": "The answer is 12,231."
    }
  ]
}

Beim Streaming mit display: "omitted" werden keine thinking_delta-Ereignisse ausgegeben; weitere Informationen zur Ereignisfolge finden Sie unter Streaming-Denken.

Streaming-Denken

Sie können erweiterte Denkresponses mit Server-Sent Events (SSE) streamen.

Wenn Streaming für erweitertes Denken aktiviert ist, erhalten Sie Denkinhalte über thinking_delta-Events.

Wenn display: "omitted" gesetzt ist, werden keine thinking_delta-Events ausgegeben. Siehe Denkanzeigesteuerung.

Weitere Dokumentation zum Streaming über die Messages API finden Sie unter Streaming Messages.

So handhaben Sie Streaming mit Denken:

Beispiel-Streaming-Ausgabe:

event: message_start
data: {"type": "message_start", "message": {"id": "msg_01...", "type": "message", "role": "assistant", "content": [], "model": "claude-sonnet-4-6", "stop_reason": null, "stop_sequence": null}}

event: content_block_start
data: {"type": "content_block_start", "index": 0, "content_block": {"type": "thinking", "thinking": "", "signature": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "I need to find the GCD of 1071 and 462 using the Euclidean algorithm.\n\n1071 = 2 × 462 + 147"}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "\n462 = 3 × 147 + 21\n147 = 7 × 21 + 0\n\nSo GCD(1071, 462) = 21"}}

// Additional thinking deltas...

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "signature_delta", "signature": "EqQBCgIYAhIM1gbcDa9GJwZA2b3hGgxBdjrkzLoky3dl1pkiMOYds..."}}

event: content_block_stop
data: {"type": "content_block_stop", "index": 0}

event: content_block_start
data: {"type": "content_block_start", "index": 1, "content_block": {"type": "text", "text": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 1, "delta": {"type": "text_delta", "text": "The greatest common divisor of 1071 and 462 is **21**."}}

// Additional text deltas...

event: content_block_stop
data: {"type": "content_block_stop", "index": 1}

event: message_delta
data: {"type": "message_delta", "delta": {"stop_reason": "end_turn", "stop_sequence": null}}

event: message_stop
data: {"type": "message_stop"}

Wenn display: "omitted" gesetzt ist, öffnet sich der Denkblock, ein einzelnes signature_delta kommt an, und der Block schließt sich ohne thinking_delta-Events. Das Textstreaming beginnt unmittelbar danach:

event: content_block_start
data: {"type":"content_block_start","index":0,"content_block":{"type":"thinking","thinking":"","signature":""}}

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"signature_delta","signature":"EosnCkYICxIMMb3LzNrMu..."}}

event: content_block_stop
data: {"type":"content_block_stop","index":0}

event: content_block_start
data: {"type":"content_block_start","index":1,"content_block":{"type":"text","text":""}}

Erweitertes Denken mit Werkzeugnutzung

Erweitertes Denken kann zusammen mit Werkzeugnutzung verwendet werden, was Claude ermöglicht, die Werkzeugauswahl und Ergebnisverarbeitung zu durchdenken.

Bei Verwendung von erweitertem Denken mit Werkzeugnutzung beachten Sie die folgenden Einschränkungen:

1. Werkzeugauswahl-Einschränkung: Werkzeugnutzung mit Denken unterstützt nur tool_choice: {"type": "auto"} (die Standardeinstellung) oder tool_choice: {"type": "none"}. Die Verwendung von tool_choice: {"type": "any"} oder tool_choice: {"type": "tool", "name": "..."} führt zu einem Fehler, da diese Optionen die Werkzeugnutzung erzwingen, was mit erweitertem Denken nicht kompatibel ist.

2. Denkblöcke beibehalten: Während der Werkzeugnutzung müssen Sie thinking-Blöcke für die letzte Assistentnachricht an die API zurückgeben. Geben Sie den vollständigen unveränderten Block an die API zurück, um die Denkkontinuität zu bewahren.

Denkmodi in Gesprächen umschalten

Sie können das Denken nicht in der Mitte eines Assistent-Turns umschalten, auch nicht während Tool-Use-Schleifen. Der gesamte Assistent-Turn sollte in einem einzigen Denkmodus arbeiten:

• Wenn Denken aktiviert ist, sollte der endgültige Assistent-Turn mit einem Denkblock beginnen.
• Wenn Denken deaktiviert ist, sollte der endgültige Assistent-Turn keine Denkblöcke enthalten

Aus der Perspektive des Modells sind Tool-Use-Schleifen Teil des Assistent-Turns. Ein Assistent-Turn ist nicht abgeschlossen, bis Claude seine vollständige Antwort beendet hat, die mehrere Tool-Aufrufe und Ergebnisse enthalten kann.

Zum Beispiel ist diese Sequenz alles Teil eines einzelnen Assistent-Turns:

User: "What's the weather in Paris?"
Assistant: [thinking] + [tool_use: get_weather]
User: [tool_result: "20°C, sunny"]
Assistant: [text: "The weather in Paris is 20°C and sunny"]

Obwohl es mehrere API-Nachrichten gibt, ist die Tool-Use-Schleife konzeptionell Teil einer kontinuierlichen Assistent-Antwort.

Graceful Thinking Degradation

Wenn ein Mid-Turn-Denk-Konflikt auftritt (z. B. das Umschalten von Denken während einer Tool-Use-Schleife), deaktiviert die API das Denken automatisch für diese Anfrage. Um die Modellqualität zu bewahren und auf der Verteilung zu bleiben, kann die API:

• Denkblöcke aus der Konversation entfernen, wenn sie eine ungültige Turn-Struktur erzeugen würden
• Denken für die aktuelle Anfrage deaktivieren, wenn die Konversationshistorie mit aktiviertem Denken nicht kompatibel ist

Das bedeutet, dass der Versuch, das Denken mid-turn umzuschalten, keinen Fehler verursacht, aber das Denken wird für diese Anfrage stillschweigend deaktiviert. Um zu bestätigen, ob Denken aktiv war, überprüfen Sie auf das Vorhandensein von thinking-Blöcken in der Antwort.

Praktische Anleitung

Best Practice: Planen Sie Ihre Denkstrategie am Anfang jedes Turns, anstatt zu versuchen, mid-turn umzuschalten.

Beispiel: Denken nach Abschluss eines Turns umschalten

User: "What's the weather?"
Assistant: [tool_use] (thinking disabled)
User: [tool_result]
Assistant: [text: "It's sunny"]
User: "What about tomorrow?"
Assistant: [thinking] + [text: "..."] (thinking enabled - new turn)

Durch Abschluss des Assistent-Turns vor dem Umschalten des Denkens stellen Sie sicher, dass Denken tatsächlich für die neue Anfrage aktiviert ist.

Denkblöcke bewahren

Während der Tool-Nutzung müssen Sie thinking-Blöcke an die API zurückgeben, und Sie müssen den vollständigen unveränderten Block an die API zurückgeben. Dies ist entscheidend für die Aufrechterhaltung des Denkflusses des Modells und der Konversationsintegrität.

Wenn Claude Tools aufruft, pausiert es die Konstruktion einer Antwort, um auf externe Informationen zu warten. Wenn Tool-Ergebnisse zurückgegeben werden, setzt Claude den Aufbau dieser bestehenden Antwort fort. Dies erfordert die Bewahrung von Denkblöcken während der Tool-Nutzung aus ein paar Gründen:

1. Denkkontinuität: Die Denkblöcke erfassen Claudes schrittweise Überlegungen, die zu Tool-Anfragen führten. Wenn Sie Tool-Ergebnisse posten, stellt die Einbeziehung des ursprünglichen Denkens sicher, dass Claude sein Denken von dort fortsetzen kann, wo es aufgehört hat.

2. Kontextverwaltung: Während Tool-Ergebnisse als Benutzernachrichten in der API-Struktur erscheinen, sind sie Teil eines kontinuierlichen Denkflusses. Die Bewahrung von Denkblöcken erhält diesen konzeptionellen Fluss über mehrere API-Aufrufe hinweg. Weitere Informationen zur Kontextverwaltung finden Sie im Leitfaden zu Kontextfenstern.

Wichtig: Wenn Sie thinking-Blöcke bereitstellen, muss die gesamte Sequenz aufeinanderfolgender thinking-Blöcke den Ausgaben entsprechen, die das Modell während der ursprünglichen Anfrage generiert hat; Sie können die Sequenz dieser Blöcke nicht neu anordnen oder ändern.

Verschachteltes Denken

Extended Thinking mit Tool-Use in Claude 4-Modellen unterstützt verschachteltes Denken, das Claude ermöglicht, zwischen Tool-Aufrufen zu denken und nach dem Empfang von Tool-Ergebnissen anspruchsvollere Überlegungen anzustellen.

Mit verschachteltem Denken kann Claude:

• Über die Ergebnisse eines Tool-Aufrufs nachdenken, bevor es entscheidet, was als nächstes zu tun ist
• Mehrere Tool-Aufrufe mit Denkschritten dazwischen verketten
• Nuanciertere Entscheidungen basierend auf Zwischenergebnissen treffen

Modellunterstützung:

• Claude Mythos Preview: Verschachteltes Denken geschieht automatisch. Jeder Denkschritt zwischen Tools wird in einen Denkblock verschoben, anstatt in Klartext, und Denkblöcke werden standardmäßig über Turns hinweg bewahrt. Kein Beta-Header ist erforderlich oder unterstützt.
• Claude Opus 4.7: Verschachteltes Denken wird automatisch aktiviert, wenn adaptives Denken verwendet wird (der einzige unterstützte Denkmodus auf Opus 4.7). Kein Beta-Header ist erforderlich.
• Claude Opus 4.6: Verschachteltes Denken wird automatisch aktiviert, wenn adaptives Denken verwendet wird. Kein Beta-Header ist erforderlich. Der interleaved-thinking-2025-05-14 Beta-Header ist veraltet auf Opus 4.6 und wird sicher ignoriert, wenn er enthalten ist.
• Claude Sonnet 4.6: Verschachteltes Denken wird automatisch aktiviert, wenn adaptives Denken verwendet wird (empfohlen). Der interleaved-thinking-2025-05-14 Beta-Header mit manuellem Extended Thinking (thinking: {type: "enabled"}) ist immer noch funktional, aber veraltet.
• Andere Claude 4-Modelle (Opus 4.5, Opus 4.1, Opus 4 (veraltet), Sonnet 4.5, Sonnet 4 (veraltet)): Fügen Sie zu Ihrer API-Anfrage hinzu, um verschachteltes Denken zu aktivieren.

Hier sind einige wichtige Überlegungen für verschachteltes Denken:

• Mit verschachteltem Denken kann budget_tokens den max_tokens-Parameter überschreiten, da es das Gesamtbudget über alle Denkblöcke innerhalb eines Assistent-Turns darstellt.
• Verschachteltes Denken wird nur für Tools unterstützt, die über die Messages API verwendet werden.
• Direkte Aufrufe der Claude API ermöglichen es Ihnen, interleaved-thinking-2025-05-14 in Anfragen an jedes Modell zu übergeben, ohne Auswirkungen (außer Opus 4.7 und Opus 4.6, wo es veraltet ist und sicher ignoriert wird).
• Auf Plattformen von Drittanbietern (z. B. Amazon Bedrock und Vertex AI), wenn Sie interleaved-thinking-2025-05-14 an ein anderes Modell als Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 4.6, Claude Opus 4.5, Claude Opus 4.1, Opus 4 (veraltet), Sonnet 4.5 oder Sonnet 4 (veraltet) übergeben, schlägt Ihre Anfrage fehl.

Erweitertes Denken mit Prompt-Caching

Prompt-Caching mit Denken hat mehrere wichtige Überlegungen:

Entfernung des Denkblock-Kontexts

• Denkblöcke aus vorherigen Durchläufen werden aus dem Kontext entfernt, was Cache-Haltepunkte beeinflussen kann
• Beim Fortsetzen von Gesprächen mit Werkzeugnutzung werden Denkblöcke zwischengespeichert und zählen als Eingabe-Token, wenn sie aus dem Cache gelesen werden
• Dies schafft einen Kompromiss: Während Denkblöcke visuell keinen Kontextfensterplatz verbrauchen, zählen sie dennoch zu Ihrer Eingabe-Token-Nutzung, wenn sie zwischengespeichert sind
• Wenn Denken deaktiviert wird und Sie Denkinhalte im aktuellen Werkzeugnutzungs-Durchlauf übergeben, werden die Denkinhalte entfernt und Denken bleibt für diese Anfrage deaktiviert

Cache-Invalidierungsmuster

• Änderungen an Denkparametern (aktiviert/deaktiviert oder Budgetzuweisung) invalidieren Message-Cache-Haltepunkte
• Verschachteltes Denken verstärkt Cache-Invalidierung, da Denkblöcke zwischen mehreren Werkzeugaufrufen auftreten können
• Systemaufforderungen und Werkzeuge bleiben zwischengespeichert, trotz Änderungen der Denkparameter oder Blockentfernung

Verständnis des Caching-Verhaltens von Thinking Blocks

Bei der Verwendung von Extended Thinking mit Tool-Nutzung zeigen Thinking Blocks ein spezifisches Caching-Verhalten, das die Token-Zählung beeinflusst:

So funktioniert es:

1. Caching tritt nur auf, wenn Sie eine nachfolgende Anfrage stellen, die Tool-Ergebnisse enthält
2. Wenn die nachfolgende Anfrage gestellt wird, kann die vorherige Konversationshistorie (einschließlich Thinking Blocks) zwischengespeichert werden
3. Diese zwischengespeicherten Thinking Blocks werden als Input-Token in Ihren Nutzungsmetriken gezählt, wenn sie aus dem Cache gelesen werden
4. Wenn ein Non-Tool-Result-Benutzer-Block enthalten ist, werden alle vorherigen Thinking Blocks ignoriert und aus dem Kontext entfernt

Detailliertes Beispielablauf:

Anfrage 1:

User: "What's the weather in Paris?"

Antwort 1:

[thinking_block_1] + [tool_use block 1]

Anfrage 2:

User: ["What's the weather in Paris?"],
Assistant: [thinking_block_1] + [tool_use block 1],
User: [tool_result_1, cache=True]

Antwort 2:

[thinking_block_2] + [text block 2]

Anfrage 2 schreibt einen Cache des Anfrageinhalts (nicht der Antwort). Der Cache enthält die ursprüngliche Benutzernachricht, den ersten Thinking Block, den Tool-Use-Block und das Tool-Ergebnis.

Anfrage 3:

User: ["What's the weather in Paris?"],
Assistant: [thinking_block_1] + [tool_use block 1],
User: [tool_result_1, cache=True],
Assistant: [thinking_block_2] + [text block 2],
User: [Text response, cache=True]

Für Claude Opus 4.5 und später (einschließlich Claude Opus 4.6) werden alle vorherigen Thinking Blocks standardmäßig beibehalten. Bei älteren Modellen werden alle vorherigen Thinking Blocks ignoriert, da ein Non-Tool-Result-Benutzer-Block enthalten war. Diese Anfrage wird genauso verarbeitet wie:

User: ["What's the weather in Paris?"],
Assistant: [tool_use block 1],
User: [tool_result_1, cache=True],
Assistant: [text block 2],
User: [Text response, cache=True]

Wichtige Punkte:

• Dieses Caching-Verhalten erfolgt automatisch, auch ohne explizite cache_control-Marker
• Dieses Verhalten ist konsistent, ob Sie reguläres Thinking oder verschachteltes Thinking verwenden

Max tokens und Kontextfenstergröße mit erweitertem Denken

Bei älteren Claude-Modellen (vor Claude Sonnet 3.7) würde das System automatisch max_tokens anpassen, wenn die Summe der Prompt-Token und max_tokens das Kontextfenster des Modells überschreitet. Das bedeutete, dass Sie einen großen max_tokens-Wert setzen konnten und das System ihn bei Bedarf stillschweigend reduzieren würde.

Bei Claude 3.7 und 4 Modellen wird max_tokens (das Ihr Denkbudget einschließt, wenn Denken aktiviert ist) als strikte Grenze durchgesetzt. Das System gibt nun einen Validierungsfehler zurück, wenn Prompt-Token + max_tokens die Kontextfenstergröße überschreitet.

Das Kontextfenster mit erweitertem Denken

Bei der Berechnung der Kontextfensternutzung mit aktiviertem Denken gibt es einige Überlegungen zu beachten:

• Denkblöcke aus vorherigen Durchläufen werden entfernt und nicht auf Ihr Kontextfenster angerechnet
• Das aktuelle Denken zählt zu Ihrem max_tokens-Limit für diesen Durchlauf

Das folgende Diagramm zeigt die spezialisierte Token-Verwaltung, wenn erweitertes Denken aktiviert ist:

Das effektive Kontextfenster wird berechnet als:

context window =
  (current input tokens - previous thinking tokens) +
  (thinking tokens + encrypted thinking tokens + text output tokens)

Verwenden Sie die Token-Zähl-API, um genaue Token-Zählungen für Ihren spezifischen Anwendungsfall zu erhalten, besonders wenn Sie mit mehrteiligen Konversationen arbeiten, die Denken einschließen.

Das Kontextfenster mit erweitertem Denken und Tool-Nutzung

Bei der Verwendung von erweitertem Denken mit Tool-Nutzung müssen Denkblöcke explizit beibehalten und mit den Tool-Ergebnissen zurückgegeben werden.

Die effektive Kontextfensterberechnung für erweitertes Denken mit Tool-Nutzung wird zu:

context window =
  (current input tokens + previous thinking tokens + tool use tokens) +
  (thinking tokens + encrypted thinking tokens + text output tokens)

Das folgende Diagramm zeigt die Token-Verwaltung für erweitertes Denken mit Tool-Nutzung:

Verwaltung von Tokens mit erweitertem Denken

Angesichts des Kontextfenster- und max_tokens-Verhaltens mit erweitertem Denken bei Claude 3.7 und 4 Modellen müssen Sie möglicherweise:

• Ihre Token-Nutzung aktiver überwachen und verwalten
• max_tokens-Werte anpassen, wenn sich Ihre Prompt-Länge ändert
• Möglicherweise die Token-Zähl-Endpunkte häufiger verwenden
• Beachten, dass vorherige Denkblöcke sich nicht in Ihrem Kontextfenster ansammeln

Diese Änderung wurde vorgenommen, um ein vorhersehbareres und transparenteres Verhalten zu bieten, besonders da die maximalen Token-Limits erheblich gestiegen sind.

Denkenverschlüsselung

Full thinking content is encrypted and returned in the signature field. This field is used to verify that thinking blocks were generated by Claude when passed back to the API.

Here are some important considerations on thinking encryption:

• When streaming responses, the signature is added via a signature_delta inside a content_block_delta event just before the content_block_stop event.
• signature values are significantly longer in Claude 4 models than in previous models.
• The signature field is an opaque field and should not be interpreted or parsed.
• signature values are compatible across platforms (Claude APIs, Amazon Bedrock, and Vertex AI). Values generated on one platform will be compatible with another.

Redigierte Denkblöcke

Zusätzlich zu regulären thinking-Blöcken kann die API redacted_thinking-Blöcke zurückgeben. Ein redacted_thinking-Block enthält verschlüsselte Denkinhalte in einem data-Feld, ohne lesbare Zusammenfassung:

{
  "type": "redacted_thinking",
  "data": "..."
}

Das data-Feld ist undurchsichtig und verschlüsselt. Wie das signature-Feld bei regulären Denkblöcken sollten Sie redacted_thinking-Blöcke unverändert an die API zurückgeben, wenn Sie eine mehrteilige Konversation mit Tools fortsetzen.

Unterschiede beim Denken zwischen Modellversionen

Die Messages API behandelt Denken unterschiedlich zwischen Claude Sonnet 3.7 und Claude 4 Modellen, hauptsächlich im Zusammenfassungsverhalten.

Siehe die folgende Tabelle für einen komprimierten Vergleich:

Denkblock-Beibehaltung in Claude Opus 4.5 und später

Ab Claude Opus 4.5 (und fortgesetzt in Claude Opus 4.6) werden Denkblöcke aus vorherigen Assistent-Durchläufen standardmäßig im Modellkontext beibehalten. Dies unterscheidet sich von früheren Modellen, die Denkblöcke aus vorherigen Durchläufen entfernen.

Vorteile der Denkblock-Beibehaltung:

• Cache-Optimierung: Bei Verwendung von Tool-Nutzung ermöglichen beibehaltene Denkblöcke Cache-Treffer, da sie mit Tool-Ergebnissen zurückgegeben und inkrementell über den Assistent-Durchlauf hinweg zwischengespeichert werden, was zu Token-Einsparungen in mehrstufigen Workflows führt
• Keine Auswirkung auf Intelligenz: Das Beibehalten von Denkblöcken hat keine negativen Auswirkungen auf die Modellleistung

Wichtige Überlegungen:

• Kontextnutzung: Lange Konversationen verbrauchen mehr Kontextraum, da Denkblöcke im Kontext beibehalten werden
• Automatisches Verhalten: Dies ist das Standardverhalten für Claude Opus 4.5 und später Modelle (einschließlich Claude Mythos Preview und Claude Opus 4.6). Keine Code-Änderungen oder Beta-Header erforderlich
• Rückwärtskompatibilität: Um diese Funktion zu nutzen, geben Sie weiterhin vollständige, unveränderte Denkblöcke an die API zurück, wie Sie es für Tool-Nutzung tun würden

Preisgestaltung

For complete pricing information including base rates, cache writes, cache hits, and output tokens, see the pricing page.

The thinking process incurs charges for:

• Tokens used during thinking (output tokens)
• Thinking blocks from the last assistant turn included in subsequent requests (input tokens)
• Standard text output tokens

When using summarized thinking:

• Input tokens: Tokens in your original request (excludes thinking tokens from previous turns)
• Output tokens (billed): The original thinking tokens that Claude generated internally
• Output tokens (visible): The summarized thinking tokens you see in the response
• No charge: Tokens used to generate the summary

When using display: "omitted":

• Input tokens: Tokens in your original request (same as summarized)
• Output tokens (billed): The original thinking tokens that Claude generated internally (same as summarized)
• Output tokens (visible): Zero thinking tokens (the thinking field is empty)

Best Practices und Überlegungen für erweitertes Denken

Arbeiten mit Denkbudgets

• Budget-Optimierung: Das Mindestbudget beträgt 1.024 Token. Beginnen Sie mit dem Minimum und erhöhen Sie das Denkbudget schrittweise, um den optimalen Bereich für Ihren Anwendungsfall zu finden. Höhere Token-Zählungen ermöglichen umfassenderes Denken, aber mit abnehmenden Erträgen je nach Aufgabe. Eine Erhöhung des Budgets kann die Antwortqualität auf Kosten erhöhter Latenz verbessern. Testen Sie für kritische Aufgaben verschiedene Einstellungen, um das optimale Gleichgewicht zu finden. Beachten Sie, dass das Denkbudget ein Ziel und keine strikte Grenze ist. Die tatsächliche Token-Nutzung kann je nach Aufgabe variieren.
• Startpunkte: Beginnen Sie mit größeren Denkbudgets (16k+ Token) für komplexe Aufgaben und passen Sie diese nach Bedarf an.
• Große Budgets: Für Denkbudgets über 32k verwenden Sie Batch-Verarbeitung, um Netzwerkprobleme zu vermeiden. Anfragen, die das Modell dazu bringen, über 32k Token zu denken, verursachen lange laufende Anfragen, die möglicherweise gegen System-Timeouts und offene Verbindungsgrenzen verstoßen.
• Token-Nutzungsverfolgung: Überwachen Sie die Denk-Token-Nutzung, um Kosten und Leistung zu optimieren.

Leistungsüberlegungen

• Antwortzeiten: Seien Sie auf längere Antwortzeiten aufgrund zusätzlicher Verarbeitung vorbereitet. Das Generieren von Denkblöcken erhöht die Gesamtantwortzeit.
• Streaming-Anforderungen: Die SDKs erfordern Streaming, wenn max_tokens größer als 21.333 ist, um HTTP-Timeouts bei lange laufenden Anfragen zu vermeiden. Dies ist eine Client-seitige Validierung, keine API-Einschränkung. Wenn Sie Ereignisse nicht inkrementell verarbeiten müssen, verwenden Sie .stream() mit .get_final_message() (Python) oder .finalMessage() (TypeScript), um das vollständige Message-Objekt zu erhalten, ohne einzelne Ereignisse zu behandeln. Siehe Streaming Messages für Details. Beim Streaming seien Sie darauf vorbereitet, sowohl Denk- als auch Text-Inhaltsblöcke bei ihrer Ankunft zu behandeln.
• Denken für Latenz weglassen: Wenn Ihre Anwendung Denkinhalte nicht anzeigt, setzen Sie display: "omitted" in der Denkkonfiguration, um die Zeit bis zum ersten Text-Token zu reduzieren. Siehe Denk-Anzeige steuern.

Feature-Kompatibilität

• Denken ist nicht kompatibel mit temperature- oder top_k-Änderungen sowie erzwungener Tool-Nutzung.
• Wenn Denken aktiviert ist, können Sie top_p auf Werte zwischen 1 und 0,95 setzen.
• Sie können Antworten nicht vorausfüllen, wenn Denken aktiviert ist.
• Änderungen am Denkbudget machen zwischengespeicherte Prompt-Präfixe ungültig, die Nachrichten enthalten. Zwischengespeicherte Systemaufforderungen und Tool-Definitionen funktionieren jedoch weiterhin, wenn sich Denkparameter ändern.

Nutzungsrichtlinien

• Aufgabenauswahl: Verwenden Sie erweitertes Denken für besonders komplexe Aufgaben, die von schrittweisem Denken profitieren, wie Mathematik, Codierung und Analyse.
• Kontextbehandlung: Sie müssen vorherige Denkblöcke nicht selbst entfernen. Die Claude API ignoriert automatisch Denkblöcke aus vorherigen Durchläufen und sie werden nicht bei der Berechnung der Kontextnutzung einbezogen.
• Prompt-Engineering: Lesen Sie die Tipps zum erweiterten Denken-Prompting, wenn Sie Claudes Denkfähigkeiten maximieren möchten.

Nächste Schritte