Mit erweitertem Denken erstellen

Erweitertes Denken gibt Claude verbesserte Denkfähigkeiten für komplexe Aufgaben und bietet unterschiedliche Transparenzstufen in seinen schrittweisen Denkprozessen, bevor er seine endgültige Antwort liefert.

Unterstützte Modelle

Erweitertes Denken wird in den folgenden Modellen unterstützt:

• Claude Sonnet 4.5 (claude-sonnet-4-5-20250929)
• Claude Sonnet 4 (claude-sonnet-4-20250514)
• Claude Sonnet 3.7 (claude-3-7-sonnet-20250219) (veraltet)
• Claude Haiku 4.5 (claude-haiku-4-5-20251001)
• Claude Opus 4.1 (claude-opus-4-1-20250805)
• Claude Opus 4 (claude-opus-4-20250514)

Wie erweitertes Denken funktioniert

Wenn erweitertes Denken aktiviert ist, erstellt Claude thinking Inhaltsblöcke, in denen es sein internes Denken ausgibt. Claude bezieht Erkenntnisse aus diesem Denken ein, bevor er eine endgültige Antwort formuliert.

Die API-Antwort enthält thinking Inhaltsblöcke, gefolgt von text Inhaltsblöcken.

Hier ist ein Beispiel des Standard-Antwortformats:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Weitere Informationen zum Antwortformat des erweiterten Denkens finden Sie in der Messages API Referenz.

Wie man erweitertes Denken verwendet

Hier ist ein Beispiel für die Verwendung von erweitertem Denken in der Messages API:

curl https://api.anthropic.com/v1/messages \
     --header "x-api-key: $ANTHROPIC_API_KEY" \
     --header "anthropic-version: 2023-06-01" \
     --header "content-type: application/json" \
     --data \
'{
    "model": "claude-sonnet-4-5",
    "max_tokens": 16000,
    "thinking": {
        "type": "enabled",
        "budget_tokens": 10000
    },
    "messages": [
        {
            "role": "user",
            "content": "Are there an infinite number of prime numbers such that n mod 4 == 3?"
        }
    ]
}'

Um erweitertes Denken zu aktivieren, fügen Sie ein thinking Objekt hinzu, wobei der type Parameter auf enabled und budget_tokens auf ein angegebenes Token-Budget für erweitertes Denken gesetzt wird.

Der budget_tokens Parameter bestimmt die maximale Anzahl von Token, die Claude für seinen internen Denkprozess verwenden darf. Bei Claude 4 Modellen gilt diese Grenze für vollständige Denk-Token und nicht für die zusammengefasste Ausgabe. Größere Budgets können die Antwortqualität verbessern, indem sie gründlichere Analysen für komplexe Probleme ermöglichen, obwohl Claude möglicherweise nicht das gesamte zugewiesene Budget nutzt, besonders bei Werten über 32k.

budget_tokens muss auf einen Wert kleiner als max_tokens gesetzt werden. Wenn Sie jedoch verschachteltes Denken mit Tools verwenden, können Sie diese Grenze überschreiten, da die Token-Grenze Ihr gesamtes Kontextfenster wird (200k Token).

Zusammengefasstes Denken

Mit aktiviertem erweitertem Denken gibt die Messages API für Claude 4 Modelle eine Zusammenfassung von Claudes vollständigem Denkprozess zurück. Zusammengefasstes Denken bietet die vollständigen Intelligenzvorteile des erweiterten Denkens und verhindert gleichzeitig Missbrauch.

Hier sind einige wichtige Überlegungen für zusammengefasstes Denken:

• Sie werden für die vollständigen Denk-Token berechnet, die durch die ursprüngliche Anfrage generiert wurden, nicht für die Zusammenfassungs-Token.
• Die abgerechnete Ausgabe-Token-Anzahl wird nicht mit der Anzahl der Token übereinstimmen, die Sie in der Antwort sehen.
• Die ersten Zeilen der Denkausgabe sind ausführlicher und bieten detailliertes Denken, das besonders für Prompt-Engineering-Zwecke hilfreich ist.
• Während Anthropic versucht, die Funktion des erweiterten Denkens zu verbessern, unterliegt das Zusammenfassungsverhalten Änderungen.
• Die Zusammenfassung bewahrt die Schlüsselideen von Claudes Denkprozess mit minimaler zusätzlicher Latenz und ermöglicht eine streambare Benutzererfahrung und einfache Migration von Claude Sonnet 3.7 zu Claude 4 Modellen.
• Die Zusammenfassung wird von einem anderen Modell verarbeitet als dem, das Sie in Ihren Anfragen anvisieren. Das Denkmodell sieht die zusammengefasste Ausgabe nicht.

Streaming-Denken

Sie können Antworten mit erweitertem Denken mit Server-Sent Events (SSE) streamen.

Wenn Streaming für erweitertes Denken aktiviert ist, erhalten Sie Denkinhalte über thinking_delta Ereignisse.

Weitere Dokumentation zum Streaming über die Messages API finden Sie unter Streaming Messages.

Hier ist, wie Sie mit Streaming und Denken umgehen:

curl https://api.anthropic.com/v1/messages \
     --header "x-api-key: $ANTHROPIC_API_KEY" \
     --header "anthropic-version: 2023-06-01" \
     --header "content-type: application/json" \
     --data \
'{
    "model": "claude-sonnet-4-5",
    "max_tokens": 16000,
    "stream": true,
    "thinking": {
        "type": "enabled",
        "budget_tokens": 10000
    },
    "messages": [
        {
            "role": "user",
            "content": "What is 27 * 453?"
        }
    ]
}'

Beispiel-Streaming-Ausgabe:

event: message_start
data: {"type": "message_start", "message": {"id": "msg_01...", "type": "message", "role": "assistant", "content": [], "model": "claude-sonnet-4-5", "stop_reason": null, "stop_sequence": null}}

event: content_block_start
data: {"type": "content_block_start", "index": 0, "content_block": {"type": "thinking", "thinking": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "Let me solve this step by step:\n\n1. First break down 27 * 453"}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "\n2. 453 = 400 + 50 + 3"}}

// Additional thinking deltas...

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "signature_delta", "signature": "EqQBCgIYAhIM1gbcDa9GJwZA2b3hGgxBdjrkzLoky3dl1pkiMOYds..."}}

event: content_block_stop
data: {"type": "content_block_stop", "index": 0}

event: content_block_start
data: {"type": "content_block_start", "index": 1, "content_block": {"type": "text", "text": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 1, "delta": {"type": "text_delta", "text": "27 * 453 = 12,231"}}

// Additional text deltas...

event: content_block_stop
data: {"type": "content_block_stop", "index": 1}

event: message_delta
data: {"type": "message_delta", "delta": {"stop_reason": "end_turn", "stop_sequence": null}}

event: message_stop
data: {"type": "message_stop"}

Erweitertes Denken mit Tool-Nutzung

Erweitertes Denken kann zusammen mit Tool-Nutzung verwendet werden, was Claude ermöglicht, die Auswahl von Tools und die Verarbeitung von Ergebnissen durchzudenken.

Wenn Sie erweitertes Denken mit Tool-Nutzung verwenden, beachten Sie die folgenden Einschränkungen:

1. Tool-Auswahl-Einschränkung: Tool-Nutzung mit Denken unterstützt nur tool_choice: {"type": "auto"} (Standard) oder tool_choice: {"type": "none"}. Die Verwendung von tool_choice: {"type": "any"} oder tool_choice: {"type": "tool", "name": "..."} führt zu einem Fehler, da diese Optionen die Tool-Nutzung erzwingen, was mit erweitertem Denken nicht kompatibel ist.

2. Bewahrung von Denkblöcken: Während der Tool-Nutzung müssen Sie thinking Blöcke für die letzte Assistenten-Nachricht an die API zurückgeben. Geben Sie den vollständigen unveränderten Block an die API zurück, um die Kontinuität des Denkens zu bewahren.

Umschalten von Denkmodi in Gesprächen

Sie können das Denken nicht in der Mitte eines Assistenten-Zuges umschalten, einschließlich während Tool-Nutzungs-Schleifen. Der gesamte Assistenten-Zug muss in einem einzigen Denkmodus arbeiten:

• Wenn Denken aktiviert ist, muss der endgültige Assistenten-Zug mit einem Denkblock beginnen.
• Wenn Denken deaktiviert ist, darf der endgültige Assistenten-Zug keine Denkblöcke enthalten

Aus der Perspektive des Modells sind Tool-Nutzungs-Schleifen Teil des Assistenten-Zuges. Ein Assistenten-Zug ist nicht abgeschlossen, bis Claude seine vollständige Antwort beendet hat, die mehrere Tool-Aufrufe und Ergebnisse enthalten kann.

Zum Beispiel ist diese Sequenz alles Teil eines einzelnen Assistenten-Zuges:

User: "What's the weather in Paris?"
Assistant: [thinking] + [tool_use: get_weather]
User: [tool_result: "20°C, sunny"]
Assistant: [text: "The weather in Paris is 20°C and sunny"]

Obwohl es mehrere API-Nachrichten gibt, ist die Tool-Nutzungs-Schleife konzeptionell Teil einer kontinuierlichen Assistenten-Antwort.

Häufige Fehlerszenarien

Sie könnten auf diesen Fehler stoßen:

Expected `thinking` or `redacted_thinking`, but found `tool_use`.
When `thinking` is enabled, a final `assistant` message must start
with a thinking block (preceding the lastmost set of `tool_use` and
`tool_result` blocks).

Dies tritt typischerweise auf, wenn:

1. Sie Denken deaktiviert hatten während einer Tool-Nutzungs-Sequenz
2. Sie Denken wieder aktivieren möchten
3. Ihre letzte Assistenten-Nachricht Tool-Nutzungs-Blöcke enthält, aber keinen Denkblock

Praktische Anleitung

✗ Ungültig: Denken unmittelbar nach Tool-Nutzung umschalten

User: "What's the weather?"
Assistant: [tool_use] (thinking disabled)
User: [tool_result]
// Cannot enable thinking here - still in the same assistant turn

✓ Gültig: Assistenten-Zug zuerst abschließen

User: "What's the weather?"
Assistant: [tool_use] (thinking disabled)
User: [tool_result]
Assistant: [text: "It's sunny"] 
User: "What about tomorrow?" (thinking disabled)
Assistant: [thinking] + [text: "..."] (thinking enabled - new turn)

Best Practice: Planen Sie Ihre Denkstrategie am Anfang jedes Zuges, anstatt zu versuchen, mitten im Zug umzuschalten.

Bewahrung von Denkblöcken

Während der Tool-Nutzung müssen Sie thinking Blöcke an die API zurückgeben, und Sie müssen den vollständigen unveränderten Block an die API zurückgeben. Dies ist entscheidend für die Aufrechterhaltung des Denkflusses des Modells und der Gesprächsintegrität.

Wenn Claude Tools aufruft, pausiert es die Konstruktion einer Antwort, um auf externe Informationen zu warten. Wenn Tool-Ergebnisse zurückgegeben werden, wird Claude diese bestehende Antwort weiter aufbauen. Dies macht es notwendig, Denkblöcke während der Tool-Nutzung zu bewahren, aus ein paar Gründen:

1. Denk-Kontinuität: Die Denkblöcke erfassen Claudes schrittweises Denken, das zu Tool-Anfragen führte. Wenn Sie Tool-Ergebnisse posten, stellt die Einbeziehung des ursprünglichen Denkens sicher, dass Claude sein Denken von dort fortsetzen kann, wo es aufgehört hat.

2. Kontext-Erhaltung: Während Tool-Ergebnisse als Benutzer-Nachrichten in der API-Struktur erscheinen, sind sie Teil eines kontinuierlichen Denkflusses. Die Bewahrung von Denkblöcken erhält diesen konzeptionellen Fluss über mehrere API-Aufrufe hinweg. Weitere Informationen zur Kontext-Verwaltung finden Sie in unserem Leitfaden zu Kontextfenstern.

Wichtig: Wenn Sie thinking Blöcke bereitstellen, muss die gesamte Sequenz aufeinanderfolgender thinking Blöcke den Ausgaben entsprechen, die das Modell während der ursprünglichen Anfrage generiert hat; Sie können die Sequenz dieser Blöcke nicht neu anordnen oder ändern.

Verschachteltes Denken

Erweitertes Denken mit Tool-Nutzung in Claude 4 Modellen unterstützt verschachteltes Denken, das Claude ermöglicht, zwischen Tool-Aufrufen zu denken und nach dem Empfang von Tool-Ergebnissen anspruchsvolleres Denken zu betreiben.

Mit verschachteltem Denken kann Claude:

• Über die Ergebnisse eines Tool-Aufrufs nachdenken, bevor es entscheidet, was als nächstes zu tun ist
• Mehrere Tool-Aufrufe mit Denkschritten dazwischen verketten
• Nuanciertere Entscheidungen basierend auf Zwischenergebnissen treffen

Um verschachteltes Denken zu aktivieren, fügen Sie den Beta-Header interleaved-thinking-2025-05-14 zu Ihrer API-Anfrage hinzu.

Hier sind einige wichtige Überlegungen für verschachteltes Denken:

• Mit verschachteltem Denken kann budget_tokens den max_tokens Parameter überschreiten, da es das Gesamtbudget über alle Denkblöcke innerhalb eines Assistenten-Zuges darstellt.
• Verschachteltes Denken wird nur für Tools unterstützt, die über die Messages API verwendet werden.
• Verschachteltes Denken wird nur für Claude 4 Modelle mit dem Beta-Header interleaved-thinking-2025-05-14 unterstützt.
• Direkte Aufrufe an die Claude API ermöglichen es Ihnen, interleaved-thinking-2025-05-14 in Anfragen an jedes Modell zu übergeben, ohne Auswirkungen.
• Auf Plattformen von Drittanbietern (z.B. Amazon Bedrock und Vertex AI), wenn Sie interleaved-thinking-2025-05-14 an ein anderes Modell als Claude Opus 4.1, Opus 4 oder Sonnet 4 übergeben, schlägt Ihre Anfrage fehl.

Erweitertes Denken mit Prompt-Caching

Prompt-Caching mit Denken hat mehrere wichtige Überlegungen:

Entfernung von Denkblock-Kontext

• Denkblöcke aus vorherigen Zügen werden aus dem Kontext entfernt, was Cache-Haltepunkte beeinflussen kann
• Wenn Gespräche mit Tool-Nutzung fortgesetzt werden, werden Denkblöcke zwischengespeichert und zählen als Eingabe-Token, wenn sie aus dem Cache gelesen werden
• Dies schafft einen Kompromiss: Während Denkblöcke visuell keinen Kontextfensterplatz verbrauchen, zählen sie dennoch zu Ihrer Eingabe-Token-Nutzung, wenn sie zwischengespeichert werden
• Wenn Denken deaktiviert wird, schlagen Anfragen fehl, wenn Sie Denkinhalte im aktuellen Tool-Nutzungs-Zug übergeben. In anderen Kontexten wird Denkinhalte, die an die API übergeben werden, einfach ignoriert

Cache-Invalidierungsmuster

• Änderungen an Denkparametern (aktiviert/deaktiviert oder Budget-Zuweisung) invalidieren Nachrichten-Cache-Haltepunkte
• Verschachteltes Denken verstärkt Cache-Invalidierung, da Denkblöcke zwischen mehreren Tool-Aufrufen auftreten können
• System-Prompts und Tools bleiben trotz Änderungen der Denkparameter oder Block-Entfernung zwischengespeichert

Verständnis des Caching-Verhaltens von Denkblöcken

Wenn Sie erweitertes Denken mit Tool-Nutzung verwenden, zeigen Denkblöcke ein spezifisches Caching-Verhalten, das die Token-Zählung beeinflusst:

Wie es funktioniert:

1. Caching tritt nur auf, wenn Sie eine nachfolgende Anfrage stellen, die Tool-Ergebnisse enthält
2. Wenn die nachfolgende Anfrage gestellt wird, kann der vorherige Gesprächsverlauf (einschließlich Denkblöcke) zwischengespeichert werden
3. Diese zwischengespeicherten Denkblöcke zählen als Eingabe-Token in Ihren Nutzungsmetriken, wenn sie aus dem Cache gelesen werden
4. Wenn ein nicht-Tool-Ergebnis-Benutzer-Block enthalten ist, werden alle vorherigen Denkblöcke ignoriert und aus dem Kontext entfernt

Detailliertes Beispiel-Ablauf:

Anfrage 1:

User: "What's the weather in Paris?"

Antwort 1:

[thinking_block_1] + [tool_use block 1]

Anfrage 2:

User: ["What's the weather in Paris?"], 
Assistant: [thinking_block_1] + [tool_use block 1], 
User: [tool_result_1, cache=True]

Antwort 2:

[thinking_block_2] + [text block 2]

Anfrage 2 schreibt einen Cache des Anfrageinhalts (nicht der Antwort). Der Cache enthält die ursprüngliche Benutzernachricht, den ersten Denkblock, Tool-Nutzungs-Block und das Tool-Ergebnis.

Anfrage 3:

User: ["What's the weather in Paris?"], 
Assistant: [thinking_block_1] + [tool_use block 1], 
User: [tool_result_1, cache=True], 
Assistant: [thinking_block_2] + [text block 2], 
User: [Text response, cache=True]

Da ein nicht-Tool-Ergebnis-Benutzer-Block enthalten war, werden alle vorherigen Denkblöcke ignoriert. Diese Anfrage wird genauso verarbeitet wie:

User: ["What's the weather in Paris?"], 
Assistant: [tool_use block 1], 
User: [tool_result_1, cache=True], 
Assistant: [text block 2], 
User: [Text response, cache=True]

Wichtige Punkte:

• Dieses Caching-Verhalten geschieht automatisch, auch ohne explizite cache_control Markierungen
• Dieses Verhalten ist konsistent, ob Sie reguläres Denken oder verschachteltes Denken verwenden

Max-Token und Kontextfenstergröße mit erweitertem Denken

Bei älteren Claude-Modellen (vor Claude Sonnet 3.7) würde das System automatisch max_tokens anpassen, um in die Kontextgrenze zu passen, wenn die Summe von Prompt-Token und max_tokens das Kontextfenster des Modells überschreitet. Dies bedeutete, dass Sie einen großen max_tokens Wert setzen konnten und das System würde ihn nach Bedarf stille reduzieren.

Bei Claude 3.7 und 4 Modellen wird max_tokens (das Ihr Denk-Budget enthält, wenn Denken aktiviert ist) als strikte Grenze durchgesetzt. Das System gibt jetzt einen Validierungsfehler zurück, wenn Prompt-Token + max_tokens die Kontextfenstergröße überschreitet.

Das Kontextfenster mit erweitertem Denken

Bei der Berechnung der Kontextfenster-Nutzung mit aktiviertem Denken gibt es einige Überlegungen:

• Denkblöcke aus vorherigen Zügen werden entfernt und nicht zu Ihrem Kontextfenster gezählt
• Aktuelles Denken zählt zu Ihrer max_tokens Grenze für diesen Zug

Das Diagramm unten zeigt die spezialisierte Token-Verwaltung, wenn erweitertes Denken aktiviert ist:

Das effektive Kontextfenster wird berechnet als:

context window =
  (current input tokens - previous thinking tokens) +
  (thinking tokens + encrypted thinking tokens + text output tokens)

Wir empfehlen die Verwendung der Token-Zähl-API, um genaue Token-Zählungen für Ihren spezifischen Anwendungsfall zu erhalten, besonders bei mehrteiligen Gesprächen, die Denken enthalten.

Das Kontextfenster mit erweitertem Denken und Tool-Nutzung

Wenn Sie erweitertes Denken mit Tool-Nutzung verwenden, müssen Denkblöcke explizit bewahrt und mit den Tool-Ergebnissen zurückgegeben werden.

Die effektive Kontextfenster-Berechnung für erweitertes Denken mit Tool-Nutzung wird zu:

context window =
  (current input tokens + previous thinking tokens + tool use tokens) +
  (thinking tokens + encrypted thinking tokens + text output tokens)

Das Diagramm unten zeigt die Token-Verwaltung für erweitertes Denken mit Tool-Nutzung:

Verwaltung von Token mit erweitertem Denken

Angesichts des Kontextfensters und max_tokens Verhaltens mit erweitertem Denken Claude 3.7 und 4 Modellen müssen Sie möglicherweise:

• Ihre Token-Nutzung aktiver überwachen und verwalten
• max_tokens Werte anpassen, wenn sich Ihre Prompt-Länge ändert
• Möglicherweise die Token-Zähl-Endpunkte häufiger verwenden
• Beachten, dass vorherige Denkblöcke sich nicht in Ihrem Kontextfenster ansammeln

Diese Änderung wurde vorgenommen, um vorhersehbareres und transparenteres Verhalten zu bieten, besonders da die maximalen Token-Grenzen erheblich gestiegen sind.

Denk-Verschlüsselung

Vollständiger Denkinhalt wird verschlüsselt und im signature Feld zurückgegeben. Dieses Feld wird verwendet, um zu überprüfen, dass Denkblöcke von Claude generiert wurden, wenn sie an die API zurückgegeben werden.

Hier sind einige wichtige Überlegungen zur Denk-Verschlüsselung:

• Wenn Sie Antworten streamen, wird die Signatur über ein signature_delta innerhalb eines content_block_delta Ereignisses kurz vor dem content_block_stop Ereignis hinzugefügt.
• signature Werte sind in Claude 4 Modellen erheblich länger als in vorherigen Modellen.
• Das signature Feld ist ein undurchsichtiges Feld und sollte nicht interpretiert oder analysiert werden - es existiert ausschließlich zu Verifizierungszwecken.
• signature Werte sind über Plattformen kompatibel (Claude APIs, Amazon Bedrock und Vertex AI). Werte, die auf einer Plattform generiert werden, sind mit einer anderen kompatibel.

Denk-Redaktion

Gelegentlich wird Claudes internes Denken von unseren Sicherheitssystemen gekennzeichnet. Wenn dies geschieht, verschlüsseln wir einen Teil oder alle des thinking Blocks und geben ihn als redacted_thinking Block an Sie zurück. redacted_thinking Blöcke werden entschlüsselt, wenn sie an die API zurückgegeben werden, was Claude ermöglicht, seine Antwort fortzusetzen, ohne den Kontext zu verlieren.

Beim Erstellen von kundenorientierten Anwendungen, die erweitertes Denken verwenden:

• Seien Sie sich bewusst, dass redacted thinking Blöcke verschlüsselte Inhalte enthalten, die nicht von Menschen lesbar sind
• Erwägen Sie, eine einfache Erklärung wie: "Einige von Claudes internem Denken wurden automatisch aus Sicherheitsgründen verschlüsselt. Dies beeinträchtigt nicht die Qualität der Antworten." bereitzustellen
• Wenn Sie Denkblöcke Benutzern zeigen, können Sie redacted Blöcke filtern, während Sie normale Denkblöcke bewahren
• Seien Sie transparent, dass die Verwendung von erweiterten Denkfunktionen gelegentlich dazu führen kann, dass einige Überlegungen verschlüsselt werden
• Implementieren Sie angemessene Fehlerbehandlung, um redacted Denken elegant zu verwalten, ohne Ihre Benutzeroberfläche zu unterbrechen

Hier ist ein Beispiel, das sowohl normale als auch redacted Denkblöcke zeigt:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "redacted_thinking",
      "data": "EmwKAhgBEgy3va3pzix/LafPsn4aDFIT2Xlxh0L5L8rLVyIwxtE3rAFBa8cr3qpPkNRj2YfWXGmKDxH4mPnZ5sQ7vB9URj2pLmN3kF8/dW5hR7xJ0aP1oLs9yTcMnKVf2wRpEGjH9XZaBt4UvDcPrQ..."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Wenn Sie thinking und redacted_thinking Blöcke in einem mehrteiligen Gespräch an die API zurückgeben, müssen Sie den vollständigen unveränderten Block für den letzten Assistenten-Zug an die API zurückgeben. Dies ist entscheidend für die Aufrechterhaltung des Denkflusses des Modells. Wir empfehlen, immer alle Denkblöcke an die API zurückzugeben. Weitere Details finden Sie im Abschnitt Bewahrung von Denkblöcken oben.

Unterschiede beim Denken zwischen Modellversionen

Die Messages API verarbeitet Denken unterschiedlich zwischen Claude Sonnet 3.7 und Claude 4 Modellen, hauptsächlich in Redaktions- und Zusammenfassungsverhalten.

Siehe die Tabelle unten für einen komprimierten Vergleich:

Preisgestaltung

Erweitertes Denken verwendet das Standard-Token-Preisschema:

Der Denkprozess verursacht Gebühren für:

• Token, die während des Denkens verwendet werden (Ausgabe-Token)
• Denkblöcke aus dem letzten Assistenten-Zug, die in nachfolgenden Anfragen enthalten sind (Eingabe-Token)
• Standard-Text-Ausgabe-Token

Bei Verwendung von zusammengefasstem Denken:

• Eingabe-Token: Token in Ihrer ursprünglichen Anfrage (schließt Denk-Token aus vorherigen Zügen aus)
• Ausgabe-Token (abgerechnet): Die ursprünglichen Denk-Token, die Claude intern generiert hat
• Ausgabe-Token (sichtbar): Die zusammengefassten Denk-Token, die Sie in der Antwort sehen
• Keine Gebühr: Token, die verwendet werden, um die Zusammenfassung zu generieren

Best Practices und Überlegungen für erweitertes Denken

Arbeiten mit Denk-Budgets

• Budget-Optimierung: Das Mindestbudget beträgt 1.024 Token. Wir empfehlen, mit dem Minimum zu beginnen und das Denk-Budget schrittweise zu erhöhen, um den optimalen Bereich für Ihren Anwendungsfall zu finden. Höhere Token-Zählungen ermöglichen umfassenderes Denken, aber mit sinkenden Erträgen je nach Aufgabe. Die Erhöhung des Budgets kann die Antwortqualität verbessern, auf Kosten erhöhter Latenz. Für kritische Aufgaben testen Sie verschiedene Einstellungen, um das optimale Gleichgewicht zu finden. Beachten Sie, dass das Denk-Budget eher ein Ziel als eine strikte Grenze ist – die tatsächliche Token-Nutzung kann je nach Aufgabe variieren.
• Startpunkte: Beginnen Sie mit größeren Denk-Budgets (16k+ Token) für komplexe Aufgaben und passen Sie nach Bedarf an.
• Große Budgets: Für Denk-Budgets über 32k empfehlen wir die Verwendung von Batch-Verarbeitung, um Netzwerkprobleme zu vermeiden. Anfragen, die das Modell dazu bringen, über 32k Token zu denken, verursachen lange laufende Anfragen, die möglicherweise auf System-Timeouts und offene Verbindungsgrenzen stoßen.
• Token-Nutzungs-Tracking: Überwachen Sie die Denk-Token-Nutzung, um Kosten und Leistung zu optimieren.

Leistungsüberlegungen

• Antwortzeiten: Seien Sie auf möglicherweise längere Antwortzeiten vorbereitet, da zusätzliche Verarbeitung für den Denkprozess erforderlich ist. Berücksichtigen Sie, dass die Generierung von Denkblöcken die Gesamtantwortzeit erhöhen kann.
• Streaming-Anforderungen: Streaming ist erforderlich, wenn max_tokens größer als 21.333 ist. Beim Streaming seien Sie bereit, sowohl Denk- als auch Text-Inhaltsblöcke zu verarbeiten, wenn sie ankommen.

Feature-Kompatibilität

• Denken ist nicht kompatibel mit temperature oder top_k Änderungen sowie erzwungener Tool-Nutzung.
• Wenn Denken aktiviert ist, können Sie top_p auf Werte zwischen 1 und 0,95 setzen.
• Sie können Antworten nicht vorausfüllen, wenn Denken aktiviert ist.
• Änderungen am Denk-Budget invalidieren zwischengespeicherte Prompt-Präfixe, die Nachrichten enthalten. Zwischengespeicherte System-Prompts und Tool-Definitionen funktionieren jedoch weiterhin, wenn sich Denkparameter ändern.

Nutzungsrichtlinien

• Aufgabenauswahl: Verwenden Sie erweitertes Denken für besonders komplexe Aufgaben, die von schrittweisem Denken profitieren, wie Mathematik, Codierung und Analyse.
• Kontext-Verarbeitung: Sie müssen vorherige Denkblöcke nicht selbst entfernen. Die Claude API ignoriert automatisch Denkblöcke aus vorherigen Zügen und sie werden nicht bei der Berechnung der Kontextnutzung einbezogen.
• Prompt-Engineering: Lesen Sie unsere Tipps zum Prompt-Engineering für erweitertes Denken, wenn Sie Claudes Denkfähigkeiten maximieren möchten.

Nächste Schritte