Pemikiran diperpanjang

"Extended thinking" (pemikiran diperpanjang) memberikan Claude kemampuan penalaran yang ditingkatkan untuk tugas-tugas kompleks, sekaligus menyediakan berbagai tingkat transparansi ke dalam proses pemikiran langkah demi langkahnya sebelum memberikan jawaban akhir.



Model yang didukung

Pemikiran diperpanjang tersedia pada semua model Claude saat ini. Cara Anda mengaktifkannya bergantung pada model:

Dengan pemikiran adaptif, model memutuskan kapan dan seberapa banyak berpikir pada setiap permintaan. Pada Claude Mythos Preview, Claude Fable 5, dan Claude Mythos 5, thinking: {type: "disabled"} tidak didukung. Untuk perbedaan perilaku per model (output pemikiran, pemikiran berselang, dan preservasi blok), lihat Perbedaan pemikiran di seluruh versi model.



Cara kerja pemikiran diperpanjang

Ketika pemikiran diperpanjang diaktifkan, Claude membuat blok konten thinking tempat ia mengeluarkan penalaran internalnya. Claude menggabungkan wawasan dari penalaran ini sebelum menyusun respons akhir.

Respons API mencakup blok konten thinking, diikuti oleh blok konten text.

Berikut adalah contoh format respons default:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Untuk informasi lebih lanjut tentang format respons pemikiran diperpanjang, lihat Referensi Messages API.



Cara menggunakan pemikiran diperpanjang

Berikut adalah contoh penggunaan pemikiran diperpanjang di Messages API:

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=16000,
    thinking={"type": "enabled", "budget_tokens": 10000},
    messages=[
        {
            "role": "user",
            "content": "Are there an infinite number of prime numbers such that n mod 4 == 3?",
        }
    ],
)

# Respons berisi blok pemikiran yang diringkas dan blok teks
for block in response.content:
    match block.type:
        case "thinking":
            print(f"\nThinking summary: {block.thinking}")
        case "text":
            print(f"\nResponse: {block.text}")

Untuk mengaktifkan pemikiran diperpanjang, tambahkan objek thinking dengan type diatur ke enabled dan nilai budget_tokens. Pada model di mana pemikiran diperpanjang manual tidak digunakan lagi atau tidak didukung (lihat Model yang didukung), gunakan type: "adaptive" sebagai gantinya seperti yang dijelaskan dalam Pemikiran adaptif.

Parameter budget_tokens menetapkan jumlah maksimum token yang dapat digunakan Claude untuk proses penalaran internalnya. Batas ini berlaku untuk token pemikiran penuh, bukan untuk output yang diringkas. Anggaran yang lebih besar dapat meningkatkan kualitas respons dengan memungkinkan analisis yang lebih menyeluruh untuk masalah kompleks, meskipun Claude mungkin tidak menggunakan seluruh anggaran yang dialokasikan, terutama pada rentang di atas 32k.

budget_tokens harus diatur ke nilai yang lebih kecil dari max_tokens. Namun, saat menggunakan pemikiran berselang dengan alat, Anda dapat melebihi batas ini karena batas token menjadi seluruh jendela konteks Anda. Karena budget_tokens harus lebih kecil dari max_tokens, pemikiran diperpanjang tidak dapat digabungkan dengan max_tokens: 0 (pre-warming cache).



Mengontrol tampilan pemikiran

Field display pada konfigurasi thinking mengontrol bagaimana konten thinking dikembalikan dalam respons API. Field ini menerima dua nilai:

• "summarized": Blok thinking berisi teks thinking yang diringkas. Lihat Summarized thinking untuk detailnya. Ini adalah default pada Claude Opus 4.6, Claude Sonnet 4.6, dan model Claude 4 sebelumnya.
• "omitted": Blok thinking dikembalikan dengan field thinking kosong. Field signature tetap membawa thinking lengkap yang terenkripsi untuk kontinuitas multi-turn (lihat Enkripsi thinking). Ini adalah default pada Claude Fable 5, Claude Mythos 5, Claude Sonnet 5, Claude Opus 4.8, Claude Opus 4.7, dan Claude Mythos Preview.

Mengatur display: "omitted" berguna ketika aplikasi Anda tidak menampilkan konten thinking kepada pengguna. Manfaat utamanya adalah time-to-first-text-token yang lebih cepat saat streaming: Server melewati streaming token thinking sepenuhnya dan hanya mengirimkan signature, sehingga respons teks akhir mulai di-stream lebih cepat.

Berikut adalah beberapa pertimbangan penting untuk omitted thinking:

• Anda tetap dikenakan biaya untuk token thinking penuh. Menghilangkan thinking mengurangi latensi, bukan biaya.
• Jika Anda mengirimkan kembali blok thinking dalam percakapan multi-turn, kirimkan tanpa perubahan. Server mendekripsi signature untuk merekonstruksi thinking asli untuk konstruksi prompt (lihat Mempertahankan blok thinking). Teks apa pun yang Anda tempatkan di field thinking dari blok omitted yang dikirim bolak-balik akan diabaikan.
• display tidak valid dengan thinking.type: "disabled" (tidak ada yang perlu ditampilkan).
• Saat menggunakan thinking.type: "adaptive" dan model melewati thinking untuk permintaan sederhana, tidak ada blok thinking yang dihasilkan terlepas dari nilai display.

Pipeline otomatis yang tidak pernah menampilkan konten pemikiran kepada pengguna akhir dapat melewati overhead penerimaan token pemikiran melalui jaringan. Aplikasi yang sensitif terhadap latensi mendapatkan kualitas penalaran yang sama tanpa menunggu teks pemikiran di-stream sebelum respons akhir dimulai.

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=16000,
    thinking={
        "type": "enabled",
        "budget_tokens": 10000,
        "display": "omitted",
    },
    messages=[
        {"role": "user", "content": "What is 27 * 453?"},
    ],
)

for block in response.content:
    if block.type == "thinking":
        if block.thinking:
            print(f"Thinking: {block.thinking}")
        else:
            print("Thinking: [omitted]")
    elif block.type == "text":
        print(f"Response: {block.text}")

Ketika display: "omitted" diatur, respons berisi blok thinking dengan field thinking kosong:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "",
      "signature": "EosnCkYICxIMMb3LzNrMu..."
    },
    {
      "type": "text",
      "text": "The answer is 12,231."
    }
  ]
}

Saat streaming dengan display: "omitted", tidak ada event thinking_delta yang dipancarkan; lihat Streaming pemikiran untuk urutan event.



Pemikiran yang diringkas

Dengan "extended thinking" (pemikiran diperpanjang) diaktifkan, Messages API untuk model Claude 4 mengembalikan ringkasan dari proses pemikiran lengkap Claude. Pemikiran yang diringkas memberikan manfaat kecerdasan penuh dari pemikiran diperpanjang, sekaligus mencegah penyalahgunaan. Ini adalah perilaku default pada model Claude 4 ketika field display pada konfigurasi thinking tidak disetel atau disetel ke "summarized". Pada Claude Fable 5, Claude Mythos 5, Claude Sonnet 5, Claude Opus 4.8, Claude Opus 4.7, dan Claude Mythos Preview, display secara default disetel ke "omitted", sehingga Anda harus menyetel display: "summarized" secara eksplisit untuk menerima pemikiran yang diringkas.

Berikut adalah beberapa pertimbangan penting untuk pemikiran yang diringkas:

• Anda dikenakan biaya untuk token pemikiran penuh yang dihasilkan oleh permintaan asli, bukan token ringkasan.
• Jumlah token output yang ditagih tidak akan sama dengan jumlah token yang Anda lihat dalam respons.
• Pada model Claude 4, beberapa baris pertama dari output pemikiran lebih verbose, memberikan penalaran terperinci yang sangat membantu untuk keperluan rekayasa prompt. Claude Mythos Preview meringkas sejak token pertama, sehingga blok pemikirannya tidak menampilkan pembukaan verbose ini.
• Karena Anthropic terus berupaya meningkatkan fitur pemikiran diperpanjang, perilaku peringkasan dapat berubah sewaktu-waktu.
• Peringkasan mempertahankan ide-ide kunci dari proses pemikiran Claude dengan latensi tambahan yang minimal, memungkinkan pengalaman pengguna yang dapat di-stream.
• Peringkasan diproses oleh model yang berbeda dari model yang Anda targetkan dalam permintaan Anda. Model pemikiran tidak melihat output yang diringkas.



Streaming pemikiran

Anda dapat melakukan streaming respons pemikiran diperpanjang menggunakan server-sent events (SSE).

Ketika streaming diaktifkan untuk pemikiran diperpanjang, Anda menerima konten pemikiran melalui event thinking_delta.

Ketika display: "omitted" diatur, tidak ada event thinking_delta yang dipancarkan. Lihat Mengontrol tampilan pemikiran.

Untuk dokumentasi lebih lanjut tentang streaming melalui Messages API, lihat Streaming Messages.

Berikut cara menangani streaming dengan pemikiran:

client = anthropic.Anthropic()

with client.messages.stream(
    model="claude-sonnet-4-6",
    max_tokens=16000,
    thinking={"type": "enabled", "budget_tokens": 10000},
    messages=[
        {
            "role": "user",
            "content": "What is the greatest common divisor of 1071 and 462?",
        }
    ],
) as stream:
    thinking_started = False
    response_started = False

    for event in stream:
        if event.type == "content_block_start":
            print(f"\nStarting {event.content_block.type} block...")
            # Reset flag untuk setiap blok baru
            thinking_started = False
            response_started = False
        elif event.type == "content_block_delta":
            if event.delta.type == "thinking_delta":
                if not thinking_started:
                    print("Thinking: ", end="", flush=True)
                    thinking_started = True
                print(event.delta.thinking, end="", flush=True)
            elif event.delta.type == "text_delta":
                if not response_started:
                    print("Response: ", end="", flush=True)
                    response_started = True
                print(event.delta.text, end="", flush=True)
        elif event.type == "content_block_stop":
            print("\nBlock complete.")

Contoh output streaming:

event: message_start
data: {"type": "message_start", "message": {"id": "msg_01...", "type": "message", "role": "assistant", "content": [], "model": "claude-sonnet-4-6", "stop_reason": null, "stop_sequence": null}}

event: content_block_start
data: {"type": "content_block_start", "index": 0, "content_block": {"type": "thinking", "thinking": "", "signature": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "I need to find the GCD of 1071 and 462 using the Euclidean algorithm.\n\n1071 = 2 × 462 + 147"}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "\n462 = 3 × 147 + 21\n147 = 7 × 21 + 0\n\nSo GCD(1071, 462) = 21"}}

// Additional thinking deltas...

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "signature_delta", "signature": "EqQBCgIYAhIM1gbcDa9GJwZA2b3hGgxBdjrkzLoky3dl1pkiMOYds..."}}

event: content_block_stop
data: {"type": "content_block_stop", "index": 0}

event: content_block_start
data: {"type": "content_block_start", "index": 1, "content_block": {"type": "text", "text": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 1, "delta": {"type": "text_delta", "text": "The greatest common divisor of 1071 and 462 is **21**."}}

// Additional text deltas...

event: content_block_stop
data: {"type": "content_block_stop", "index": 1}

event: message_delta
data: {"type": "message_delta", "delta": {"stop_reason": "end_turn", "stop_sequence": null}}

event: message_stop
data: {"type": "message_stop"}

Ketika display: "omitted" diatur, blok pemikiran terbuka, satu signature_delta tiba, dan blok ditutup tanpa event thinking_delta apa pun. Streaming teks dimulai segera setelahnya:

event: content_block_start
data: {"type":"content_block_start","index":0,"content_block":{"type":"thinking","thinking":"","signature":""}}

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"signature_delta","signature":"EosnCkYICxIMMb3LzNrMu..."}}

event: content_block_stop
data: {"type":"content_block_stop","index":0}

event: content_block_start
data: {"type":"content_block_start","index":1,"content_block":{"type":"text","text":""}}



Pemikiran diperpanjang dengan penggunaan alat

Pemikiran diperpanjang dapat digunakan bersama dengan penggunaan alat, memungkinkan Claude untuk bernalar melalui pemilihan alat dan pemrosesan hasil.

Saat menggunakan pemikiran diperpanjang dengan penggunaan alat, perhatikan batasan berikut:

1. Batasan pilihan alat: Penggunaan alat dengan pemikiran hanya mendukung tool_choice: {"type": "auto"} (default) atau tool_choice: {"type": "none"}. Menggunakan tool_choice: {"type": "any"} atau tool_choice: {"type": "tool", "name": "..."} akan menghasilkan error karena opsi ini memaksa penggunaan alat, yang tidak kompatibel dengan pemikiran diperpanjang.

2. Mempertahankan blok pemikiran: Selama penggunaan alat, Anda harus meneruskan blok thinking kembali ke API untuk pesan asisten terakhir. Sertakan blok lengkap yang tidak dimodifikasi kembali ke API untuk mempertahankan kontinuitas penalaran.



Mengalihkan mode pemikiran dalam percakapan

Anda tidak dapat mengalihkan pemikiran di tengah giliran asisten, termasuk selama loop penggunaan alat. Seluruh giliran asisten harus beroperasi dalam satu mode pemikiran:

• Jika pemikiran diaktifkan, giliran asisten terakhir harus dimulai dengan blok pemikiran.
• Jika pemikiran dinonaktifkan, giliran asisten terakhir tidak boleh berisi blok pemikiran apa pun

Dari perspektif model, loop penggunaan alat adalah bagian dari giliran asisten. Giliran asisten tidak selesai sampai Claude menyelesaikan respons penuhnya, yang mungkin mencakup beberapa panggilan alat dan hasil.

Misalnya, urutan ini semuanya merupakan bagian dari satu giliran asisten:

User: "What's the weather in Paris?"
Assistant: [thinking] + [tool_use: get_weather]
User: [tool_result: "20°C, sunny"]
Assistant: [text: "The weather in Paris is 20°C and sunny"]

Meskipun ada beberapa pesan API, loop penggunaan alat secara konseptual merupakan bagian dari satu respons asisten yang berkelanjutan.



Degradasi pemikiran yang mulus

Ketika konflik pemikiran di tengah giliran terjadi (seperti mengaktifkan atau menonaktifkan pemikiran selama loop penggunaan alat), API secara otomatis menonaktifkan pemikiran untuk permintaan tersebut. Untuk menjaga kualitas model dan tetap sesuai distribusi, API dapat:

• Menghapus blok pemikiran dari percakapan ketika blok tersebut akan menciptakan struktur giliran yang tidak valid
• Menonaktifkan pemikiran untuk permintaan saat ini ketika riwayat percakapan tidak kompatibel dengan pemikiran yang diaktifkan

Ini berarti bahwa mencoba mengalihkan pemikiran di tengah giliran tidak akan menyebabkan error, tetapi pemikiran akan dinonaktifkan secara diam-diam untuk permintaan tersebut. Untuk mengonfirmasi apakah pemikiran aktif, periksa keberadaan blok thinking dalam respons.



Panduan praktis

Praktik terbaik: Rencanakan strategi pemikiran Anda di awal setiap giliran daripada mencoba mengalihkan di tengah giliran.

Contoh: Mengalihkan pemikiran setelah menyelesaikan giliran

User: "What's the weather?"
Assistant: [tool_use] (thinking disabled)
User: [tool_result]
Assistant: [text: "It's sunny"]
User: "What about tomorrow?"
Assistant: [thinking] + [text: "..."] (thinking enabled - new turn)

Dengan menyelesaikan giliran asisten sebelum mengalihkan pemikiran, Anda memastikan bahwa pemikiran benar-benar diaktifkan untuk permintaan baru.



Mempertahankan blok pemikiran

Selama penggunaan alat, Anda harus meneruskan blok thinking kembali ke API, dan Anda harus menyertakan blok lengkap yang tidak dimodifikasi kembali ke API. Ini sangat penting untuk mempertahankan alur penalaran model dan integritas percakapan.

Ketika Claude memanggil alat, ia menjeda konstruksi responsnya untuk menunggu informasi eksternal. Ketika hasil alat dikembalikan, Claude melanjutkan membangun respons yang sudah ada tersebut. Ini mengharuskan mempertahankan blok pemikiran selama penggunaan alat, karena beberapa alasan:

1. Kontinuitas penalaran: Blok pemikiran menangkap penalaran langkah demi langkah Claude yang mengarah ke permintaan alat. Ketika Anda mengirimkan hasil alat, menyertakan pemikiran asli memastikan Claude dapat melanjutkan penalarannya dari tempat ia berhenti.

2. Pemeliharaan konteks: Meskipun hasil alat muncul sebagai pesan pengguna dalam struktur API, hasil tersebut merupakan bagian dari alur penalaran yang berkelanjutan. Mempertahankan blok pemikiran menjaga alur konseptual ini di seluruh beberapa panggilan API. Untuk informasi lebih lanjut tentang manajemen konteks, lihat panduan tentang jendela konteks.

Penting: Saat menyediakan blok thinking, seluruh urutan blok thinking yang berurutan harus cocok dengan output yang dihasilkan oleh model selama permintaan asli; Anda tidak dapat mengatur ulang atau memodifikasi urutan blok-blok ini.



Pemikiran berselang

Pemikiran diperpanjang dengan penggunaan alat pada model Claude 4 mendukung "interleaved thinking" (pemikiran berselang), yang memungkinkan Claude untuk berpikir di antara panggilan alat dan membuat penalaran yang lebih canggih setelah menerima hasil alat.

Dengan pemikiran berselang, Claude dapat:

• Bernalar tentang hasil panggilan alat sebelum memutuskan apa yang harus dilakukan selanjutnya
• Merangkai beberapa panggilan alat dengan langkah-langkah penalaran di antaranya
• Membuat keputusan yang lebih bernuansa berdasarkan hasil antara

Cara Anda mengaktifkan pemikiran berselang bergantung pada model:

Model Claude 4 sebelumnya di sini berarti Claude Sonnet 4.5, Claude Opus 4.1 (tidak digunakan lagi), Claude Opus 4 (dihentikan, kecuali di Google Cloud), dan Claude Sonnet 4 (dihentikan, kecuali di Bedrock dan Google Cloud).

Berikut adalah beberapa pertimbangan penting untuk pemikiran berselang:

• Dengan pemikiran berselang, budget_tokens dapat melebihi parameter max_tokens, karena mewakili total anggaran di seluruh blok pemikiran dalam satu giliran asisten.
• Pemikiran berselang hanya didukung untuk alat yang digunakan melalui Messages API.
• Claude API dan Claude Platform di AWS menerima interleaved-thinking-2025-05-14 dalam permintaan ke model apa pun tanpa mengembalikan error. Pada model yang tidak mendukung pemikiran berselang, header diabaikan. Pada Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6, dan Claude Sonnet 5, header tersebut tidak digunakan lagi dan diabaikan dengan aman. Pada Claude Mythos Preview, header tersebut tidak diperlukan dan diabaikan dengan aman.
• Pada platform yang dioperasikan mitra (misalnya, Amazon Bedrock dan Google Cloud), jika Anda meneruskan interleaved-thinking-2025-05-14 ke model apa pun selain Claude Opus 4.8, Claude Opus 4.7, Claude Sonnet 5, Claude Opus 4.6, Claude Sonnet 4.6, Claude Opus 4.5, Claude Opus 4.1 (tidak digunakan lagi), Opus 4 (dihentikan, kecuali di Google Cloud), Sonnet 4.5, atau Sonnet 4 (dihentikan, kecuali di Bedrock dan Google Cloud), permintaan Anda akan gagal.



Pemikiran diperpanjang dengan caching prompt

Caching prompt dengan pemikiran memiliki beberapa pertimbangan penting:

Penghapusan konteks blok pemikiran

• Pada model Opus/Sonnet sebelumnya dan semua model Haiku, blok pemikiran dari giliran sebelumnya dihapus dari konteks, yang dapat memengaruhi breakpoint cache. Pada Opus 4.5+ dan Sonnet 4.6+, blok tersebut disimpan secara default.
• Saat melanjutkan percakapan dengan penggunaan alat, blok pemikiran di-cache dan dihitung sebagai token input saat dibaca dari cache
• Ini menciptakan trade-off: meskipun blok pemikiran tidak mengonsumsi ruang jendela konteks secara visual, blok tersebut tetap dihitung terhadap penggunaan token input Anda saat di-cache
• Jika pemikiran menjadi dinonaktifkan dan Anda meneruskan konten pemikiran dalam giliran penggunaan alat saat ini, konten pemikiran akan dihapus dan pemikiran akan tetap dinonaktifkan untuk permintaan tersebut

Pola pembatalan cache

• Perubahan pada parameter pemikiran (diaktifkan/dinonaktifkan atau alokasi anggaran) membatalkan breakpoint cache pesan
• Pemikiran berselang memperkuat pembatalan cache, karena blok pemikiran dapat terjadi di antara beberapa panggilan alat
• Prompt sistem dan alat tetap di-cache meskipun ada perubahan parameter pemikiran atau penghapusan blok



Memahami perilaku caching blok pemikiran

Saat menggunakan pemikiran diperpanjang dengan penggunaan alat, blok pemikiran menunjukkan perilaku caching spesifik yang memengaruhi penghitungan token:

Cara kerjanya:

1. Caching hanya terjadi ketika Anda membuat permintaan berikutnya yang menyertakan hasil alat
2. Ketika permintaan berikutnya dibuat, riwayat percakapan sebelumnya (termasuk blok pemikiran) dapat di-cache
3. Blok pemikiran yang di-cache ini dihitung sebagai token input dalam metrik penggunaan Anda saat dibaca dari cache
4. Ketika blok pengguna non-hasil-alat disertakan: pada Opus 4.5+ dan Sonnet 4.6+, blok pemikiran sebelumnya disimpan; pada model Opus/Sonnet sebelumnya dan semua model Haiku, semua blok pemikiran sebelumnya diabaikan dan dihapus dari konteks

Alur contoh terperinci:

Permintaan 1:

User: "What's the weather in Paris?"

Respons 1:

[thinking_block_1] + [tool_use block 1]

Permintaan 2:

User: ["What's the weather in Paris?"],
Assistant: [thinking_block_1] + [tool_use block 1],
User: [tool_result_1, cache=True]

Respons 2:

[thinking_block_2] + [text block 2]

Permintaan 2 menulis cache dari konten permintaan (bukan respons). Cache mencakup pesan pengguna asli, blok pemikiran pertama, blok penggunaan alat, dan hasil alat.

Permintaan 3:

User: ["What's the weather in Paris?"],
Assistant: [thinking_block_1] + [tool_use block 1],
User: [tool_result_1, cache=True],
Assistant: [thinking_block_2] + [text block 2],
User: [Text response, cache=True]

Untuk Opus 4.5+ dan Sonnet 4.6+, semua blok pemikiran sebelumnya disimpan secara default. Untuk model Opus/Sonnet sebelumnya dan semua model Haiku, karena blok pengguna non-hasil-alat disertakan, semua blok pemikiran sebelumnya diabaikan dan dihapus dari konteks. Permintaan ini akan diproses sama seperti:

User: ["What's the weather in Paris?"],
Assistant: [tool_use block 1],
User: [tool_result_1, cache=True],
Assistant: [text block 2],
User: [Text response, cache=True]

Poin-poin penting:

• Perilaku caching ini terjadi secara otomatis, bahkan tanpa penanda cache_control eksplisit
• Perilaku ini konsisten baik menggunakan pemikiran reguler maupun pemikiran berselang



Max tokens dan ukuran jendela konteks dengan pemikiran diperpanjang

max_tokens (yang mencakup anggaran pemikiran Anda saat pemikiran diaktifkan) diberlakukan sebagai batas ketat. Pada model Claude 4.5 dan yang lebih baru, jika token input ditambah max_tokens melebihi ukuran jendela konteks, API menerima permintaan tersebut. Jika generasi kemudian mencapai batas jendela konteks, generasi berhenti dengan stop_reason: "model_context_window_exceeded". Pada model sebelumnya, API mengembalikan error validasi sebagai gantinya. Lihat Menangani stop reason.



Jendela konteks dengan pemikiran diperpanjang

Saat menghitung penggunaan jendela konteks dengan pemikiran diaktifkan, ada beberapa pertimbangan yang perlu diperhatikan:

• Pada Opus 4.5+ dan Sonnet 4.6+, blok pemikiran dari giliran sebelumnya disimpan dan dihitung terhadap jendela konteks Anda; pada model Opus/Sonnet sebelumnya dan semua model Haiku, blok tersebut dihapus dan tidak dihitung
• Pemikiran giliran saat ini dihitung terhadap batas max_tokens Anda untuk giliran tersebut

Diagram di bawah ini menunjukkan manajemen token khusus saat pemikiran diperpanjang diaktifkan:

Jendela konteks efektif dihitung sebagai:

context window =
  (current input tokens - previous thinking tokens) +
  (thinking tokens + encrypted thinking tokens + text output tokens)

Gunakan API penghitungan token untuk mendapatkan jumlah token yang akurat untuk kasus penggunaan spesifik Anda, terutama saat bekerja dengan percakapan multi-giliran yang mencakup pemikiran.



Jendela konteks dengan pemikiran diperpanjang dan penggunaan alat

Saat menggunakan pemikiran diperpanjang dengan penggunaan alat, blok pemikiran harus secara eksplisit dipertahankan dan dikembalikan dengan hasil alat.

Perhitungan jendela konteks efektif untuk pemikiran diperpanjang dengan penggunaan alat menjadi:

context window =
  (current input tokens + previous thinking tokens + tool use tokens) +
  (thinking tokens + encrypted thinking tokens + text output tokens)

Diagram di bawah ini mengilustrasikan manajemen token untuk pemikiran diperpanjang dengan penggunaan alat:



Mengelola token dengan pemikiran diperpanjang

Mengingat perilaku jendela konteks dan max_tokens dengan pemikiran diperpanjang, Anda mungkin perlu:

• Lebih aktif memantau dan mengelola penggunaan token Anda
• Menyesuaikan nilai max_tokens saat panjang prompt Anda berubah
• Berpotensi menggunakan endpoint penghitungan token lebih sering
• Menyadari bahwa blok pemikiran sebelumnya tidak terakumulasi dalam jendela konteks Anda



Enkripsi pemikiran

Konten pemikiran lengkap dienkripsi dan dikembalikan dalam field signature. Field ini digunakan untuk memverifikasi bahwa blok pemikiran dihasilkan oleh Claude ketika dikirim kembali ke API.

Berikut adalah beberapa pertimbangan penting tentang enkripsi pemikiran:

• Saat melakukan streaming respons, signature ditambahkan melalui signature_delta di dalam event content_block_delta tepat sebelum event content_block_stop.
• Nilai signature secara signifikan lebih panjang pada model Claude 4 dibandingkan model sebelumnya.
• Field signature adalah field opaque dan tidak boleh diinterpretasikan atau di-parse.
• Nilai signature kompatibel di berbagai platform (Claude API, Amazon Bedrock, dan Google Cloud). Nilai yang dihasilkan di satu platform akan kompatibel dengan platform lainnya.



Blok pemikiran yang disunting

Selain blok thinking reguler, API dapat mengembalikan blok redacted_thinking. Blok redacted_thinking berisi konten pemikiran terenkripsi dalam field data, tanpa ringkasan yang dapat dibaca:

{
  "type": "redacted_thinking",
  "data": "..."
}

Field data bersifat opaque dan terenkripsi. Seperti field signature pada blok pemikiran reguler, Anda harus meneruskan blok redacted_thinking kembali ke API tanpa perubahan saat melanjutkan percakapan multi-giliran dengan alat.



Perbedaan pemikiran di seluruh versi model

Messages API menangani pemikiran secara berbeda di seluruh versi model Claude. Tabel berikut memberikan perbandingan ringkas:

¹ Atur display: "summarized" untuk menerima pemikiran yang diringkas. Pada Claude Fable 5, Claude Mythos 5, dan Claude Mythos Preview, token pemikiran mentah tidak pernah dikembalikan.
² Dengan pemikiran adaptif. Header beta interleaved-thinking-2025-05-14 tidak diperlukan pada model-model ini dan diabaikan dengan aman jika disertakan.
³ Blok dihapus saat melanjutkan percakapan pada model yang tidak mendukung format pemikiran Mythos.



Preservasi blok pemikiran berdasarkan model

Apakah blok pemikiran dari giliran asisten sebelumnya dipertahankan dalam konteks secara default bergantung pada kelas model. Opus: Claude Opus 4.5 dan model Opus yang lebih baru menyimpan semua blok pemikiran sebelumnya; Claude Opus 4.1 (tidak digunakan lagi) dan model Opus sebelumnya hanya menyimpan pemikiran giliran asisten terakhir. Sonnet: Claude Sonnet 4.6 dan model Sonnet yang lebih baru menyimpan semua; Claude Sonnet 4.5 dan model Sonnet sebelumnya hanya menyimpan giliran terakhir. Haiku: semua model Haiku hingga Claude Haiku 4.5 hanya menyimpan giliran terakhir. Claude Mythos Preview juga menyimpan semua blok pemikiran sebelumnya.

Manfaat preservasi blok pemikiran:

• Optimasi cache: Saat menggunakan penggunaan alat, blok pemikiran yang dipertahankan memungkinkan cache hit karena blok tersebut diteruskan kembali dengan hasil alat dan di-cache secara bertahap di seluruh giliran asisten, menghasilkan penghematan token dalam alur kerja multi-langkah
• Tidak ada dampak kecerdasan: Mempertahankan blok pemikiran tidak memiliki efek negatif pada kinerja model

Pertimbangan penting:

• Penggunaan konteks: Percakapan panjang akan mengonsumsi lebih banyak ruang konteks karena blok pemikiran dipertahankan dalam konteks
• Perilaku otomatis: Ini adalah default untuk setiap model seperti yang tercantum di atas. Tidak diperlukan perubahan kode atau header beta
• Kompatibilitas mundur: Untuk memanfaatkan fitur ini, terus teruskan blok pemikiran yang lengkap dan tidak dimodifikasi kembali ke API seperti yang Anda lakukan untuk penggunaan alat



Harga

Untuk informasi harga lengkap termasuk tarif dasar, penulisan cache, cache hit, dan token output, lihat halaman harga.

Proses pemikiran dikenakan biaya untuk:

• Token yang digunakan selama pemikiran (token output)
• Blok pemikiran dari giliran asisten sebelumnya yang disimpan dalam konteks: hanya giliran terakhir pada model Opus/Sonnet yang lebih lama dan semua model Haiku; semua giliran secara default pada Opus 4.5+ dan Sonnet 4.6+ (token input)
• Token output teks standar

Saat menggunakan pemikiran yang diringkas:

• Token input: Token dalam permintaan asli Anda (tidak termasuk token pemikiran dari giliran sebelumnya)
• Token output (ditagih): Token pemikiran asli yang dihasilkan Claude secara internal
• Token output (terlihat): Token pemikiran yang diringkas yang Anda lihat dalam respons
• Tanpa biaya: Token yang digunakan untuk menghasilkan ringkasan

Saat menggunakan display: "omitted":

• Token input: Token dalam permintaan asli Anda (sama seperti yang diringkas)
• Token output (ditagih): Token pemikiran asli yang dihasilkan Claude secara internal (sama seperti yang diringkas)
• Token output (terlihat): Nol token pemikiran (field thinking kosong)

Untuk melihat berapa banyak token output yang ditagih yang digunakan untuk penalaran internal, baca usage.output_tokens_details.thinking_tokens dalam respons. Nilai ini mencerminkan penalaran mentah yang dihasilkan model (bukan teks ringkasan yang dikembalikan dalam body) dan selalu kurang dari atau sama dengan output_tokens. Kurangi nilai ini dari output_tokens untuk memperkirakan bagian output yang bukan penalaran.

{
  "usage": {
    "input_tokens": 25,
    "output_tokens": 348,
    "output_tokens_details": {
      "thinking_tokens": 312
    }
  }
}

output_tokens tetap menjadi total inklusif dan otoritatif yang digunakan untuk penagihan. output_tokens_details adalah rincian read-only untuk keperluan observabilitas.



Praktik terbaik dan pertimbangan untuk pemikiran diperpanjang



Bekerja dengan anggaran pemikiran

• Optimasi anggaran: Anggaran minimum adalah 1.024 token. Mulailah dari nilai minimum dan tingkatkan anggaran pemikiran secara bertahap untuk menemukan rentang optimal bagi kasus penggunaan Anda. Jumlah token yang lebih tinggi memungkinkan penalaran yang lebih komprehensif, tetapi dengan hasil yang semakin berkurang tergantung pada tugasnya. Meningkatkan anggaran dapat meningkatkan kualitas respons dengan konsekuensi peningkatan latensi. Untuk tugas-tugas kritis, uji berbagai pengaturan untuk menemukan keseimbangan optimal. Perhatikan bahwa anggaran pemikiran adalah target, bukan batas ketat. Penggunaan token aktual dapat bervariasi berdasarkan tugas.
• Titik awal: Mulailah dengan anggaran pemikiran yang lebih besar (16k+ token) untuk tugas-tugas kompleks dan sesuaikan berdasarkan kebutuhan Anda.
• Anggaran besar: Untuk anggaran pemikiran di atas 32k, gunakan batch processing untuk menghindari masalah jaringan. Permintaan yang mendorong model untuk berpikir di atas 32k token menyebabkan permintaan yang berjalan lama yang mungkin terbentur dengan batas waktu sistem dan batas koneksi terbuka.
• Pelacakan penggunaan token: Pantau penggunaan token pemikiran untuk mengoptimalkan biaya dan performa. Field usage.output_tokens_details.thinking_tokens dalam respons melaporkan berapa banyak dari token output yang ditagih merupakan penalaran internal. Saat streaming, rincian ini hanya muncul pada event message_delta terakhir.



Pertimbangan performa

• Waktu respons: Bersiaplah untuk waktu respons yang lebih lama karena pemrosesan tambahan. Menghasilkan blok pemikiran meningkatkan waktu respons secara keseluruhan.
• Persyaratan streaming: SDK mewajibkan streaming ketika max_tokens lebih besar dari 21.333 untuk menghindari timeout HTTP pada permintaan yang berjalan lama. Ini adalah validasi sisi klien, bukan pembatasan API. Jika Anda tidak perlu memproses event secara inkremental, gunakan .stream() dengan .get_final_message() (Python) atau .finalMessage() (TypeScript) untuk mendapatkan objek Message lengkap tanpa menangani event satu per satu. Lihat Streaming Messages untuk detailnya. Saat streaming, bersiaplah untuk menangani blok konten pemikiran dan teks saat keduanya tiba.
• Menghilangkan pemikiran untuk latensi: Jika aplikasi Anda tidak menampilkan konten pemikiran, atur display: "omitted" pada konfigurasi pemikiran untuk mengurangi waktu-ke-token-teks-pertama. Lihat Mengontrol tampilan pemikiran.



Kompatibilitas fitur

• Pemikiran tidak kompatibel dengan modifikasi temperature atau top_k serta penggunaan alat yang dipaksakan.
• Ketika pemikiran diaktifkan, Anda dapat mengatur top_p ke nilai antara 1 dan 0,95.
• Anda tidak dapat melakukan pre-fill respons ketika pemikiran diaktifkan.
• Perubahan pada anggaran pemikiran akan membatalkan prefiks prompt yang di-cache yang menyertakan pesan. Namun, prompt sistem dan definisi alat yang di-cache akan tetap berfungsi ketika parameter pemikiran berubah.



Panduan penggunaan

• Pemilihan tugas: Gunakan pemikiran diperpanjang untuk tugas-tugas yang sangat kompleks yang mendapat manfaat dari penalaran langkah demi langkah, seperti matematika, pemrograman, dan analisis.
• Penanganan konteks: Anda tidak perlu menghapus blok pemikiran sebelumnya sendiri. Pada Opus 4.5+ dan Sonnet 4.6+, API Claude menyimpan blok pemikiran dari giliran sebelumnya secara default; pada model Opus/Sonnet yang lebih lama dan semua model Haiku, API secara otomatis mengabaikannya dan blok tersebut tidak disertakan saat menghitung penggunaan konteks.
• Rekayasa prompt: Tinjau tips prompting pemikiran diperpanjang jika Anda ingin memaksimalkan kemampuan pemikiran Claude.



Langkah selanjutnya