「上下文視窗」是指語言模型在生成新文本時可以回顧和參考的文本總量,加上它生成的新文本。這與語言模型訓練時使用的大型數據語料庫不同,而是代表模型的「工作記憶」。較大的上下文視窗允許模型理解和回應更複雜和冗長的提示,而較小的上下文視窗可能會限制模型處理較長提示或在延長對話中保持連貫性的能力。
下圖說明了 API 請求的標準上下文視窗行為1:
1對於聊天介面,例如 claude.ai,上下文視窗也可以設置為滾動的「先進先出」系統。
當使用擴展思考時,所有輸入和輸出 token,包括用於思考的 token,都會計入上下文視窗限制,在多回合情況下有一些細微差別。
思考預算 token 是您 max_tokens 參數的子集,按輸出 token 計費,並計入速率限制。
然而,先前的思考區塊會自動從 Claude API 的上下文視窗計算中剝離,不是模型在後續回合中「看到」的對話歷史的一部分,為實際對話內容保留 token 容量。
下圖展示了啟用擴展思考時的專門 token 管理:
context_window = (input_tokens - previous_thinking_tokens) + current_turn_tokens。thinking 區塊和 redacted_thinking 區塊。這種架構具有 token 效率,允許廣泛推理而不浪費 token,因為思考區塊可能相當長。
您可以在我們的擴展思考指南中閱讀更多關於上下文視窗和擴展思考的內容。
下圖說明了結合擴展思考和工具使用時的上下文視窗 token 管理:
第一回合架構
工具結果處理(第 2 回合)
tool_result。擴展思考區塊必須與相應的工具結果一起返回。這是您必須返回思考區塊的唯一情況。user 訊息之前沒有額外的擴展思考)。第三步
User 回合的地方。User 回合,Claude 將生成新的擴展思考區塊並從那裡繼續。Assistant 回合中的思考區塊計為上下文視窗的一部分。context_window = input_tokens + current_turn_tokens。Claude Sonnet 4 和 4.5 支援 100 萬 token 上下文視窗。這個擴展的上下文視窗允許您處理更大的文檔、維持更長的對話,並處理更廣泛的程式碼庫。
100 萬 token 上下文視窗目前對使用層級 4 的組織和具有自定義速率限制的組織處於測試階段。100 萬 token 上下文視窗僅適用於 Claude Sonnet 4 和 Sonnet 4.5。
要使用 100 萬 token 上下文視窗,請在您的 API 請求中包含 context-1m-2025-08-07 測試標頭:
from anthropic import Anthropic
client = Anthropic()
response = client.beta.messages.create(
model="claude-sonnet-4-5",
max_tokens=1024,
messages=[
{"role": "user", "content": "處理這個大型文檔..."}
],
betas=["context-1m-2025-08-07"]
)重要考慮事項:
Claude Sonnet 4.5 和 Claude Haiku 4.5 具有上下文感知功能,使這些模型能夠在對話過程中追蹤其剩餘的上下文視窗(即「token 預算」)。這使 Claude 能夠通過了解它有多少工作空間來更有效地執行任務和管理上下文。Claude 經過原生訓練,能夠精確使用此上下文持續執行任務直到最後,而不必猜測剩餘多少 token。對於模型來說,缺乏上下文感知就像在沒有時鐘的烹飪節目中競爭。Claude 4.5 模型通過明確告知模型其剩餘上下文來改變這一點,因此它可以最大限度地利用可用的 token。
運作方式:
在對話開始時,Claude 會收到關於其總上下文視窗的資訊:
<budget:token_budget>200000</budget:token_budget>預算設置為 200K token(標準)、500K token(Claude.ai Enterprise)或 100 萬 token(測試版,適用於符合條件的組織)。
每次工具調用後,Claude 會收到剩餘容量的更新:
<system_warning>Token 使用量:35000/200000;剩餘 165000</system_warning>這種感知幫助 Claude 確定還有多少容量可用於工作,並能夠更有效地執行長期運行的任務。圖像 token 包含在這些預算中。
好處:
上下文感知對以下情況特別有價值:
有關利用上下文感知的提示指導,請參閱我們的 Claude 4 最佳實踐指南。
在較新的 Claude 模型中(從 Claude Sonnet 3.7 開始),如果提示 token 和輸出 token 的總和超過模型的上下文視窗,系統將返回驗證錯誤,而不是靜默截斷上下文。這種變化提供了更可預測的行為,但需要更仔細的 token 管理。
要規劃您的 token 使用並確保您保持在上下文視窗限制內,您可以使用 token 計數 API 在將訊息發送給 Claude 之前估計您的訊息將使用多少 token。
請參閱我們的模型比較表格,了解按模型列出的上下文視窗大小清單。