服務層級

Anthropic 提供三種服務層級：

• Priority Tier： 僅適用於擁有現有容量承諾的組織
• Standard： 適用於試驗和擴展日常使用案例的預設層級
• Batch： 最適合可以等待或受益於在您正常容量之外執行的非同步工作流程



Standard 層級

Standard 層級是所有 API 請求的預設服務層級。API 會以盡力而為的可用性，將這些請求與所有其他請求一同排定優先順序。



Priority Tier

API 會優先處理此層級的請求，優先於所有其他請求。這種優先處理有助於將「伺服器過載」錯誤降至最低，即使在尖峰時段也是如此。

如需更多資訊，請參閱現有的 Priority Tier 承諾。



請求如何被指派層級

在處理請求時，Anthropic 會在以下情境中決定將請求指派至 Priority Tier：

• 您的組織擁有足夠的 Priority Tier 容量每分鐘輸入 token 數
• 您的組織擁有足夠的 Priority Tier 容量每分鐘輸出 token 數

Anthropic 按照以下方式計算 Priority Tier 容量的使用量：

輸入 token

• 快取讀取：從快取讀取的每個 token 計為 0.1 個 token
• 快取寫入：以 5 分鐘 TTL 寫入快取的每個 token 計為 1.25 個 token
• 快取寫入：以 1 小時 TTL 寫入快取的每個 token 計為 2.00 個 token
• 對於 Claude 4.6 及更新模型上的僅限美國推論（inference_geo: "us"）請求，輸入 token 為每個 token 計 1.1 個 token
• 所有其他輸入 token 為每個 token 計 1 個 token

輸出 token

• 對於 Claude 4.6 及更新模型上的僅限美國推論（inference_geo: "us"）請求，輸出 token 為每個 token 計 1.1 個 token
• 所有其他輸出 token 為每個 token 計 1 個 token

否則，請求將以 Standard 層級進行。



使用服務層級

您可以透過設定 service_tier 參數來控制請求可以使用哪些服務層級：

client = anthropic.Anthropic()

message = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude!"}],
    service_tier="auto",  # Automatically use Priority Tier when available, fallback to standard
)
print(message.usage.service_tier)

service_tier 參數接受以下值：

• "auto"（預設）- 如果有可用的 Priority Tier 容量則使用，否則回退至您的其他容量
• "standard_only" - 僅使用 Standard 層級容量，如果您不想使用 Priority Tier 容量時很有用

回應的 usage 物件也包含指派給該請求的服務層級：

{
  "usage": {
    "input_tokens": 410,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "output_tokens": 585,
    "service_tier": "priority"
  }
}

這讓您可以判斷該請求被指派了哪個服務層級。

當使用具有 Priority Tier 承諾的模型並請求 service_tier="auto" 時，這些回應標頭會提供相關資訊：

anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Z

您可以利用這些標頭的存在來偵測您的請求是否符合 Priority Tier 的資格，即使它已超過限制。



現有的 Priority Tier 承諾

Priority Tier 承諾包含：

• 每分鐘的輸入 token 數量
• 每分鐘的輸出 token 數量
• 承諾期限（1、3、6 或 12 個月）
• 特定的模型版本

Priority Tier 以 99.5% 的正常運作時間為目標，並提供優先的運算資源。超出您承諾容量的請求會自動回退至 Standard 層級。



支援的模型

Priority Tier 支援所有可用的 Claude 模型，但 Claude Mythos 5、Claude Mythos Preview、Claude Opus 5 和 Claude Sonnet 5 除外。

請查看模型總覽以了解更多可用模型的詳細資訊。