Mode cepat
Dapatkan token output per detik hingga 2,5x lebih tinggi dari model Claude yang didukung.
Penggunaan berbeda menurut produk
speed: "fast" pada permintaan.speed pada objek model agen, misalnya {"id": "claude-opus-5-5", "speed": "fast"}.“Fast mode” (mode cepat) menghasilkan token output per detik hingga 2,5x lebih tinggi dengan harga premium. Atur speed: "fast" pada permintaan Anda untuk ikut serta. Mode cepat tersedia di Claude Fable 5.2, Claude Mythos 5.2, dan Claude Opus 5.5. Mode cepat berada dalam pratinjau riset pada Claude Opus 5 dan sudah usang (deprecated) pada Claude Opus 4.8.
Cara kerja mode cepat
Mode cepat menjalankan model yang sama dengan konfigurasi inferensi yang lebih cepat. Tidak ada perubahan pada kecerdasan atau kemampuan.
- Token output per detik hingga 2,5x lebih tinggi dibandingkan dengan kecepatan standar
- Manfaat kecepatan berfokus pada “output tokens per second” (token output per detik), atau OTPS, bukan “time to first token” (waktu hingga token pertama), atau TTFT
- Kompatibel dengan streaming, di mana peningkatan OTPS paling terlihat
Penggunaan dasar
Mode cepat hanya berfungsi pada model yang didukung. Lihat Ketersediaan untuk detailnya, termasuk model mana yang memerlukan header beta.
client = anthropic.Anthropic()
response = client.messages.create(
model="claude-opus-5-5",
max_tokens=4096,
speed="fast",
messages=[
{"role": "user", "content": "Refactor this module to use dependency injection"}
],
)
for block in response.content:
if block.type == "text":
print(block.text)Di Claude di Microsoft Foundry, mode cepat memiliki ID model tersendiri, dan deployment yang menentukan kecepatan. Kirim permintaan mode cepat ke deployment model mode cepat, dan jangan sertakan speed:
| Model | ID model mode cepat |
|---|---|
| Claude Fable 5.2 | claude-fable-5-2-fast |
| Claude Mythos 5.2 | claude-mythos-5-2-fast |
| Claude Opus 5.5 | claude-opus-5-5-fast |
Permintaan yang mengatur speed pada deployment model standar, seperti claude-opus-5-5, akan mengembalikan error.
Batas laju
Mode cepat memiliki “rate limit” (batas laju) khusus yang terpisah dari batas laju standar. Ketika Anda melampaui batas laju mode cepat Anda, API mengembalikan error 429 dengan header retry-after yang menunjukkan kapan kapasitas akan tersedia. Di Claude Models on Google Cloud (Google managed), Google Cloud mengelola batas laju dan kuota.
Claude Fable 5.2, Claude Mythos 5.2, dan Claude Opus 5.5 memiliki batas laju mode cepat default. Batas default tersebut berlaku pada tingkat penggunaan Start, Build, dan Scale. Anda tidak perlu meminta akses mode cepat untuk model-model ini. Organisasi pada tingkat Evaluation dapat menggunakan mode cepat dengan model-model ini setelah mereka pindah ke tingkat Start, Build, atau Scale.
Respons menyertakan header yang menunjukkan status batas laju mode cepat Anda:
| Header | Deskripsi |
|---|---|
anthropic-fast-input-tokens-limit | Maksimum token input mode cepat per menit |
anthropic-fast-input-tokens-remaining | Sisa token input mode cepat |
anthropic-fast-input-tokens-reset | Waktu ketika batas token input mode cepat direset |
anthropic-fast-output-tokens-limit | Maksimum token output mode cepat per menit |
anthropic-fast-output-tokens-remaining | Sisa token output mode cepat |
anthropic-fast-output-tokens-reset | Waktu ketika batas token output mode cepat direset |
Untuk melihat batas laju mode cepat Anda, buka halaman Batas laju di Claude Console.
Memeriksa kecepatan yang digunakan
Objek usage pada respons menyertakan field speed yang menunjukkan kecepatan yang digunakan, yaitu "fast" atau "standard". Meminta speed: "fast" pada model yang tidak mendukung mode cepat akan mengembalikan error, begitu pula jika melampaui batas laju atau kapasitas mode cepat (429 atau 529). Ketika permintaan dengan speed: "fast" berhasil, usage.speed bernilai "fast". Claude Opus 4.6 merupakan pengecualian: alih-alih mengembalikan error, permintaan dengan speed: "fast" dan header beta fast-mode-2026-02-01 berhasil, tetapi berjalan dengan kecepatan standar. Dalam situasi ini, usage.speed menampilkan "standard". Di Claude Models on Google Cloud (Anthropic managed), permintaan Claude Opus 4.6 dengan speed: "fast" mengembalikan error 400 bahkan dengan header tersebut.
client = anthropic.Anthropic()
response = client.messages.create(
model="claude-opus-5-5",
max_tokens=1024,
speed="fast",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.usage.speed) # "fast" or "standard"{
"id": "msg_01XFDUDYJgAACzvnptvVoYEL",
"type": "message",
"role": "assistant",
"usage": {
"input_tokens": 8,
"output_tokens": 12,
"speed": "fast"
}
}Untuk melacak penggunaan dan biaya mode cepat di seluruh organisasi Anda, lihat Usage and Cost Analytics API.
Percobaan ulang dan fallback
Percobaan ulang otomatis
SDK secara otomatis mencoba ulang error 429 mode cepat hingga dua kali secara default (dapat dikonfigurasi dengan max_retries), dengan menunggu jeda yang ditentukan di header retry-after sebelum setiap percobaan ulang. Karena mode cepat menggunakan pengisian ulang token secara berkelanjutan, jeda retry-after biasanya singkat dan permintaan berhasil setelah kapasitas tersedia.
Fallback ke kecepatan standar
Jika Anda lebih suka beralih ke kecepatan standar daripada menunggu kapasitas mode cepat, tangkap error batas laju dan coba ulang tanpa speed: "fast". Di Claude di Microsoft Foundry, deployment yang menentukan kecepatan, jadi coba ulang pada deployment model standar sebagai gantinya. Atur max_retries ke 0 pada permintaan cepat awal untuk melewati percobaan ulang otomatis dan langsung gagal pada error batas laju.
Karena mengatur max_retries ke 0 juga menonaktifkan percobaan ulang untuk error sementara lainnya (overloaded, error server internal), contoh berikut mengirim ulang permintaan setelah error tersebut.
client = anthropic.Anthropic()
def create_message_with_fast_fallback(max_retries=0, max_attempts=3, **params):
try:
return client.with_options(max_retries=max_retries).messages.create(**params)
except anthropic.RateLimitError:
if params.get("speed") == "fast":
del params["speed"]
return create_message_with_fast_fallback(max_retries=max_retries, **params)
raise
except (
anthropic.APIStatusError,
anthropic.APIConnectionError,
) as error:
if isinstance(error, anthropic.APIStatusError) and error.status_code < 500:
raise
if max_attempts > 1:
return create_message_with_fast_fallback(
max_retries=max_retries, max_attempts=max_attempts - 1, **params
)
raise
message = create_message_with_fast_fallback(
model="claude-opus-5-5",
max_tokens=1024,
messages=[{"role": "user", "content": "Hello"}],
speed="fast",
max_retries=0,
)Pertimbangan
- Batch API: Mode cepat tidak tersedia dengan Batch API.
- Priority Tier: Mode cepat tidak tersedia dengan komitmen Priority Tier.
Harga
Harga mode cepat dihitung sebagai pengali dari tarif standar di seluruh “context window” (jendela konteks), termasuk permintaan dengan lebih dari 200k token input. Di Claude Models on Google Cloud (Google managed), Google Cloud menetapkan harga mode cepat. Lihat Harga platform cloud.
| Model | Input | Output |
|---|---|---|
| Claude Fable 5.2 | $16 USD / MTok | $80 USD / MTok |
| Claude Mythos 5.2 | $16 USD / MTok | $80 USD / MTok |
| Claude Opus 5.5 | $8 USD / MTok | $40 USD / MTok |
| Claude Opus 5 / Claude Opus 4.8 | $10 USD / MTok | $50 USD / MTok |
Harga mode cepat digabungkan dengan pengubah harga lainnya:
- Pengali caching prompt berlaku di atas harga mode cepat.
- Pengali residensi data berlaku di atas harga mode cepat.
Untuk detail harga lengkap, lihat halaman Harga.
Ketersediaan
Mode cepat hanya tersedia pada model-model berikut. Jika Anda menggunakan mode cepat pada model sebelumnya, migrasikan ke model yang mendukung mode cepat.
Untuk mengakses mode cepat pada Claude Opus 5, hubungi manajer akun Anda atau bergabunglah dengan daftar tunggu.
Claude API
- API
- Messages API
- Managed AgentsHanya dengan Claude Opus 5.5, Claude Opus 5, Claude Opus 4.8
- Model
- Claude Fable 5.2
- Claude Mythos 5.2
- Claude Opus 5.5
- Claude Opus 5 Pratinjau riset, memerlukan
- Claude Opus 4.8 Tidak digunakan lagi, memerlukan
Tanggal penghapusan: 30 November 2026. Setelah penghapusan, permintaan ke
claude-opus-4-8denganspeed: "fast"akan mengembalikan error. Untuk terus menggunakan mode cepat, migrasikan ke Claude Opus 5.5. Lihat Migrasi ke Claude Opus 5.5 dari Claude Opus 4.8.
Claude Models on Google Cloud (Anthropic managed)
- API
- Messages API
- Managed AgentsHanya dengan Claude Opus 5.5
- Model
- Claude Fable 5.2
- Claude Mythos 5.2
- Claude Opus 5.5
Claude Models on Google Cloud (Google managed)
- API
- Messages API
- Model
- Claude Fable 5.2
- Claude Mythos 5.2
Microsoft Foundry (hosted on Azure)
- API
- Messages API
- Model
- Claude Opus 5.5
- Catatan
Di Microsoft Foundry, mode cepat memiliki ID model tersendiri yang diakhiri dengan
-fast. Kirim permintaan ke deployment model mode cepat, dan jangan sertakanspeed.
Microsoft Foundry (hosted on Anthropic)
- API
- Messages API
- Model
- Claude Fable 5.2
- Claude Mythos 5.2
- Catatan
Di Microsoft Foundry, mode cepat memiliki ID model tersendiri yang diakhiri dengan
-fast. Kirim permintaan ke deployment model mode cepat, dan jangan sertakanspeed.
Penanganan data
Ikhtisar penanganan dataEndpoint yang berlaku
/v1/messagesdenganspeed: "fast"
Tidak termasuk Model yang dicakup
Endpoint Messages API yang sama dengan inferensi lebih cepat. ZDR berlaku terlepas dari pengaturan kecepatan.
Langkah selanjutnya
Dapatkan hasil JSON yang tervalidasi dari alur kerja agen.
Pelajari struktur harga Anthropic untuk model dan fitur.
Kendalikan berapa banyak token yang digunakan Claude saat merespons dengan parameter effort, dengan menyeimbangkan antara kelengkapan respons dan efisiensi token.
Streaming respons Messages API secara bertahap dengan server-sent events, termasuk delta teks, penggunaan alat, dan pemikiran diperpanjang.
Apakah halaman ini membantu?