Mode cepat (pratinjau penelitian)

Mode cepat menyediakan pembuatan token output yang jauh lebih cepat untuk Claude Opus 4.6. Dengan mengatur speed: "fast" dalam permintaan API Anda, Anda mendapatkan hingga 2,5x token output per detik yang lebih tinggi dari model yang sama dengan harga premium.

Model yang didukung

Mode cepat didukung pada model berikut:

• Claude Opus 4.6 (claude-opus-4-6)

Cara kerja mode cepat

Mode cepat menjalankan model yang sama dengan konfigurasi inferensi yang lebih cepat. Tidak ada perubahan pada kecerdasan atau kemampuan.

• Hingga 2,5x token output per detik yang lebih tinggi dibandingkan dengan kecepatan standar
• Manfaat kecepatan berfokus pada token output per detik (OTPS), bukan waktu ke token pertama (TTFT)
• Bobot model dan perilaku yang sama (bukan model yang berbeda)

Penggunaan dasar

curl https://api.anthropic.com/v1/messages \
    --header "x-api-key: $ANTHROPIC_API_KEY" \
    --header "anthropic-version: 2023-06-01" \
    --header "anthropic-beta: fast-mode-2026-02-01" \
    --header "content-type: application/json" \
    --data '{
        "model": "claude-opus-4-6",
        "max_tokens": 4096,
        "speed": "fast",
        "messages": [{
            "role": "user",
            "content": "Refactor this module to use dependency injection"
        }]
    }'

Harga

Mode cepat dihargai pada 6x tarif Opus standar untuk prompt ≤200K token, dan 12x tarif Opus standar untuk prompt > 200K token. Tabel berikut menunjukkan harga untuk Claude Opus 4.6 dengan mode cepat:

Harga mode cepat ditumpuk dengan pengubah harga lainnya:

• Pengganda prompt caching berlaku di atas harga mode cepat
• Residensi data pengganda berlaku di atas harga mode cepat

Untuk detail harga lengkap, lihat halaman harga.

Batas laju

Mode cepat memiliki batas laju khusus yang terpisah dari batas laju Opus standar. Tidak seperti kecepatan standar, yang memiliki batas terpisah untuk ≤200K dan >200K token input, mode cepat menggunakan batas laju tunggal yang mencakup rentang konteks penuh. Ketika batas laju mode cepat Anda terlampaui, API mengembalikan kesalahan 429 dengan header retry-after yang menunjukkan kapan kapasitas akan tersedia.

Respons mencakup header yang menunjukkan status batas laju mode cepat Anda:

Untuk batas laju khusus tingkat, lihat halaman batas laju.

Memeriksa kecepatan mana yang digunakan

Objek usage respons mencakup bidang speed yang menunjukkan kecepatan mana yang digunakan, baik "fast" atau "standard":

curl https://api.anthropic.com/v1/messages \
    --header "x-api-key: $ANTHROPIC_API_KEY" \
    --header "anthropic-version: 2023-06-01" \
    --header "anthropic-beta: fast-mode-2026-02-01" \
    --header "content-type: application/json" \
    --data '{
        "model": "claude-opus-4-6",
        "max_tokens": 1024,
        "speed": "fast",
        "messages": [{"role": "user", "content": "Hello"}]
    }'

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
  ...
  "usage": {
    "input_tokens": 523,
    "output_tokens": 1842,
    "speed": "fast"
  }
}

Untuk melacak penggunaan mode cepat dan biaya di seluruh organisasi Anda, lihat API Penggunaan dan Biaya.

Percobaan ulang dan fallback

Percobaan ulang otomatis

Ketika batas laju mode cepat terlampaui, API mengembalikan kesalahan 429 dengan header retry-after. SDK Anthropic secara otomatis mencoba ulang permintaan ini hingga 2 kali secara default (dapat dikonfigurasi melalui max_retries), menunggu penundaan yang ditentukan server sebelum setiap percobaan ulang. Karena mode cepat menggunakan pengisian ulang token berkelanjutan, penundaan retry-after biasanya singkat dan permintaan berhasil setelah kapasitas tersedia.

Jatuh kembali ke kecepatan standar

Jika Anda lebih suka jatuh kembali ke kecepatan standar daripada menunggu kapasitas mode cepat, tangkap kesalahan batas laju dan coba ulang tanpa speed: "fast". Atur max_retries ke 0 pada permintaan cepat awal untuk melewati percobaan ulang otomatis dan gagal segera pada kesalahan batas laju.

Karena mengatur max_retries ke 0 juga menonaktifkan percobaan ulang untuk kesalahan transien lainnya (kelebihan beban, kesalahan server internal), contoh di bawah mengeluarkan kembali permintaan asli dengan percobaan ulang default untuk kasus-kasus tersebut.

import anthropic

client = anthropic.Anthropic()


def create_message_with_fast_fallback(max_retries=None, max_attempts=3, **params):
    try:
        return client.beta.messages.create(**params, max_retries=max_retries)
    except anthropic.RateLimitError:
        if params.get("speed") == "fast":
            del params["speed"]
            return create_message_with_fast_fallback(**params)
        raise
    except (
        anthropic.InternalServerError,
        anthropic.OverloadedError,
        anthropic.APIConnectionError,
    ):
        if max_attempts > 1:
            return create_message_with_fast_fallback(
                max_attempts=max_attempts - 1, **params
            )
        raise


message = create_message_with_fast_fallback(
    model="claude-opus-4-6",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello"}],
    betas=["fast-mode-2026-02-01"],
    speed="fast",
    max_retries=0,
)

Pertimbangan

• Prompt caching: Beralih antara kecepatan cepat dan standar membatalkan cache prompt. Permintaan pada kecepatan berbeda tidak berbagi awalan yang di-cache.
• Model yang didukung: Mode cepat saat ini didukung hanya pada Opus 4.6. Mengirim speed: "fast" dengan model yang tidak didukung mengembalikan kesalahan.
• TTFT: Manfaat mode cepat berfokus pada token output per detik (OTPS), bukan waktu ke token pertama (TTFT).
• Batch API: Mode cepat tidak tersedia dengan Batch API.
• Priority Tier: Mode cepat tidak tersedia dengan Priority Tier.

Langkah berikutnya