Middleware SDK

SDK Anthropic menyediakan hook "middleware" (perantara), atau interceptor, yang memungkinkan Anda menjalankan kode sebelum permintaan dikirim dan setelah respons diterima. Gunakan middleware untuk kebutuhan lintas-fungsi seperti logging, percobaan ulang kustom, anotasi permintaan, dan penanganan fallback penolakan.

Setiap middleware dapat memeriksa atau mengganti permintaan sebelum memanggil next(), dan respons setelah next() kembali.

Mendaftarkan middleware

Setiap middleware adalah fungsi yang menerima permintaan keluar dan sebuah callable next. Panggil next untuk meneruskan permintaan ke sisa rantai (atau langsung ke inti SDK jika ini adalah middleware terakhir), dan kembalikan responsnya. Apa pun sebelum pemanggilan next dijalankan saat permintaan keluar; apa pun setelahnya dijalankan saat respons kembali.

def logging_middleware(request: APIRequest, call_next: CallNext) -> APIResponse[Any]:
    # Sebelum permintaan
    print(f"-> {request.method} {request.url}")

    # Teruskan permintaan ke sisa rantai
    response = call_next(request)

    # Setelah permintaan
    print(f"<- {response.status_code}")

    return response


client = Anthropic(middleware=[logging_middleware])

Urutan middleware

Ketika Anda mendaftarkan beberapa middleware, middleware tersebut diterapkan sesuai urutan yang diberikan: kode "sebelum" dari middleware pertama dijalankan paling awal, dan kode "setelah"-nya dijalankan paling akhir. Middleware yang didaftarkan pada klien dijalankan sebelum middleware yang diteruskan sebagai opsi per permintaan.

Di SDK Go, pemanggilan option.WithMiddleware yang berulang akan digabungkan (klien terlebih dahulu, lalu metode). Di SDK lainnya, teruskan sebuah array; entri yang lebih akhir membungkus bagian dalam.

Mengganti klien HTTP

Setiap SDK juga menerima klien HTTP kustom (untuk konfigurasi proxy, TLS kustom, atau connection pooling). Hanya satu klien HTTP yang digunakan per klien SDK; mengaturnya akan menggantikan klien default. Klien HTTP kustom menerima permintaan setelah semua middleware dijalankan.

Middleware bawaan

SDK menyertakan middleware refusal-fallback yang secara otomatis mencoba ulang permintaan yang ditolak oleh Claude Fable 5 pada model fallback. Lihat Mendeteksi dan mencoba ulang pada model fallback untuk penyiapan dan contoh per bahasa.