AdminHook inferensi

Inference hooks

Copy page



Kirim setiap prompt yang diatur ke server keamanan AI organisasi Anda untuk mendapatkan putusan izinkan atau tolak sebelum inferensi dilanjutkan.

Inference hooks memungkinkan organisasi Claude Enterprise merutekan setiap prompt yang diatur melalui "AI security server" (server keamanan AI) sebelum inferensi berjalan. Server ini adalah layanan HTTPS yang dioperasikan oleh organisasi atau vendor keamanannya. Saat pengguna mengirimkan prompt, Anthropic mengirimkan transkrip percakapan ke server keamanan AI Anda dan menunggu putusan izinkan atau tolak. Permintaan yang ditolak tidak akan pernah sampai ke model. Tim keamanan dan kepatuhan menggunakan Inference hooks untuk menegakkan kebijakan data secara langsung (inline), sementara developer membangun server keamanan AI yang mengevaluasi setiap permintaan.

Hook berjalan di server Anthropic, yaitu setelah permintaan meninggalkan klien dan sebelum model berjalan. Karena itu, hook berlaku secara seragam untuk setiap permintaan yang diatur, tanpa perlu memasang atau men-deploy apa pun di perangkat pengguna.

Saat ini, satu-satunya event hook adalah prompt. Event ini dipicu satu kali per permintaan inferensi yang diatur, sebelum inferensi dimulai. Penegakan di sisi respons direncanakan sebagai event di kemudian hari.

---

Cara kerja Inference hooks

1. Pengguna mengirimkan prompt pada permukaan yang diatur.

2. Anthropic mengirimkan HTTPS POST ke endpoint server keamanan AI yang dikonfigurasi organisasi Anda. Body permintaan berisi transkrip percakapan. Setelah organisasi Anda membuat signing secret, setiap permintaan ditandatangani sesuai spesifikasi Standard Webhooks, sehingga server Anda dapat memverifikasi bahwa permintaan tersebut berasal dari Anthropic.

3. Server keamanan AI Anda mengevaluasi konten dan merespons dengan putusan dalam batas waktu putusan yang dikonfigurasi organisasi Anda (default 5 detik).

4. Jika putusannya allow, inferensi berjalan seperti biasa. Jika putusannya deny, permintaan ditolak dan pengguna melihat pesan diblokir-oleh-kebijakan yang tersusun dari dua bagian:

   • alasan per permintaan yang diberikan server keamanan AI Anda di field deny_reason pada putusan;
   • pesan tetap yang dikonfigurasi administrator Anda (misalnya, siapa yang harus dihubungi atau di mana mengajukan pengecualian). Jika administrator belum mengonfigurasinya, pesan default bawaan akan mengarahkan pengguna untuk menghubungi mereka.

   Setiap penolakan juga dicatat di Activity Feed organisasi Anda.

Diagram berikut menelusuri satu contoh, yaitu permintaan Cowork di mana Claude juga memanggil alat O365, untuk menunjukkan bagian alur mana yang di-hook. Titik yang di-hook adalah langkah 1 dan 6 pada diagram, yaitu saat prompt tiba dan saat hasil alat kembali. Masing-masing memicu pertukaran validasi dengan server keamanan AI Anda, seperti yang ditunjukkan pada langkah 2–3 dan 7–8.

Putusan berupa objek JSON kecil. {"action": "allow"} mengizinkan permintaan dilanjutkan, sedangkan putusan tolak menyertakan alasan yang ditampilkan kepada pengguna. Untuk skema putusan lengkap, lihat Mengembalikan putusan.

Server keamanan AI Anda melihat apa yang dilihat pengguna: teks transkrip, panggilan alat beserta hasilnya, dan teks yang diekstrak dari lampiran. Server ini tidak pernah menerima byte mentah file atau gambar, prompt sistem, maupun konteks internal Anthropic.

Sistem Inference hooks tidak menyimpan salinan konten prompt atau respons. Sistem ini hanya menyimpan konfigurasi hook Anda dan metadata tentang aktivitas hook, seperti putusan, stempel waktu, dan pengidentifikasi permintaan. Produk Claude yang Anda gunakan menyimpan prompt dan respons sesuai aturan retensi datanya sendiri, baik hook aktif maupun tidak. Misalnya, pesan yang diblokir hook di claude.ai tetap ada di percakapan.

Jika server keamanan AI Anda tidak dapat dijangkau, mengembalikan error, atau tidak merespons dalam batas waktu, pengaturan penanganan kegagalan organisasi Anda yang menentukan hasilnya: memblokir permintaan, atau mengizinkannya berjalan tanpa inspeksi.

Kegagalan berkelanjutan yang disebabkan oleh server Anda akan memicu "circuit breaker" (pemutus sirkuit). Dalam kondisi ini, Anthropic berhenti menghubungi server Anda dan menerapkan pengaturan penanganan kegagalan Anda ke setiap permintaan. Pemutus sirkuit akan direset secara otomatis setelah Anthropic mendeteksi bahwa server Anda kembali mengembalikan putusan. Lihat Circuit breaker.

Penegakan dapat diluncurkan sesuai kecepatan Anda, sehingga tidak ada yang perlu diblokir sejak hari pertama. Tersedia tiga opsi:

• "Shadow mode" (mode bayangan) mengamati putusan pada lalu lintas langsung tanpa memblokir apa pun.
• "Rollout percentage" (persentase peluncuran) menginspeksi sebagian permintaan sesuai proporsi yang Anda pilih.
• Pengecualian membebaskan anggota peran tertentu sepenuhnya.

Lihat Mengonfigurasi Inference hooks.

Untuk skema permintaan dan respons lengkap, verifikasi tanda tangan, dan detail operasional, lihat Mengembangkan integrasi.

---

Melanjutkan percakapan setelah permintaan ditolak

Setiap permintaan menyertakan seluruh percakapan, sehingga pesan yang ditolak akan terkirim lagi bersama setiap pesan berikutnya. Jika server keamanan AI Anda mengevaluasi seluruh transkrip, permintaan-permintaan tersebut juga akan ditolak. Untuk melanjutkan, pengguna harus menghapus konten yang ditolak dari apa yang akan dikirim aplikasi berikutnya, termasuk file apa pun yang akan dibaca ulang oleh Claude.

Langkah-langkahnya bergantung pada aplikasi:

• claude.ai, termasuk Claude Desktop dan aplikasi seluler. Pengguna mengedit pesan yang ditolak atau pesan sebelumnya, alih-alih mengirim salinan yang sudah diperbaiki sebagai pesan baru. Di web dan di Claude Desktop, pengeditan akan mengirim ulang lampiran pesan kecuali pengguna menghapusnya. Memulai chat baru juga bisa menjadi solusi.
• Claude Code. Pengguna menjalankan /rewind dan memilih prompt yang pertama kali memasukkan konten tersebut. Jika diminta, pengguna memilih Restore conversation, lalu mengedit atau mengosongkan prompt yang kembali ke kolom input. Perintah /clear memulai dari awal. Lihat Checkpointing.
• Cowork. Pengguna mengedit pesan yang ditolak jika pesan tersebut adalah pesan terakhirnya. Pengeditan akan mengirim ulang file yang dilampirkan, sedangkan Restart from here mengirim ulang seluruh pesan tanpa perubahan. Jika konten tersebut ada di dalam file atau pesan sebelumnya, pengguna memilih New task.
• Claude Tag. Di Slack, pengguna terlebih dahulu mengedit pesan yang ditolak, atau menghapusnya jika pesan tersebut berupa balasan. Setelah itu, pengguna mengirim @Claude !restart sebagai pesan tersendiri di tempat Claude sebelumnya menjawab, yaitu di thread tersebut atau di tingkat teratas channel. Sesi baru akan membaca ulang pesan-pesan yang masih ada di Slack, sehingga pengeditan atau penghapusan harus dilakukan lebih dulu. Lihat perintah !restart.

---

Kasus penggunaan

• "Data loss prevention" (pencegahan kehilangan data), atau DLP. Teruskan transkrip ke pemindai DLP Anda dan tolak prompt yang memuat materi yang diatur regulasi atau bersifat rahasia. Ini adalah penerapan yang paling umum.
• Pengarsipan transkrip secara real-time. Arsipkan setiap transkrip saat tiba dan selalu kembalikan allow. Cara ini menjadi alternatif berbasis push untuk polling Compliance API.
• Telemetri prompt. Ukur cara organisasi Anda menggunakan Claude, tepat pada saat penggunaan.
• Mesin kebijakan. Tegakkan aturan Anda sendiri sebelum inferensi, seperti allowlist model, pembatasan berbasis proyek, atau kontrol jam kerja.

---

Keterbatasan saat ini

• Lampiran direpresentasikan oleh metadata dan teks yang diekstrak. Byte mentah file dan gambar tidak pernah dikirim, sehingga konten yang hanya berupa gambar (misalnya, tangkapan layar dokumen) tidak diinspeksi.
• Putusan hanya berupa izinkan atau tolak. Penulisan ulang atau penyuntingan (redaksi) prompt tidak didukung.
• Organisasi Platform (akses API melalui Claude Platform) berada di luar cakupan.

---

Ketersediaan

Inference hooks tersedia untuk organisasi Claude Enterprise. Untuk mengonfigurasinya, Anda memerlukan izin organization:manage, yang hanya dimiliki oleh peran Owner dan Primary owner.

Satu hook mengatur percakapan di seluruh sesi claude.ai, Cowork, Claude Code, dan Claude Tag dalam organisasi Claude Enterprise Anda, baik yang berjalan di web, di aplikasi desktop atau seluler, di CLI, maupun di Slack. Inference hooks tidak tersedia di Amazon Bedrock atau Google Cloud.

Permintaan yang diatur adalah permintaan inferensi di balik percakapan pengguna. Permintaan tambahan, seperti pembuatan judul percakapan, tidak dikirim ke endpoint Anda. Prompt sistem dan definisi alat juga tidak pernah disertakan dalam data yang dikirim. Mode suara tidak tercakup.

---

Inference hooks dibandingkan dengan Compliance API

Kedua fitur ini melayani tim keamanan, hukum, dan kepatuhan di organisasi Claude Enterprise.

Gunakan Inference hooks untuk menghentikan permintaan sebelum mencapai model, dan gunakan Compliance API untuk mengaudit apa yang terjadi setelahnya.

---

Di bagian ini