Mitigasi jailbreak dan injeksi prompt

Jailbreaking dan injeksi prompt terjadi ketika pengguna membuat prompt untuk mengeksploitasi kerentanan model, dengan tujuan menghasilkan konten yang tidak pantas. Meskipun Claude secara inheren tahan terhadap serangan semacam itu, berikut adalah langkah-langkah tambahan untuk memperkuat penjaga Anda, khususnya terhadap penggunaan yang melanggar Syarat Layanan atau Kebijakan Penggunaan kami.

• Layar keamanan: Gunakan model ringan seperti Claude Haiku 4.5 untuk pra-pemeriksaan input pengguna. Gunakan keluaran terstruktur untuk membatasi respons menjadi klasifikasi sederhana.

  Contoh: Layar keamanan untuk moderasi konten

• Validasi input: Filter prompt untuk pola jailbreaking. Anda bahkan dapat menggunakan LLM untuk membuat layar validasi yang digeneralisasi dengan memberikan bahasa jailbreaking yang diketahui sebagai contoh.

• Rekayasa prompt: Buat prompt yang menekankan batas-batas etika dan hukum.

  Contoh: Prompt sistem etika untuk chatbot perusahaan

Sesuaikan respons dan pertimbangkan pembatasan kecepatan atau pelarangan pengguna yang berulang kali terlibat dalam perilaku kasar yang mencoba melewati penjaga Claude. Misalnya, jika pengguna tertentu memicu jenis penolakan yang sama berkali-kali (misalnya, "output diblokir oleh kebijakan penyaringan konten"), beri tahu pengguna bahwa tindakan mereka melanggar kebijakan penggunaan yang relevan dan ambil tindakan yang sesuai.

• Pemantauan berkelanjutan: Secara teratur analisis output untuk tanda-tanda jailbreaking. Gunakan pemantauan ini untuk secara iteratif menyempurnakan prompt dan strategi validasi Anda.

Lanjutan: Rantai penjaga

Gabungkan strategi untuk perlindungan yang kuat. Berikut adalah contoh tingkat perusahaan dengan penggunaan alat:

Dengan melapisi strategi-strategi ini, Anda menciptakan pertahanan yang kuat terhadap jailbreaking dan injeksi prompt, memastikan aplikasi bertenaga Claude Anda mempertahankan standar keamanan dan kepatuhan tertinggi.