Claude Platform Docs
Praktik terbaikPerkuat guardrail

Mengurangi kebocoran prompt

Kurangi risiko kebocoran prompt dengan memisahkan konteks dari kueri pengguna, memfilter output Claude, dan mengaudit prompt, tanpa menurunkan kinerja tugas.

“Prompt leak” (kebocoran prompt) dapat mengekspos informasi sensitif yang Anda harapkan “tersembunyi” dalam prompt Anda. Meskipun tidak ada metode yang sempurna, strategi berikut dapat secara signifikan mengurangi risikonya.

Sebelum Anda mencoba mengurangi kebocoran prompt

Pertimbangkan untuk menggunakan strategi “prompt engineering” (rekayasa prompt) yang tahan kebocoran hanya jika benar-benar diperlukan. Upaya untuk membuat prompt Anda anti-bocor dapat membuat tugas keseluruhan LLM menjadi lebih kompleks, yang mungkin menurunkan kinerja di bagian lain dari tugas tersebut.

Jika Anda memutuskan untuk menerapkan teknik tahan kebocoran, pastikan untuk menguji prompt Anda secara menyeluruh guna memastikan bahwa kompleksitas tambahan tersebut tidak berdampak negatif pada kinerja model atau kualitas outputnya.


Strategi untuk mengurangi kebocoran prompt

  • Pisahkan konteks dari kueri: Anda dapat mencoba menggunakan “system prompt” (prompt sistem) untuk mengisolasi informasi dan konteks penting dari kueri pengguna. Anda dapat menekankan instruksi penting pada giliran User, lalu menekankan kembali instruksi tersebut dengan melakukan prefill pada giliran Assistant. (Catatan: prefill tidak didukung pada model Claude 4.6 dan yang lebih baru serta Claude Mythos Preview.)

  • Gunakan pasca-pemrosesan: Filter output Claude untuk kata kunci yang mungkin mengindikasikan kebocoran. Tekniknya meliputi penggunaan ekspresi reguler, pemfilteran kata kunci, atau metode pemrosesan teks lainnya.
  • Hindari detail milik perusahaan yang tidak perlu: Jika Claude tidak membutuhkannya untuk melakukan tugas, jangan sertakan. Konten tambahan mengurangi kepatuhan Claude terhadap instruksi “jangan bocorkan”.
  • Audit secara berkala: Tinjau prompt Anda dan output Claude secara berkala untuk mendeteksi potensi kebocoran.

Ingat, tujuannya bukan hanya mencegah kebocoran tetapi juga mempertahankan kinerja Claude. Pencegahan kebocoran yang terlalu rumit dapat menurunkan hasil. Keseimbangan adalah kuncinya.

Apakah halaman ini membantu?