Kurangi kebocoran prompt

Kebocoran prompt dapat mengekspos informasi sensitif yang Anda harapkan untuk "tersembunyi" dalam prompt Anda. Meskipun tidak ada metode yang sempurna, strategi di bawah ini dapat secara signifikan mengurangi risiko.

Sebelum Anda mencoba mengurangi kebocoran prompt

Pertimbangkan untuk menggunakan strategi prompt engineering yang tahan terhadap kebocoran hanya ketika benar-benar diperlukan. Upaya untuk membuat prompt Anda tahan terhadap kebocoran dapat menambah kompleksitas yang mungkin menurunkan kinerja di bagian lain dari tugas karena meningkatkan kompleksitas keseluruhan tugas LLM.

Jika Anda memutuskan untuk menerapkan teknik yang tahan terhadap kebocoran, pastikan untuk menguji prompt Anda secara menyeluruh untuk memastikan bahwa kompleksitas tambahan tidak berdampak negatif pada kinerja model atau kualitas outputnya.

Strategi untuk mengurangi kebocoran prompt

• Pisahkan konteks dari kueri: Anda dapat mencoba menggunakan system prompts untuk mengisolasi informasi kunci dan konteks dari kueri pengguna. Anda dapat menekankan instruksi kunci dalam giliran User, kemudian menekankan kembali instruksi tersebut dengan prefilling giliran Assistant. (Catatan: prefilling tidak didukung pada Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6, dan Sonnet 4.6.)

• Gunakan post-processing: Filter output Claude untuk kata kunci yang mungkin menunjukkan kebocoran. Teknik termasuk menggunakan ekspresi reguler, penyaringan kata kunci, atau metode pemrosesan teks lainnya.
  Anda juga dapat menggunakan LLM yang diprompt untuk memfilter output untuk kebocoran yang lebih bernuansa.
• Hindari detail proprietary yang tidak perlu: Jika Claude tidak membutuhkannya untuk melakukan tugas, jangan sertakan. Konten tambahan mengalihkan perhatian Claude dari fokus pada instruksi "tanpa kebocoran".
• Audit reguler: Secara berkala tinjau prompt Anda dan output Claude untuk potensi kebocoran.

Ingat, tujuannya bukan hanya untuk mencegah kebocoran tetapi untuk mempertahankan kinerja Claude. Pencegahan kebocoran yang terlalu kompleks dapat menurunkan hasil. Keseimbangan adalah kuncinya.