Mengurangi kebocoran prompt

Kebocoran prompt dapat mengekspos informasi sensitif yang Anda harapkan "tersembunyi" di dalam prompt Anda. Meskipun tidak ada metode yang sepenuhnya aman, strategi di bawah ini dapat secara signifikan mengurangi risiko tersebut.



Sebelum Anda mencoba mengurangi kebocoran prompt

Pertimbangkan untuk menggunakan strategi "prompt engineering" (rekayasa prompt) yang tahan kebocoran hanya ketika benar-benar diperlukan. Upaya untuk membuat prompt Anda tahan kebocoran dapat menambah kompleksitas yang mungkin menurunkan performa di bagian lain dari tugas karena meningkatnya kompleksitas tugas LLM secara keseluruhan.

Jika Anda memutuskan untuk menerapkan teknik tahan kebocoran, pastikan untuk menguji prompt Anda secara menyeluruh guna memastikan bahwa kompleksitas tambahan tersebut tidak berdampak negatif pada performa model atau kualitas output-nya.



Strategi untuk mengurangi kebocoran prompt

• Pisahkan konteks dari kueri: Anda dapat mencoba menggunakan prompt sistem untuk mengisolasi informasi dan konteks penting dari kueri pengguna. Anda dapat menekankan instruksi penting di giliran User, lalu menekankan kembali instruksi tersebut dengan melakukan prefill pada giliran Assistant. (Catatan: prefill tidak didukung pada Claude Fable 5, Claude Mythos 5, Claude Mythos Preview, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6, dan Claude Sonnet 4.6.)

• Gunakan post-processing: Filter output Claude untuk kata kunci yang mungkin mengindikasikan kebocoran. Tekniknya meliputi penggunaan regular expression, pemfilteran kata kunci, atau metode pemrosesan teks lainnya.
  

  Anda juga dapat menggunakan LLM yang diberi prompt untuk memfilter output guna menangkap kebocoran yang lebih bernuansa.
• Hindari detail kepemilikan yang tidak perlu: Jika Claude tidak membutuhkannya untuk melakukan tugas, jangan sertakan. Konten tambahan mengalihkan perhatian Claude dari fokus pada instruksi "jangan bocorkan".
• Audit rutin: Tinjau prompt Anda dan output Claude secara berkala untuk mendeteksi potensi kebocoran.

Ingat, tujuannya bukan hanya untuk mencegah kebocoran tetapi juga untuk mempertahankan performa Claude. Pencegahan kebocoran yang terlalu kompleks dapat menurunkan kualitas hasil. Keseimbangan adalah kuncinya.