減少提示洩漏

提示洩漏（prompt leak）可能會暴露您期望在提示中「隱藏」的敏感資訊。雖然沒有任何方法是萬無一失的，但以下策略可以顯著降低風險。



在您嘗試減少提示洩漏之前

請僅在絕對必要時才考慮使用防洩漏的提示工程策略。嘗試讓您的提示防洩漏可能會增加複雜性，由於增加了 LLM 整體任務的複雜性，可能會降低任務其他部分的效能。

如果您決定實施防洩漏技術，請務必徹底測試您的提示，以確保增加的複雜性不會對模型的效能或其輸出品質產生負面影響。



減少提示洩漏的策略

• 將上下文與查詢分離： 您可以嘗試使用系統提示將關鍵資訊和上下文與使用者查詢隔離。您可以在 User 回合中強調關鍵指示，然後透過預填 Assistant 回合來再次強調這些指示。（注意：Claude 4.6 及更新的模型以及 Claude Mythos Preview 不支援預填。）

• 使用後處理：過濾 Claude 的輸出中可能表明洩漏的關鍵字。技術包括使用正規表達式、關鍵字過濾或其他文字處理方法。
  

  您也可以使用經過提示的 LLM 來過濾輸出，以捕捉更細微的洩漏。
• 避免不必要的專有細節：如果 Claude 不需要它來執行任務，就不要包含它。額外的內容會分散 Claude 對「不洩漏」指示的注意力。
• 定期審核：定期檢查您的提示和 Claude 的輸出，以發現潛在的洩漏。

請記住，目標不僅僅是防止洩漏，還要維持 Claude 的效能。過於複雜的洩漏防範可能會降低結果品質。平衡是關鍵。