防範越獄和提示詞注入

越獄和提示詞注入發生在使用者精心設計提示詞以利用模型漏洞，目的是生成不適當內容。雖然 Claude 本身對此類攻擊具有抵抗力，但以下是加強您的防護措施的額外步驟，特別是針對違反我們的服務條款或使用政策的使用。

• 無害性篩選：使用輕量級模型（如 Claude Haiku 3）預先篩選使用者輸入。

  範例：用於內容審核的無害性篩選

• 輸入驗證：過濾含有越獄模式的提示詞。您甚至可以使用 LLM 創建一個通用驗證篩選，方法是提供已知的越獄語言作為範例。

• 提示詞工程：精心設計強調道德和法律界限的提示詞。

  範例：企業聊天機器人的道德系統提示詞

調整回應並考慮限制或禁止反覆嘗試濫用行為以規避 Claude 防護措施的使用者。例如，如果特定使用者多次觸發同類型的拒絕回應（如「輸出被內容過濾政策阻止」），告知該使用者其行為違反相關使用政策，並採取相應行動。

• 持續監控：定期分析輸出以發現越獄跡象。 利用此監控來迭代改進您的提示詞和驗證策略。

進階：鏈式防護

結合多種策略以提供強大保護。以下是一個使用工具的企業級範例：

通過分層策略，您可以創建一個強大的防禦系統來抵禦越獄和提示詞注入，確保您的 Claude 驅動應用程式維持最高的安全性和合規性標準。