防范越狱攻击和提示注入

越狱攻击和提示注入是指用户精心构造提示来利用模型漏洞，试图生成不当内容。虽然 Claude 本身对此类攻击具有较强的抵御能力，但以下是一些额外的措施来加强您的防护机制，特别是针对违反我们服务条款或使用政策的使用行为。

• 无害性筛查：使用 Claude Haiku 3 等轻量级模型对用户输入进行预筛查。（注意：预填充已弃用，在 Claude Opus 4.6 和 Sonnet 4.5 上不受支持。）

  示例：用于内容审核的无害性筛查

• 输入验证：过滤提示中的越狱攻击模式。您甚至可以使用 LLM 通过提供已知的越狱攻击语言作为示例来创建通用的验证筛查。

• 提示工程：精心设计强调道德和法律边界的提示。

  示例：企业聊天机器人的道德系统提示

调整回复并考虑对反复尝试绕过 Claude 防护机制的滥用行为用户进行限流或封禁。例如，如果某个用户多次触发同类拒绝（例如"输出被内容过滤策略阻止"），请告知该用户其行为违反了相关使用政策，并采取相应措施。

• 持续监控：定期分析输出以发现越狱攻击迹象。 利用此监控来迭代优化您的提示和验证策略。

进阶：链式安全防护

结合多种策略实现强大的保护。以下是一个使用工具调用的企业级示例：

通过分层运用这些策略，您可以构建强大的越狱攻击和提示注入防御体系，确保您基于 Claude 的应用程序保持最高的安全和合规标准。