Снижение утечки подсказок

Утечки подсказок могут раскрыть конфиденциальную информацию, которую вы ожидаете быть "скрытой" в вашей подсказке. Хотя ни один метод не является полностью надежным, приведенные ниже стратегии могут значительно снизить риск.

Перед попыткой снизить утечку подсказки

Мы рекомендуем использовать стратегии инженерии подсказок, устойчивые к утечкам, только когда это абсолютно необходимо. Попытки сделать вашу подсказку защищенной от утечек могут добавить сложность, которая может снизить производительность в других частях задачи из-за увеличения общей сложности задачи для LLM.

Если вы решите внедрить методы, устойчивые к утечкам, обязательно тщательно протестируйте ваши подсказки, чтобы убедиться, что добавленная сложность не оказывает негативного влияния на производительность модели или качество ее выходных данных.

Стратегии снижения утечки подсказки

• Разделение контекста и запросов: Вы можете попробовать использовать системные подсказки для изоляции ключевой информации и контекста от пользовательских запросов. Вы можете подчеркнуть ключевые инструкции в ходе User, а затем переподчеркнуть эти инструкции путем предзаполнения хода Assistant. (Примечание: предзаполнение устарело и не поддерживается на Claude Opus 4.6 и Sonnet 4.5.)

• Используйте постобработку: Фильтруйте выходные данные Claude на предмет ключевых слов, которые могут указывать на утечку. Методы включают использование регулярных выражений, фильтрацию по ключевым словам или другие методы обработки текста.
  Вы также можете использовать подсказанный LLM для фильтрации выходных данных на предмет более тонких утечек.
• Избегайте ненужных собственных деталей: Если Claude не нуждается в этом для выполнения задачи, не включайте это. Дополнительное содержание отвлекает Claude от сосредоточения на инструкциях "без утечки".
• Регулярные аудиты: Периодически проверяйте ваши подсказки и выходные данные Claude на предмет потенциальных утечек.

Помните, цель состоит не только в предотвращении утечек, но и в сохранении производительности Claude. Чрезмерно сложная защита от утечек может снизить результаты. Баланс является ключевым.