Снижение утечки подсказок

Утечки подсказок могут раскрыть конфиденциальную информацию, которую вы ожидаете "скрыть" в своей подсказке. Хотя ни один метод не является полностью надежным, приведенные ниже стратегии могут значительно снизить риск.

Перед попыткой снизить утечку подсказки

Рассмотрите использование стратегий инженерии подсказок, устойчивых к утечкам, только когда это абсолютно необходимо. Попытки сделать вашу подсказку защищенной от утечек могут добавить сложность, которая может снизить производительность в других частях задачи из-за увеличения общей сложности задачи LLM.

Если вы решите внедрить методы, устойчивые к утечкам, обязательно тщательно протестируйте свои подсказки, чтобы убедиться, что добавленная сложность не оказывает негативного влияния на производительность модели или качество ее выходных данных.

Стратегии снижения утечки подсказки

• Разделение контекста и запросов: Вы можете попробовать использовать системные подсказки для изоляции ключевой информации и контекста от пользовательских запросов. Вы можете подчеркнуть ключевые инструкции в ходу User, а затем переподчеркнуть эти инструкции, предварительно заполнив ход Assistant. (Примечание: предварительное заполнение не поддерживается на Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6 и Sonnet 4.6.)

• Используйте постобработку: Фильтруйте выходные данные Claude на предмет ключевых слов, которые могут указывать на утечку. Методы включают использование регулярных выражений, фильтрацию ключевых слов или другие методы обработки текста.
  Вы также можете использовать подсказанный LLM для фильтрации выходных данных на предмет более тонких утечек.
• Избегайте ненужных собственных деталей: Если Claude не нуждается в них для выполнения задачи, не включайте их. Дополнительное содержание отвлекает Claude от сосредоточения на инструкциях "без утечки".
• Регулярные аудиты: Периодически проверяйте свои подсказки и выходные данные Claude на предмет потенциальных утечек.

Помните, цель состоит не только в предотвращении утечек, но и в сохранении производительности Claude. Чрезмерно сложная защита от утечек может снизить результаты. Баланс является ключом.