Снижение утечки подсказок

Утечки подсказок могут раскрыть конфиденциальную информацию, которую вы считаете «скрытой» в вашей подсказке. Хотя ни один метод не является абсолютно надёжным, приведённые ниже стратегии могут значительно снизить этот риск.



Прежде чем пытаться снизить утечку подсказок

Рассматривайте использование устойчивых к утечкам стратегий инженерии подсказок только в случае крайней необходимости. Попытки защитить вашу подсказку от утечек могут добавить сложность, которая способна ухудшить производительность в других частях задачи из-за увеличения общей сложности задачи для «large language model» (большой языковой модели), или LLM.

Если вы решите внедрить устойчивые к утечкам техники, обязательно тщательно протестируйте свои подсказки, чтобы убедиться, что добавленная сложность не оказывает негативного влияния на производительность модели или качество её выходных данных.



Стратегии снижения утечки подсказок

• Отделяйте контекст от запросов: Вы можете попробовать использовать системные подсказки, чтобы изолировать ключевую информацию и контекст от пользовательских запросов. Вы можете подчеркнуть ключевые инструкции в ходе User, а затем повторно подчеркнуть эти инструкции, предварительно заполнив ход Assistant. (Примечание: предварительное заполнение не поддерживается в Claude Fable 5, Claude Mythos 5, Claude Mythos Preview, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6 и Claude Sonnet 4.6.)

• Используйте постобработку: фильтруйте выходные данные Claude на предмет ключевых слов, которые могут указывать на утечку. Техники включают использование регулярных выражений, фильтрацию по ключевым словам или другие методы обработки текста.
  

  Вы также можете использовать LLM с подсказкой для фильтрации выходных данных на предмет более тонких утечек.
• Избегайте ненужных проприетарных деталей: если Claude не нуждается в них для выполнения задачи, не включайте их. Лишнее содержимое отвлекает Claude от сосредоточения на инструкциях «не допускать утечек».
• Регулярные аудиты: периодически проверяйте свои подсказки и выходные данные Claude на предмет потенциальных утечек.

Помните, что цель состоит не только в предотвращении утечек, но и в поддержании производительности Claude. Чрезмерно сложная защита от утечек может ухудшить результаты. Ключевое значение имеет баланс.