Claude Platform Docs
РекомендацииУсиление защитных механизмов

Снижение утечки подсказок

Снизьте риск утечки подсказок, отделяя контекст от пользовательских запросов, фильтруя выходные данные Claude и проводя аудит подсказок, без ухудшения качества выполнения задачи.

«Prompt leak» (утечка подсказки) может раскрыть конфиденциальную информацию, которая, как вы рассчитываете, «скрыта» в вашей подсказке. Хотя ни один метод не даёт полной гарантии, следующие стратегии могут значительно снизить этот риск.

Прежде чем пытаться снизить утечку подсказок

Используйте стратегии «prompt engineering» (инженерия подсказок), устойчивые к утечкам, только когда это абсолютно необходимо. Попытки защитить подсказку от утечки могут усложнить общую задачу для «large language model» (большая языковая модель), или LLM, что может ухудшить качество работы в других частях задачи.

Если вы решите внедрить устойчивые к утечкам техники, обязательно тщательно протестируйте ваши подсказки, чтобы убедиться, что добавленная сложность не оказывает негативного влияния на производительность модели или качество её выходных данных.


Стратегии снижения утечки подсказок

  • Отделяйте контекст от запросов: Вы можете попробовать использовать «system prompts» (системные подсказки), чтобы изолировать ключевую информацию и контекст от пользовательских запросов. Вы можете подчеркнуть ключевые инструкции в реплике User, а затем повторно подчеркнуть эти инструкции с помощью предварительного заполнения реплики Assistant. (Примечание: предварительное заполнение не поддерживается в моделях Claude 4.6 и более поздних, а также в Claude Mythos Preview.)

  • Используйте постобработку: Фильтруйте выходные данные Claude на наличие ключевых слов, которые могут указывать на утечку. Техники включают использование регулярных выражений, фильтрацию по ключевым словам или другие методы обработки текста.
  • Избегайте ненужных проприетарных деталей: если Claude не нуждается в информации для выполнения задачи, не включайте её. Дополнительное содержимое снижает соблюдение Claude инструкций «не допускать утечек».
  • Регулярно проводите аудит: периодически проверяйте свои подсказки и выходные данные Claude на предмет возможных утечек.

Помните, цель состоит не только в предотвращении утечек, но и в сохранении производительности Claude. Чрезмерно сложная защита от утечек может ухудшить результаты. Баланс — это ключ.

Эта страница была полезной?