Reduzir vazamento de prompt

Vazamentos de prompt podem expor informações sensíveis que você espera que estejam "ocultas" no seu prompt. Embora nenhum método seja infalível, as estratégias abaixo podem reduzir significativamente o risco.



Antes de tentar reduzir o vazamento de prompt

Considere usar estratégias de engenharia de prompt resistentes a vazamentos apenas quando absolutamente necessário. Tentativas de tornar seu prompt à prova de vazamentos podem adicionar complexidade que pode degradar o desempenho em outras partes da tarefa, devido ao aumento da complexidade da tarefa geral do LLM.

Se você decidir implementar técnicas resistentes a vazamentos, certifique-se de testar seus prompts minuciosamente para garantir que a complexidade adicional não afete negativamente o desempenho do modelo ou a qualidade de suas saídas.



Estratégias para reduzir o vazamento de prompt

• Separe o contexto das consultas: Você pode tentar usar prompts do sistema para isolar informações e contexto importantes das consultas do usuário. Você pode enfatizar instruções importantes no turno User e, em seguida, reforçar essas instruções preenchendo previamente o turno Assistant. (Observação: o preenchimento prévio não é compatível com Claude Fable 5, Claude Mythos 5, Claude Mythos Preview, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6 e Claude Sonnet 4.6.)

• Use pós-processamento: Filtre as saídas do Claude em busca de palavras-chave que possam indicar um vazamento. As técnicas incluem o uso de expressões regulares, filtragem de palavras-chave ou outros métodos de processamento de texto.
  

  Você também pode usar um LLM com prompt para filtrar saídas em busca de vazamentos mais sutis.
• Evite detalhes proprietários desnecessários: Se o Claude não precisa disso para executar a tarefa, não inclua. Conteúdo extra distrai o Claude de se concentrar nas instruções de "não vazar".
• Auditorias regulares: Revise periodicamente seus prompts e as saídas do Claude em busca de possíveis vazamentos.

Lembre-se, o objetivo não é apenas prevenir vazamentos, mas manter o desempenho do Claude. Prevenção de vazamentos excessivamente complexa pode degradar os resultados. O equilíbrio é fundamental.