Reduzir vazamento de prompt

Vazamentos de prompt podem expor informações sensíveis que você espera que estejam "ocultas" no seu prompt. Embora nenhum método seja infalível, as estratégias abaixo podem reduzir significativamente o risco.



Antes de tentar reduzir o vazamento de prompt

Considere usar estratégias de engenharia de prompt resistentes a vazamentos apenas quando absolutamente necessário. Tentativas de tornar seu prompt à prova de vazamentos podem adicionar complexidade que pode degradar o desempenho em outras partes da tarefa, devido ao aumento da complexidade da tarefa geral do LLM.

Se você decidir implementar técnicas resistentes a vazamentos, certifique-se de testar seus prompts minuciosamente para garantir que a complexidade adicional não afete negativamente o desempenho do modelo ou a qualidade de suas saídas.



Estratégias para reduzir o vazamento de prompt

• Separe o contexto das consultas: Você pode tentar usar prompts do sistema para isolar informações e contexto importantes das consultas do usuário. Você pode enfatizar instruções importantes no turno User e, em seguida, reforçar essas instruções pré-preenchendo o turno Assistant. (Observação: o pré-preenchimento não é compatível com o Claude 4.6 e modelos posteriores, nem com o Claude Mythos Preview.)

• Use pós-processamento: Filtre as saídas do Claude em busca de palavras-chave que possam indicar um vazamento. As técnicas incluem o uso de expressões regulares, filtragem de palavras-chave ou outros métodos de processamento de texto.
• Evite detalhes proprietários desnecessários: Se o Claude não precisa deles para executar a tarefa, não os inclua. Conteúdo extra distrai o Claude de se concentrar nas instruções de "não vazar".
• Auditorias regulares: Revise periodicamente seus prompts e as saídas do Claude em busca de possíveis vazamentos.

Lembre-se, o objetivo não é apenas prevenir vazamentos, mas manter o desempenho do Claude. Prevenção de vazamentos excessivamente complexa pode degradar os resultados. O equilíbrio é fundamental.