Réduire les fuites de prompt

Les fuites de prompt peuvent exposer des informations sensibles que vous pensez être « cachées » dans votre prompt. Bien qu'aucune méthode ne soit infaillible, les stratégies ci-dessous peuvent réduire considérablement ce risque.



Avant d'essayer de réduire les fuites de prompt

Envisagez d'utiliser des stratégies d'ingénierie de prompt résistantes aux fuites uniquement lorsque cela est absolument nécessaire. Les tentatives de protection de votre prompt contre les fuites peuvent ajouter une complexité susceptible de dégrader les performances dans d'autres parties de la tâche, en augmentant la complexité globale de la tâche du LLM.

Si vous décidez de mettre en œuvre des techniques résistantes aux fuites, assurez-vous de tester vos prompts de manière approfondie afin de vérifier que la complexité ajoutée n'affecte pas négativement les performances du modèle ni la qualité de ses sorties.



Stratégies pour réduire les fuites de prompt

• Séparer le contexte des requêtes : Vous pouvez essayer d'utiliser des invites système pour isoler les informations clés et le contexte des requêtes utilisateur. Vous pouvez mettre l'accent sur les instructions clés dans le tour User, puis réitérer ces instructions en préremplissant le tour Assistant. (Remarque : le préremplissage n'est pas pris en charge sur Claude Fable 5, Claude Mythos 5, Claude Mythos Preview, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6 et Claude Sonnet 4.6.)

• Utiliser le post-traitement : Filtrez les sorties de Claude à la recherche de mots-clés susceptibles d'indiquer une fuite. Les techniques incluent l'utilisation d'expressions régulières, le filtrage par mots-clés ou d'autres méthodes de traitement de texte.
  

  Vous pouvez également utiliser un LLM avec un prompt dédié pour filtrer les sorties et détecter des fuites plus subtiles.
• Éviter les détails propriétaires inutiles : Si Claude n'en a pas besoin pour accomplir la tâche, ne les incluez pas. Le contenu superflu détourne Claude des instructions de « non-fuite ».
• Audits réguliers : Examinez périodiquement vos prompts et les sorties de Claude pour détecter d'éventuelles fuites.

N'oubliez pas que l'objectif n'est pas seulement de prévenir les fuites, mais aussi de maintenir les performances de Claude. Une prévention des fuites trop complexe peut dégrader les résultats. L'équilibre est essentiel.