Réduire les fuites d'invite

Les fuites d'invite peuvent exposer des informations sensibles que vous vous attendez à ce qu'elles soient « cachées » dans votre invite. Bien qu'aucune méthode ne soit infaillible, les stratégies ci-dessous peuvent réduire considérablement le risque.

Avant de tenter de réduire les fuites d'invite

Envisagez d'utiliser des stratégies d'ingénierie d'invite résistantes aux fuites uniquement lorsque c'est absolument nécessaire. Les tentatives de rendre votre invite étanche aux fuites peuvent ajouter une complexité qui peut dégrader les performances dans d'autres parties de la tâche en augmentant la complexité globale de la tâche du LLM.

Si vous décidez de mettre en œuvre des techniques résistantes aux fuites, assurez-vous de tester vos invites en profondeur pour vous assurer que la complexité ajoutée n'affecte pas négativement les performances du modèle ou la qualité de ses résultats.

Stratégies pour réduire les fuites d'invite

• Séparez le contexte des requêtes : Vous pouvez essayer d'utiliser des invites système pour isoler les informations clés et le contexte des requêtes utilisateur. Vous pouvez mettre l'accent sur les instructions clés dans le tour User, puis réemphasiser ces instructions en préremplissant le tour Assistant. (Remarque : le préremplissage n'est pas pris en charge sur Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6 et Sonnet 4.6.)

• Utilisez le post-traitement : Filtrez les résultats de Claude pour les mots-clés qui pourraient indiquer une fuite. Les techniques incluent l'utilisation d'expressions régulières, le filtrage par mots-clés ou d'autres méthodes de traitement de texte.
  Vous pouvez également utiliser un LLM invité pour filtrer les résultats pour des fuites plus nuancées.
• Évitez les détails propriétaires inutiles : Si Claude n'en a pas besoin pour accomplir la tâche, ne l'incluez pas. Le contenu supplémentaire distrait Claude de la concentration sur les instructions « pas de fuite ».
• Audits réguliers : Examinez périodiquement vos invites et les résultats de Claude pour détecter les fuites potentielles.

N'oubliez pas que l'objectif n'est pas seulement de prévenir les fuites, mais de maintenir les performances de Claude. Une prévention des fuites trop complexe peut dégrader les résultats. L'équilibre est la clé.