Prompt-Leaks reduzieren

Prompt-Leaks können sensible Informationen offenlegen, von denen du erwartest, dass sie in deinem Prompt „verborgen" bleiben. Obwohl keine Methode absolut sicher ist, können die folgenden Strategien das Risiko erheblich reduzieren.



Bevor du versuchst, Prompt-Leaks zu reduzieren

Erwäge den Einsatz von leak-resistenten Prompt-Engineering-Strategien nur, wenn es absolut notwendig ist. Versuche, deinen Prompt leak-sicher zu machen, können zusätzliche Komplexität einführen, die die Leistung in anderen Teilen der Aufgabe beeinträchtigen kann, da die Gesamtkomplexität der Aufgabe für das LLM steigt.

Wenn du dich entscheidest, leak-resistente Techniken zu implementieren, solltest du deine Prompts gründlich testen, um sicherzustellen, dass die zusätzliche Komplexität die Leistung des Modells oder die Qualität seiner Ausgaben nicht negativ beeinflusst.



Strategien zur Reduzierung von Prompt-Leaks

• Trenne Kontext von Anfragen: Du kannst versuchen, System-Prompts zu verwenden, um wichtige Informationen und Kontext von Benutzeranfragen zu isolieren. Du kannst wichtige Anweisungen im User-Turn hervorheben und diese Anweisungen dann durch Vorausfüllen des Assistant-Turns erneut betonen. (Hinweis: Vorausfüllen wird bei Claude Fable 5, Claude Mythos 5, Claude Mythos Preview, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6 und Claude Sonnet 4.6 nicht unterstützt.)

• Verwende Nachbearbeitung: Filtere Claudes Ausgaben nach Schlüsselwörtern, die auf ein Leak hindeuten könnten. Zu den Techniken gehören die Verwendung von regulären Ausdrücken, Schlüsselwortfilterung oder andere Textverarbeitungsmethoden.
  

  Du kannst auch ein mit einem Prompt versehenes LLM verwenden, um Ausgaben nach subtileren Leaks zu filtern.
• Vermeide unnötige proprietäre Details: Wenn Claude sie nicht benötigt, um die Aufgabe auszuführen, füge sie nicht hinzu. Zusätzlicher Inhalt lenkt Claude davon ab, sich auf „Kein-Leak"-Anweisungen zu konzentrieren.
• Regelmäßige Audits: Überprüfe regelmäßig deine Prompts und Claudes Ausgaben auf potenzielle Leaks.

Denke daran, dass das Ziel nicht nur darin besteht, Leaks zu verhindern, sondern auch Claudes Leistung aufrechtzuerhalten. Übermäßig komplexe Leak-Prävention kann die Ergebnisse verschlechtern. Balance ist der Schlüssel.