Prompt-Lecks reduzieren

Prompt-Lecks können sensible Informationen offenlegen, die Sie in Ihrem Prompt "versteckt" erwarten. Obwohl keine Methode narrensicher ist, können die folgenden Strategien das Risiko erheblich reduzieren.

Bevor Sie versuchen, Prompt-Lecks zu reduzieren

Erwägen Sie die Verwendung von leckresistenten Prompt-Engineering-Strategien nur, wenn dies absolut notwendig ist. Versuche, Ihren Prompt leckdicht zu machen, können Komplexität hinzufügen, die die Leistung in anderen Teilen der Aufgabe beeinträchtigen kann, da die Gesamtkomplexität der Aufgabe des LLM erhöht wird.

Wenn Sie sich für die Implementierung leckresistenter Techniken entscheiden, testen Sie Ihre Prompts gründlich, um sicherzustellen, dass die zusätzliche Komplexität die Leistung des Modells oder die Qualität seiner Ausgaben nicht negativ beeinflusst.

Strategien zur Reduzierung von Prompt-Lecks

• Kontext von Abfragen trennen: Sie können versuchen, Systemprompts zu verwenden, um wichtige Informationen und Kontext von Benutzerabfragen zu isolieren. Sie können wichtige Anweisungen in der User-Runde hervorheben und diese Anweisungen dann durch Vorausfüllung der Assistant-Runde erneut hervorheben. (Hinweis: Vorausfüllung wird nicht unterstützt auf Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6 und Sonnet 4.6.)

• Nachbearbeitung verwenden: Filtern Sie die Ausgaben von Claude nach Schlüsselwörtern, die auf ein Leck hindeuten könnten. Techniken umfassen die Verwendung von regulären Ausdrücken, Schlüsselwortfilterung oder anderen Textverarbeitungsmethoden.
  Sie können auch ein gesteuertes LLM verwenden, um Ausgaben auf nuanciertere Lecks zu filtern.
• Unnötige proprietäre Details vermeiden: Wenn Claude diese nicht benötigt, um die Aufgabe auszuführen, fügen Sie sie nicht ein. Zusätzlicher Inhalt lenkt Claude von der Konzentration auf "kein Leck"-Anweisungen ab.
• Regelmäßige Audits: Überprüfen Sie Ihre Prompts und die Ausgaben von Claude regelmäßig auf mögliche Lecks.

Denken Sie daran, dass das Ziel nicht nur darin besteht, Lecks zu verhindern, sondern Claudes Leistung zu erhalten. Übermäßig komplexe Leckschutzmaßnahmen können die Ergebnisse beeinträchtigen. Balance ist der Schlüssel.