プロンプトリークを減らす

プロンプトリークは、プロンプト内に「隠す」ことを期待している機密情報を公開する可能性があります。完全に防ぐ方法はありませんが、以下の戦略はリスクを大幅に軽減できます。

プロンプトリークを減らす前に

リーク耐性のあるプロンプトエンジニアリング戦略の使用は、絶対に必要な場合のみに検討してください。プロンプトをリーク防止にしようとする試みは、LLMの全体的なタスクの複雑さを増加させることで、タスクの他の部分のパフォーマンスを低下させる可能性のある複雑さを追加する可能性があります。

リーク耐性のある技術を実装することを決定した場合は、追加された複雑さがモデルのパフォーマンスまたは出力の品質に悪影響を与えないことを確認するために、プロンプトを徹底的にテストしてください。

プロンプトリークを減らすための戦略

• コンテキストとクエリを分離する： システムプロンプトを使用して、重要な情報とコンテキストをユーザークエリから分離することができます。Userターンで重要な指示を強調し、その後Assistantターンをプリフィルすることでそれらの指示を再度強調することができます。（注：プリフィルはClaude Mythos Preview、Claude Opus 4.7、Claude Opus 4.6、およびSonnet 4.6ではサポートされていません。）

• ポスト処理を使用する：リークを示す可能性のあるキーワードについてClaudeの出力をフィルタリングします。技術には、正規表現、キーワードフィルタリング、または他のテキスト処理方法の使用が含まれます。
  より微妙なリークについて出力をフィルタリングするために、プロンプトされたLLMを使用することもできます。
• 不要な独自情報を避ける：Claudeがタスクを実行するために必要でない場合は、含めないでください。余分なコンテンツはClaudeを「リークなし」指示に焦点を当てることから気を散らします。
• 定期的な監査：プロンプトとClaudeの出力を定期的に確認して、潜在的なリークがないか確認します。

リークを防ぐだけでなく、Claudeのパフォーマンスを維持することが目標であることを忘れないでください。過度に複雑なリーク防止はパフォーマンスを低下させる可能性があります。バランスが重要です。