Claude Platform Docs
ベストプラクティスガードレールの強化

ハルシネーションを減らす

不確実性を認めることを許可し、直接引用によって応答を根拠づけ、引用によって主張を検証することで、Claudeの出力におけるハルシネーションを最小限に抑えます。

Claudeのような最先端の言語モデルであっても、事実として誤っているテキストや、与えられたコンテキストと矛盾するテキストを生成することがあります。「hallucination」（ハルシネーション）として知られるこの現象は、AIを活用したソリューションの信頼性を損なう可能性があります。 このガイドでは、ハルシネーションを最小限に抑え、Claudeの出力が正確で信頼できるものになるようにするための手法を紹介します。

基本的なハルシネーション最小化戦略

  • Claudeが「わかりません」と言えるようにする： 不確実性を認めることをClaudeに明示的に許可します。この手法により、誤った情報を大幅に減らすことができます。

  • 事実の根拠づけに直接引用を使用する： 長いドキュメント（20kトークン超）を扱うタスクでは、タスクを実行する前に、まず一語一句そのままの引用を抽出するようClaudeに依頼します。これにより応答が実際のテキストに根拠づけられ、ハルシネーションが減少します。

  • 引用で検証する： Claudeの各主張について引用と出典を示させることで、応答を監査可能にします。また、応答を生成した後に、各主張を裏付ける引用を見つけることでClaudeに検証させることもできます。引用が見つからない場合は、その主張を撤回させる必要があります。

高度なテクニック

  • 思考の連鎖による検証： display: "summarized"を指定して思考を使用し、回答が間違っているように見える場合はthinkingブロック内の要約された推論を確認します。これにより、誤ったロジックや前提が明らかになることがあります。

  • Best-of-N検証： 同じプロンプトでClaudeを複数回実行し、出力を比較します。出力間の不一致はハルシネーションを示している可能性があります。

  • 反復的な改善： Claudeの出力を後続のプロンプトの入力として使用し、以前の記述を検証または拡張するよう依頼します。これにより、不一致を発見して修正できます。

  • 外部知識の制限： 一般的な知識ではなく、提供された文書の情報のみを使用するようClaudeに明示的に指示します。

このページは役に立ちましたか？