ハルシネーションを減らす

Claudeのような最も高度な言語モデルでさえ、事実と異なる、または与えられたコンテキストと矛盾するテキストを生成することがあります。「hallucination」（ハルシネーション）として知られるこの現象は、AI駆動ソリューションの信頼性を損なう可能性があります。 このガイドでは、ハルシネーションを最小限に抑え、Claudeの出力が正確で信頼できるものであることを保証するためのテクニックを探ります。



基本的なハルシネーション最小化戦略

• Claudeに「わかりません」と言うことを許可する: Claudeに不確実性を認める許可を明示的に与えます。このシンプルなテクニックにより、誤った情報を大幅に減らすことができます。

• 事実の根拠付けに直接引用を使用する: 長いドキュメント（20kトークン超）を扱うタスクでは、タスクを実行する前に、まずClaudeに一語一句そのままの引用を抽出するよう依頼します。これにより、応答が実際のテキストに根拠付けられ、ハルシネーションが減少します。

• 引用で検証する: Claudeの各主張に対して引用と出典を示させることで、Claudeの応答を監査可能にします。また、応答を生成した後に、各主張を裏付ける引用を見つけさせることで検証させることもできます。引用が見つからない場合は、その主張を撤回しなければなりません。



高度なテクニック

• 思考の連鎖による検証: 最終的な回答を出す前に、Claudeに推論をステップバイステップで説明するよう依頼します。これにより、誤った論理や仮定が明らかになることがあります。

• Best-of-N検証: 同じプロンプトでClaudeを複数回実行し、出力を比較します。出力間の不整合はハルシネーションを示している可能性があります。

• 反復的な改善: Claudeの出力をフォローアッププロンプトの入力として使用し、以前の記述を検証または拡張するよう依頼します。これにより、不整合を発見して修正できます。

• 外部知識の制限: 提供されたドキュメントの情報のみを使用し、一般的な知識を使用しないようにClaudeに明示的に指示します。