ハルシネーションを減らす

Claudeのような最先端の言語モデルであっても、事実と異なるテキストや、与えられたコンテキストと矛盾するテキストを生成することがあります。この現象は「hallucination」（ハルシネーション）と呼ばれ、AIを活用したソリューションの信頼性を損なう可能性があります。 このガイドでは、ハルシネーションを最小限に抑え、Claudeの出力が正確で信頼できるものになるようにするためのテクニックを紹介します。



基本的なハルシネーション最小化戦略

• Claudeに「わかりません」と言うことを許可する： 不確実性を認めることをClaudeに明示的に許可します。このシンプルなテクニックにより、誤った情報を大幅に減らすことができます。

• 事実の根拠として直接引用を使用する： 長いドキュメント（20,000トークン超）を扱うタスクでは、タスクを実行する前に、まずClaudeに逐語的な引用を抽出するよう依頼します。これにより、応答が実際のテキストに基づいたものとなり、ハルシネーションが減少します。

• 引用による検証： Claudeに各主張について引用と出典を明記させることで、応答を監査可能にします。また、応答を生成した後に、各主張を裏付ける引用を見つけさせることで検証させることもできます。引用が見つからない場合は、その主張を撤回しなければなりません。



高度なテクニック

• 思考の連鎖による検証： 最終的な回答を出す前に、Claudeに推論をステップごとに説明させます。これにより、誤った論理や前提が明らかになることがあります。

• Best-of-N検証： 同じプロンプトでClaudeを複数回実行し、出力を比較します。出力間の不整合は、ハルシネーションを示している可能性があります。

• 反復的な改善： Claudeの出力をフォローアッププロンプトの入力として使用し、以前の記述を検証または詳述するよう依頼します。これにより、不整合を発見して修正できます。

• 外部知識の制限： 提供されたドキュメントの情報のみを使用し、一般的な知識を使用しないようClaudeに明示的に指示します。