幻覚を減らす

Claude のような最も高度な言語モデルでも、事実的に正確でない、または与えられたコンテキストと矛盾するテキストを生成することがあります。この現象は「幻覚」として知られており、AI 駆動型ソリューションの信頼性を損なう可能性があります。 このガイドでは、幻覚を最小化し、Claude の出力が正確で信頼できることを確保するための技術を探索します。

基本的な幻覚最小化戦略

• Claude に「わかりません」と言うことを許可する： Claude に不確実性を認める許可を明示的に与えます。この単純な技術は、誤った情報を大幅に減らすことができます。

• 直接引用を事実の根拠として使用する： 長いドキュメント（>20k トークン）に関連するタスクの場合、Claude にタスクを実行する前に、まず逐語的な引用を抽出するよう依頼します。これにより、その応答が実際のテキストに根拠づけられ、幻覚が減少します。

• 引用で検証する： Claude の応答を監査可能にするために、各主張について引用と出典を引用させます。Claude に応答を生成した後、各主張を検証するために支持する引用を見つけさせることもできます。引用が見つからない場合は、主張を撤回する必要があります。

高度な技術

• 思考の連鎖検証： Claude に最終的な答えを与える前に、段階的に推論を説明するよう依頼します。これにより、欠陥のあるロジックまたは仮定を明らかにすることができます。

• 最良の N 検証： 同じプロンプトで Claude を複数回実行し、出力を比較します。出力全体の矛盾は幻覚を示す可能性があります。

• 反復的な改善： Claude の出力を後続のプロンプトの入力として使用し、前の陳述を検証または拡張するよう依頼します。これにより、矛盾を検出して修正できます。

• 外部知識の制限： Claude に提供されたドキュメントからの情報のみを使用し、一般的な知識を使用しないよう明示的に指示します。