Réduire les hallucinations

Même les modèles de langage les plus avancés, comme Claude, peuvent parfois générer du texte factuellement incorrect ou incohérent avec le contexte donné. Ce phénomène, connu sous le nom d’« hallucination », peut compromettre la fiabilité de vos solutions basées sur l’IA. Ce guide explore des techniques pour minimiser les hallucinations et garantir que les sorties de Claude sont exactes et dignes de confiance.

Stratégies de base pour minimiser les hallucinations

• Permettez à Claude de dire « Je ne sais pas » : Donnez explicitement à Claude la permission d’admettre son incertitude. Cette technique peut réduire considérablement les informations erronées.

As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

<report>
{{REPORT}}
</report>

Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."

• Utilisez des citations directes pour un ancrage factuel : Pour les tâches impliquant de longs documents (>20k tokens), demandez à Claude d’extraire d’abord des citations mot pour mot avant d’effectuer sa tâche. Cela ancre ses réponses dans le texte réel, réduisant ainsi les hallucinations.

As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>

1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.

• Vérifiez à l’aide de citations : Rendez la réponse de Claude vérifiable en lui demandant de citer des extraits et des sources pour chacune de ses affirmations. Vous pouvez également demander à Claude de vérifier chaque affirmation en trouvant une citation à l’appui après avoir généré une réponse. S’il ne trouve pas de citation, il doit retirer l’affirmation.

Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>

After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

Techniques avancées

• Vérification par « chain-of-thought » (chaîne de pensée) : Utilisez la réflexion avec display: "summarized", et examinez le raisonnement résumé dans les blocs thinking lorsqu’une réponse semble incorrecte. Cela peut révéler une logique ou des hypothèses erronées.

• Vérification « best-of-N » (meilleur parmi N) : Soumettez plusieurs fois le même prompt à Claude et comparez les sorties. Des incohérences entre les sorties pourraient indiquer des hallucinations.

• Affinement itératif : Utilisez les sorties de Claude comme entrées pour des prompts de suivi, en lui demandant de vérifier ou de développer ses déclarations précédentes. Cela peut permettre de détecter et de corriger les incohérences.

• Restriction des connaissances externes : Indiquez explicitement à Claude de n’utiliser que les informations provenant des documents fournis et non ses connaissances générales.