Ridurre le allucinazioni

Anche i modelli linguistici più avanzati, come Claude, possono talvolta generare testo fattualmente errato o incoerente con il contesto fornito. Questo fenomeno, noto come "hallucination" (allucinazione), può compromettere l'affidabilità delle tue soluzioni basate sull'IA. Questa guida esplorerà le tecniche per ridurre al minimo le allucinazioni e garantire che gli output di Claude siano accurati e affidabili.

Strategie di base per ridurre al minimo le allucinazioni

• Consenti a Claude di dire "Non lo so": Dai esplicitamente a Claude il permesso di ammettere l'incertezza. Questa semplice tecnica può ridurre drasticamente le informazioni false.

As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

<report>
{{REPORT}}
</report>

Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."

• Usa citazioni dirette per l'ancoraggio fattuale: Per attività che coinvolgono documenti lunghi (>20k token), chiedi a Claude di estrarre prima citazioni parola per parola prima di svolgere il suo compito. Questo ancora le sue risposte al testo effettivo, riducendo le allucinazioni.

As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>

1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.

• Verifica con citazioni: Rendi verificabile la risposta di Claude facendogli citare passaggi e fonti per ciascuna delle sue affermazioni. Puoi anche far verificare a Claude ogni affermazione trovando una citazione di supporto dopo che ha generato una risposta. Se non riesce a trovare una citazione, deve ritirare l'affermazione.

Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>

After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

Tecniche avanzate

• Verifica tramite chain-of-thought: Chiedi a Claude di spiegare il suo ragionamento passo dopo passo prima di dare una risposta finale. Questo può rivelare logiche o presupposti errati.

• Verifica Best-of-N: Esegui Claude con lo stesso prompt più volte e confronta gli output. Le incoerenze tra gli output potrebbero indicare allucinazioni.

• Raffinamento iterativo: Usa gli output di Claude come input per prompt successivi, chiedendogli di verificare o approfondire le affermazioni precedenti. Questo può individuare e correggere le incoerenze.

• Restrizione della conoscenza esterna: Istruisci esplicitamente Claude a usare solo le informazioni dei documenti forniti e non la sua conoscenza generale.