Reducir las alucinaciones

Incluso los modelos de lenguaje más avanzados, como Claude, a veces pueden generar texto que es incorrecto en cuanto a los hechos o inconsistente con el contexto dado. Este fenómeno, conocido como “hallucination” (alucinación), puede socavar la confiabilidad de tus soluciones impulsadas por IA. Esta guía explora técnicas para minimizar las alucinaciones y asegurar que las respuestas de Claude sean precisas y confiables.

Estrategias básicas para minimizar las alucinaciones

• Permite que Claude diga “No lo sé”: Dale explícitamente a Claude permiso para admitir incertidumbre. Esta técnica puede reducir drásticamente la información falsa.

As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

<report>
{{REPORT}}
</report>

Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."

• Usa citas directas para la fundamentación factual: Para tareas que involucran documentos largos (>20k tokens), pídele a Claude que primero extraiga citas textuales palabra por palabra antes de realizar su tarea. Esto fundamenta sus respuestas en el texto real, reduciendo las alucinaciones.

As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>

1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.

• Verifica con citas: Haz que la respuesta de Claude sea auditable pidiéndole que cite textos y fuentes para cada una de sus afirmaciones. También puedes hacer que Claude verifique cada afirmación buscando una cita que la respalde después de generar una respuesta. Si no puede encontrar una cita, debe retractarse de la afirmación.

Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>

After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

Técnicas avanzadas

• Verificación de “chain-of-thought” (cadena de pensamiento): Usa el pensamiento con display: "summarized" y revisa el razonamiento resumido en los bloques thinking cuando una respuesta parezca incorrecta. Esto puede revelar lógica o suposiciones defectuosas.

• Verificación “best-of-N” (mejor de N): Ejecuta Claude con el mismo prompt varias veces y compara las respuestas. Las inconsistencias entre las respuestas podrían indicar alucinaciones.

• Refinamiento iterativo: Usa las respuestas de Claude como entradas para prompts de seguimiento, pidiéndole que verifique o amplíe declaraciones anteriores. Esto puede detectar y corregir inconsistencias.

• Restricción de conocimiento externo: Indica explícitamente a Claude que solo use información de los documentos proporcionados y no su conocimiento general.