Reduzir alucinações

Mesmo os modelos de linguagem mais avançados, como o Claude, podem às vezes gerar texto factualmente incorreto ou inconsistente com o contexto fornecido. Esse fenômeno, conhecido como "hallucination" (alucinação), pode comprometer a confiabilidade das suas soluções baseadas em IA. Este guia explorará técnicas para minimizar alucinações e garantir que as saídas do Claude sejam precisas e confiáveis.

Estratégias básicas de minimização de alucinações

• Permita que o Claude diga "Não sei": Dê explicitamente ao Claude permissão para admitir incerteza. Essa técnica simples pode reduzir drasticamente informações falsas.

As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

<report>
{{REPORT}}
</report>

Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."

• Use citações diretas para fundamentação factual: Para tarefas que envolvem documentos longos (>20 mil tokens), peça ao Claude para extrair primeiro citações palavra por palavra antes de executar sua tarefa. Isso fundamenta suas respostas no texto real, reduzindo alucinações.

As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>

1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.

• Verifique com citações: Torne a resposta do Claude auditável fazendo com que ele cite trechos e fontes para cada uma de suas afirmações. Você também pode fazer com que o Claude verifique cada afirmação encontrando uma citação de apoio depois de gerar uma resposta. Se ele não conseguir encontrar uma citação, deve retirar a afirmação.

Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>

After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

Técnicas avançadas

• Verificação por "chain-of-thought" (cadeia de pensamento): Peça ao Claude para explicar seu raciocínio passo a passo antes de dar uma resposta final. Isso pode revelar lógica ou suposições falhas.

• Verificação "best-of-N" (melhor de N): Execute o Claude com o mesmo prompt várias vezes e compare as saídas. Inconsistências entre as saídas podem indicar alucinações.

• Refinamento iterativo: Use as saídas do Claude como entradas para prompts de acompanhamento, pedindo que ele verifique ou expanda afirmações anteriores. Isso pode detectar e corrigir inconsistências.

• Restrição de conhecimento externo: Instrua explicitamente o Claude a usar apenas informações dos documentos fornecidos e não seu conhecimento geral.