Halluzinationen reduzieren

Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Text generieren, der faktisch falsch ist oder nicht mit dem gegebenen Kontext übereinstimmt. Dieses Phänomen, bekannt als „hallucination“ (Halluzination), kann die Zuverlässigkeit deiner KI-gestützten Lösungen untergraben. Dieser Leitfaden stellt Techniken vor, um Halluzinationen zu minimieren und sicherzustellen, dass Claudes Ausgaben genau und vertrauenswürdig sind.

Grundlegende Strategien zur Minimierung von Halluzinationen

• Erlaube Claude, „Ich weiß es nicht“ zu sagen: Gib Claude ausdrücklich die Erlaubnis, Unsicherheit zuzugeben. Diese einfache Technik kann falsche Informationen drastisch reduzieren.

As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

<report>
{{REPORT}}
</report>

Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."

• Verwende direkte Zitate zur faktischen Fundierung: Bitte Claude bei Aufgaben mit langen Dokumenten (>20k Token), zuerst wortwörtliche Zitate zu extrahieren, bevor es seine Aufgabe ausführt. Dadurch werden seine Antworten im tatsächlichen Text verankert, was Halluzinationen reduziert.

As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>

1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.

• Überprüfe mit Quellenangaben: Mache Claudes Antwort nachprüfbar, indem du es für jede seiner Behauptungen Zitate und Quellen angeben lässt. Du kannst Claude auch jede Behauptung überprüfen lassen, indem es nach dem Generieren einer Antwort ein stützendes Zitat sucht. Wenn es kein Zitat findet, muss es die Behauptung zurückziehen.

Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>

After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

Fortgeschrittene Techniken

• Chain-of-Thought-Überprüfung: Bitte Claude, seine Überlegungen Schritt für Schritt zu erklären, bevor es eine endgültige Antwort gibt. Dies kann fehlerhafte Logik oder Annahmen aufdecken.

• Best-of-N-Überprüfung: Lass Claude denselben Prompt mehrmals durchlaufen und vergleiche die Ausgaben. Inkonsistenzen zwischen den Ausgaben könnten auf Halluzinationen hinweisen.

• Iterative Verfeinerung: Verwende Claudes Ausgaben als Eingaben für Folge-Prompts und bitte es, frühere Aussagen zu überprüfen oder zu erweitern. So lassen sich Inkonsistenzen erkennen und korrigieren.

• Einschränkung externen Wissens: Weise Claude ausdrücklich an, nur Informationen aus den bereitgestellten Dokumenten und nicht sein allgemeines Wissen zu verwenden.