Halluzinationen reduzieren

Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Text generieren, der faktisch falsch oder inkonsistent mit dem gegebenen Kontext ist. Dieses Phänomen, bekannt als „hallucination" (Halluzination), kann die Zuverlässigkeit deiner KI-gestützten Lösungen beeinträchtigen. Dieser Leitfaden untersucht Techniken, um Halluzinationen zu minimieren und sicherzustellen, dass Claudes Ausgaben genau und vertrauenswürdig sind.



Grundlegende Strategien zur Minimierung von Halluzinationen

• Erlaube Claude, „Ich weiß es nicht" zu sagen: Gib Claude ausdrücklich die Erlaubnis, Unsicherheit einzugestehen. Diese einfache Technik kann falsche Informationen drastisch reduzieren.

• Verwende direkte Zitate zur faktischen Verankerung: Bitte Claude bei Aufgaben mit langen Dokumenten (>20k Token), zuerst wortwörtliche Zitate zu extrahieren, bevor es seine Aufgabe ausführt. Dies verankert seine Antworten im tatsächlichen Text und reduziert Halluzinationen.

• Verifizierung durch Quellenangaben: Mache Claudes Antwort überprüfbar, indem du es Zitate und Quellen für jede seiner Aussagen angeben lässt. Du kannst Claude auch jede Aussage verifizieren lassen, indem es nach dem Generieren einer Antwort ein unterstützendes Zitat sucht. Wenn es kein Zitat finden kann, muss es die Aussage zurückziehen.



Fortgeschrittene Techniken

• Chain-of-thought-Verifizierung: Bitte Claude, seine Argumentation Schritt für Schritt zu erklären, bevor es eine endgültige Antwort gibt. Dies kann fehlerhafte Logik oder Annahmen aufdecken.

• Best-of-N-Verifizierung: Lasse Claude denselben Prompt mehrmals durchlaufen und vergleiche die Ausgaben. Inkonsistenzen zwischen den Ausgaben könnten auf Halluzinationen hindeuten.

• Iterative Verfeinerung: Verwende Claudes Ausgaben als Eingaben für Folge-Prompts und bitte es, frühere Aussagen zu verifizieren oder zu erweitern. Dies kann Inkonsistenzen aufdecken und korrigieren.

• Einschränkung auf externes Wissen: Weise Claude ausdrücklich an, nur Informationen aus den bereitgestellten Dokumenten zu verwenden und nicht sein Allgemeinwissen.