Streaming-Ablehnungen

Ab den Claude 4-Modellen geben Streaming-Antworten von Claudes API stop_reason: "refusal" zurück, wenn Streaming-Klassifikatoren eingreifen, um potenzielle Richtlinienverstöße zu behandeln. Diese neue Sicherheitsfunktion hilft dabei, die Einhaltung von Inhaltsrichtlinien während des Echtzeit-Streamings zu gewährleisten.



API-Antwortformat

Wenn Streaming-Klassifikatoren Inhalte erkennen, die gegen die Richtlinien von Anthropic verstoßen, gibt die API diese Antwort zurück:

{
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello.."
    }
  ],
  "stop_reason": "refusal"
}



Kontext nach Ablehnung zurücksetzen

Wenn du stop_reason: refusal erhältst, musst du den Konversationskontext zurücksetzen, bevor du fortfährst. Du kannst den Turn, der die Ablehnung ausgelöst hat, entfernen oder umformulieren, oder den Konversationsverlauf vollständig löschen. Wenn du versuchst, ohne Zurücksetzen fortzufahren, führt dies zu weiteren Ablehnungen.



Implementierungsleitfaden

So erkennst und behandelst du Streaming-Ablehnungen in deiner Anwendung:



Aktuelle Ablehnungstypen

Die API behandelt Ablehnungen derzeit auf drei verschiedene Arten:



Best Practices

• Auf Ablehnungen überwachen: Füge Prüfungen auf stop_reason: refusal in deine Fehlerbehandlung ein
• Automatisch zurücksetzen: Implementiere ein automatisches Zurücksetzen des Kontexts, wenn Ablehnungen erkannt werden
• Benutzerdefinierte Nachrichten bereitstellen: Erstelle benutzerfreundliche Nachrichten für eine bessere UX, wenn Ablehnungen auftreten
• Ablehnungsmuster verfolgen: Überwache die Häufigkeit von Ablehnungen, um potenzielle Probleme mit deinen Prompts zu identifizieren



Migrationshinweise

• Zukünftige Modelle werden dieses Muster auf andere Ablehnungstypen ausweiten
• Plane deine Fehlerbehandlung so, dass sie eine zukünftige Vereinheitlichung von Ablehnungsantworten berücksichtigt