ストリーミングの拒否

Claude 4モデル以降、ClaudeのAPIからのストリーミングレスポンスは、ストリーミング分類器が潜在的なポリシー違反を処理するために介入した場合に stop_reason: "refusal" を返します。この新しい安全機能は、リアルタイムストリーミング中のコンテンツコンプライアンスの維持に役立ちます。



APIレスポンス形式

ストリーミング分類器がAnthropicのポリシーに違反するコンテンツを検出すると、APIは次のレスポンスを返します。

{
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello.."
    }
  ],
  "stop_reason": "refusal"
}



拒否後のコンテキストのリセット

stop_reason: refusal を受け取った場合、続行する前に会話のコンテキストをリセットする必要があります。拒否をトリガーしたターンを削除または言い換えるか、会話履歴を完全にクリアすることができます。リセットせずに続行しようとすると、拒否が継続されます。



実装ガイド

アプリケーションでストリーミングの拒否を検出して処理する方法は次のとおりです。

client = anthropic.Anthropic()
messages = []


def reset_conversation():
    """Reset conversation context after refusal"""
    global messages
    messages = []
    print("Conversation reset due to refusal")


try:
    with client.messages.stream(
        max_tokens=1024,
        messages=messages + [{"role": "user", "content": "Hello"}],
        model="claude-opus-4-8",
    ) as stream:
        for event in stream:
            # メッセージデルタ内の拒否を確認
            if event.type == "message_delta":
                if event.delta.stop_reason == "refusal":
                    reset_conversation()
                    break
except Exception as e:
    print(f"Error: {e}")



現在の拒否タイプ

APIは現在、拒否を3つの異なる方法で処理しています。



ベストプラクティス

• 拒否を監視する：エラー処理に stop_reason: refusal のチェックを含めます
• 自動的にリセットする：拒否が検出されたときに自動的にコンテキストをリセットする仕組みを実装します
• カスタムメッセージを提供する：拒否が発生した際のUXを向上させるために、ユーザーフレンドリーなメッセージを作成します
• 拒否パターンを追跡する：拒否の頻度を監視して、プロンプトの潜在的な問題を特定します



移行に関する注意事項

• 将来のモデルでは、このパターンが他の拒否タイプにも拡張される予定です
• 拒否レスポンスの将来的な統一に対応できるように、エラー処理を計画してください