Кредит резервного переключения

Кэши подсказок привязаны к конкретной модели. Когда Claude Fable 5 отклоняет запрос и вы повторяете его на другой модели, префикс разговора, который уже был закэширован для Claude Fable 5, должен быть записан в кэш новой модели с нуля. Записи в кэш стоят дороже, чем чтения из кэша. «Fallback credit» (кредит резервного переключения) устраняет эту дополнительную стоимость. Отказ содержит токен кредита, вы передаёте этот токен в повторном запросе, и повторный запрос тарифицируется так, как будто разговор с самого начала вёлся на новой модели.

Эта страница нужна вам только в том случае, если вы строите повторный запрос самостоятельно: через «сырой» HTTP или с помощью собственной логики повторных попыток. Серверное резервное переключение и промежуточное ПО SDK применяют кредит резервного переключения автоматически. Если вы используете любой из них, пропустите эту страницу.

Отказы и резервное переключение описывает обнаружение отказов и выбор подхода к резервному переключению. Кэширование подсказок объясняет чтения из кэша и записи в кэш, если эти термины для вас новые.



Базовый процесс

Поле fallback_has_prefill_claim сообщает вам, может ли повторный запрос продолжить частичный вывод отклонившей модели вместо того, чтобы начинать заново:



Пример

Следующий пример выполняет запрос, который может быть отклонён, и погашает токен кредита в повторном запросе к Claude Opus 4.8. Когда попытка повтора отклоняется, пример спускается по лестнице отклонений: последовательности постепенно упрощающихся форм повторного запроса, описанной в разделе Когда повторный запрос отклонён.

client = Anthropic()

request = {
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Hello, Claude"}],
}


def send(model: str, body: dict[str, object]) -> BetaMessage:
    return client.beta.messages.create(
        model=model, betas=["fallback-credit-2026-07-01"], **body
    )


response = send("claude-fable-5", request)

if (
    response.stop_reason == "refusal"
    and (details := response.stop_details)
    and (token := details.fallback_credit_token)
):
    exact_body = request | {"fallback_credit_token": token}
    # Предпочитаем форму продолжения, если утверждение не равно False
    if details.fallback_has_prefill_claim is not False:
        echoed = [block.model_dump() for block in response.content]
        match echoed:
            case [*_, {"type": "text"} as final_block]:
                final_block["text"] = final_block["text"].rstrip()
        attempt = exact_body | {
            "messages": [
                *request["messages"],
                {"role": "assistant", "content": echoed},
            ]
        }
    else:
        attempt = exact_body

    try:
        response = send("claude-opus-4-8", attempt)
    except BadRequestError as error:
        if "redemption temporarily unavailable" in error.message:
            raise  # Transient: retry with the token within its five-minute window
        try:
            # Возвращаемся к неизменённому телу, по-прежнему с токеном
            response = send("claude-opus-4-8", exact_body)
        except BadRequestError as retry_error:
            if "redemption temporarily unavailable" in retry_error.message:
                raise  # Transient: retry with the token within its five-minute window
            # Сам токен был отклонён: отказываемся от него и повторяем попытку без него.
            response = send("claude-opus-4-8", request)

print(json.dumps({"stop_reason": response.stop_reason, "model": response.model}))



Где это работает

Кредит резервного переключения находится в бета-версии в Claude API, Amazon Bedrock, Claude Platform на AWS, Google Cloud и Microsoft Foundry. Отказы в Message Batches не создают токены кредита, а погашение применяется только к прямым запросам Messages API: токен, переданный в пакетном запросе, принимается, но игнорируется.

Модель повторного запроса должна быть одной из разрешённых целевых моделей резервного переключения для отклонившей модели. Разрешённые целевые модели для Claude Fable 5 — это Claude Opus 4.8 (claude-opus-4-8) и Claude Opus 5 (claude-opus-5).



Проверка того, что кредит применён

Возврат виден в usage повторного запроса. По сравнению с тем, что тот же запрос сообщил бы без токена, cache_creation_input_tokens ниже, а cache_read_input_tokens выше на ту же величину. Нулевой сдвиг означает, что токен был принят, но переоценивать было нечего, например потому, что кэш модели повторного запроса уже был прогрет.



Когда повторный запрос отклонён

Большинство повторных запросов погашаются с первой попытки. Когда этого не происходит, API возвращает ошибку 400, которая сообщает вам, что попробовать дальше.



Справочник

Разделы ниже описывают граничные случаи и полные правила погашения. Большинству интеграций они не нужны.



Следующие шаги