Быстрый режим (исследовательская предварительная версия)

Быстрый режим обеспечивает до 2,5 раз больше выходных токенов в секунду от Claude Opus 4.8 и Claude Opus 4.7 по премиальной цене. Установите speed: "fast" вместе с бета-заголовком fast-mode-2026-02-01 в вашем запросе, чтобы включить эту функцию.



Поддерживаемые модели

Быстрый режим поддерживается для следующих моделей:

• Claude Opus 4.8 (claude-opus-4-8)
• Claude Opus 4.7 (claude-opus-4-7)



Как работает быстрый режим

Быстрый режим запускает ту же модель с более быстрой конфигурацией инференса. Интеллект и возможности модели не меняются.

• До 2,5 раз больше выходных токенов в секунду по сравнению со стандартной скоростью
• Преимущества в скорости сосредоточены на показателе «output tokens per second» (выходные токены в секунду), или OTPS, а не на «time to first token» (время до первого токена), или TTFT
• Те же веса модели и поведение (это не другая модель)
• Совместим с потоковой передачей, где прирост OTPS наиболее заметен



Базовое использование

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-opus-4-8",
    max_tokens=4096,
    speed="fast",
    betas=["fast-mode-2026-02-01"],
    messages=[
        {"role": "user", "content": "Refactor this module to use dependency injection"}
    ],
)

print(response.content[0].text)



Цены

Быстрый режим тарифицируется с применением множителя, зависящего от модели, к стандартным тарифам по всему контекстному окну, включая запросы с более чем 200 тыс. входных токенов. В следующей таблице приведены цены быстрого режима для каждой поддерживаемой модели:

Цены быстрого режима суммируются с другими модификаторами цен:

• Множители кэширования подсказок применяются поверх цен быстрого режима
• Множители резидентности данных применяются поверх цен быстрого режима

Полную информацию о ценах см. на странице цен.



Ограничения скорости

Быстрый режим имеет отдельное ограничение скорости, не связанное со стандартными ограничениями скорости для Opus. Когда ваше ограничение скорости быстрого режима превышено, API возвращает ошибку 429 с заголовком retry-after, указывающим, когда ёмкость станет доступна.

Ответ включает заголовки, которые указывают статус вашего ограничения скорости быстрого режима:

Ограничения скорости для конкретных уровней см. на странице ограничений скорости.



Проверка использованной скорости

Объект usage в ответе включает поле speed, которое указывает, какая скорость была использована: "fast" или "standard". На поддерживаемых моделях быстрый режим не переключается незаметно на стандартную скорость при достижении ограничений скорости или нехватке ёмкости (вместо этого вы получите 429 или 529), поэтому когда вы запрашиваете speed: "fast" для Claude Opus 4.8 или Claude Opus 4.7, usage.speed будет равно "fast". Для Claude Opus 4.6, где быстрый режим недоступен, запросы с speed: "fast" выполняются на стандартной скорости и возвращают usage.speed: "standard". Проверяйте это поле, чтобы подтвердить, какая скорость обслужила запрос.

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    speed="fast",
    betas=["fast-mode-2026-02-01"],
    messages=[{"role": "user", "content": "Hello"}],
)

print(response.usage.speed)  # "fast" or "standard"

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
// ...
  "usage": {
    "input_tokens": 8,
    "output_tokens": 12,
    "speed": "fast"
  }
}

Чтобы отслеживать использование и затраты быстрого режима в вашей организации, см. Usage and Cost API.



Повторные попытки и резервный вариант



Автоматические повторные попытки

Когда ограничения скорости быстрого режима превышены, API возвращает ошибку 429 с заголовком retry-after. SDK Anthropic автоматически повторяют эти запросы до 2 раз по умолчанию (настраивается с помощью max_retries), ожидая указанную сервером задержку перед каждой повторной попыткой. Поскольку быстрый режим использует непрерывное пополнение токенов, задержка retry-after обычно короткая, и запросы выполняются успешно, как только ёмкость становится доступной.



Переключение на стандартную скорость

Если вы предпочитаете переключиться на стандартную скорость, а не ждать ёмкости быстрого режима, перехватите ошибку ограничения скорости и повторите запрос без speed: "fast". Установите max_retries в 0 для первоначального быстрого запроса, чтобы пропустить автоматические повторные попытки и немедленно завершиться с ошибкой при ошибках ограничения скорости.

Поскольку установка max_retries в 0 также отключает повторные попытки для других временных ошибок (перегрузка, внутренние ошибки сервера), следующие примеры повторно отправляют исходный запрос с повторными попытками по умолчанию для таких случаев.

client = anthropic.Anthropic()


def create_message_with_fast_fallback(max_retries=0, max_attempts=3, **params):
    try:
        return client.with_options(max_retries=max_retries).beta.messages.create(
            **params
        )
    except anthropic.RateLimitError:
        if params.get("speed") == "fast":
            del params["speed"]
            return create_message_with_fast_fallback(max_retries=max_retries, **params)
        raise
    except (
        anthropic.APIStatusError,
        anthropic.APIConnectionError,
    ) as error:
        if isinstance(error, anthropic.APIStatusError) and error.status_code < 500:
            raise
        if max_attempts > 1:
            return create_message_with_fast_fallback(
                max_retries=max_retries, max_attempts=max_attempts - 1, **params
            )
        raise


message = create_message_with_fast_fallback(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello"}],
    betas=["fast-mode-2026-02-01"],
    speed="fast",
    max_retries=0,
)



Особенности

• Кэширование подсказок: Переключение между быстрой и стандартной скоростью делает кэш подсказок недействительным. Запросы на разных скоростях не используют общие кэшированные префиксы.
• Поддерживаемые модели: Быстрый режим поддерживается для Claude Opus 4.8 и Claude Opus 4.7 (быстрый режим объявлен устаревшим; удаление 24 июля 2026 года, сама модель не затрагивается). Для Claude Opus 4.6 запросы с speed: "fast" не возвращают ошибку: они выполняются на стандартной скорости и тарифицируются по стандартным тарифам. Для любой другой модели отправка speed: "fast" возвращает ошибку.
• TTFT: Преимущества быстрого режима сосредоточены на показателе выходных токенов в секунду (OTPS), а не на времени до первого токена (TTFT).
• Batch API: Быстрый режим недоступен с Batch API.
• Priority Tier: Быстрый режим недоступен с обязательством Priority Tier.
• Claude Platform на AWS: Быстрый режим в настоящее время недоступен на Claude Platform на AWS.



Дальнейшие шаги