Fast mode (리서치 프리뷰)

Fast mode는 Claude Opus 4.8 및 Claude Opus 4.7에서 프리미엄 가격으로 초당 출력 토큰을 최대 2.5배 더 높게 제공합니다. 요청에 fast-mode-2026-02-01 베타 헤더와 함께 speed: "fast"를 설정하여 옵트인하세요.



지원되는 모델

Fast mode는 다음 모델에서 지원됩니다:

• Claude Opus 4.8 (claude-opus-4-8)
• Claude Opus 4.7 (claude-opus-4-7)



Fast mode 작동 방식

Fast mode는 더 빠른 추론 구성으로 동일한 모델을 실행합니다. 지능이나 기능에는 변화가 없습니다.

• 표준 속도 대비 초당 출력 토큰 최대 2.5배 증가
• 속도 이점은 "time to first token"(첫 토큰까지의 시간), 즉 TTFT가 아닌 "output tokens per second"(초당 출력 토큰), 즉 OTPS에 집중됩니다
• 동일한 모델 가중치 및 동작 (다른 모델이 아님)
• OTPS 향상이 가장 잘 드러나는 스트리밍과 호환됩니다



기본 사용법

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-opus-4-8",
    max_tokens=4096,
    speed="fast",
    betas=["fast-mode-2026-02-01"],
    messages=[
        {"role": "user", "content": "Refactor this module to use dependency injection"}
    ],
)

print(response.content[0].text)



가격

Fast mode는 200k 입력 토큰을 초과하는 요청을 포함하여 전체 컨텍스트 윈도우에 걸쳐 표준 요금에 모델별 배수를 적용한 가격으로 책정됩니다. 다음 표는 지원되는 각 모델의 fast mode 가격을 보여줍니다:

Fast mode 가격은 다른 가격 조정 요소와 중첩 적용됩니다:

• 프롬프트 캐싱 배수는 fast mode 가격 위에 추가로 적용됩니다
• 데이터 레지던시 배수는 fast mode 가격 위에 추가로 적용됩니다

전체 가격 세부 정보는 가격 페이지를 참조하세요.



속도 제한

Fast mode는 표준 Opus 속도 제한과 별개인 전용 속도 제한을 가집니다. Fast mode 속도 제한을 초과하면 API는 용량이 사용 가능해지는 시점을 나타내는 retry-after 헤더와 함께 429 오류를 반환합니다.

응답에는 fast mode 속도 제한 상태를 나타내는 헤더가 포함됩니다:

티어별 속도 제한은 속도 제한 페이지를 참조하세요.



사용된 속도 확인하기

응답의 usage 객체에는 사용된 속도를 나타내는 speed 필드가 포함되며, 값은 "fast" 또는 "standard"입니다. 지원되는 모델에서는 속도 제한이나 용량 부족 시 fast mode가 표준 속도로 조용히 폴백하지 않으므로(대신 429 또는 529를 받게 됩니다), Claude Opus 4.8 또는 Claude Opus 4.7에서 speed: "fast"를 요청하면 usage.speed는 "fast"입니다. Fast mode를 사용할 수 없는 Claude Opus 4.6에서는 speed: "fast"로 보낸 요청이 표준 속도로 실행되고 usage.speed: "standard"를 반환합니다. 이 필드를 확인하여 요청이 어떤 속도로 처리되었는지 확인하세요.

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    speed="fast",
    betas=["fast-mode-2026-02-01"],
    messages=[{"role": "user", "content": "Hello"}],
)

print(response.usage.speed)  # "fast" or "standard"

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
// ...
  "usage": {
    "input_tokens": 8,
    "output_tokens": 12,
    "speed": "fast"
  }
}

조직 전체의 fast mode 사용량 및 비용을 추적하려면 Usage and Cost API를 참조하세요.



재시도 및 폴백



자동 재시도

Fast mode 속도 제한을 초과하면 API는 retry-after 헤더와 함께 429 오류를 반환합니다. Anthropic SDK는 기본적으로 이러한 요청을 최대 2회까지 자동으로 재시도하며(max_retries로 구성 가능), 각 재시도 전에 서버가 지정한 지연 시간만큼 대기합니다. Fast mode는 지속적인 토큰 보충을 사용하므로 retry-after 지연은 일반적으로 짧으며, 용량이 확보되면 요청이 성공합니다.



표준 속도로 폴백하기

Fast mode 용량을 기다리는 대신 표준 속도로 폴백하려면 속도 제한 오류를 캐치하고 speed: "fast" 없이 재시도하세요. 초기 fast 요청에서 max_retries를 0으로 설정하면 자동 재시도를 건너뛰고 속도 제한 오류 시 즉시 실패합니다.

max_retries를 0으로 설정하면 다른 일시적 오류(과부하, 내부 서버 오류)에 대한 재시도도 비활성화되므로, 다음 예제에서는 이러한 경우에 대해 기본 재시도 설정으로 원래 요청을 다시 보냅니다.

client = anthropic.Anthropic()


def create_message_with_fast_fallback(max_retries=0, max_attempts=3, **params):
    try:
        return client.with_options(max_retries=max_retries).beta.messages.create(
            **params
        )
    except anthropic.RateLimitError:
        if params.get("speed") == "fast":
            del params["speed"]
            return create_message_with_fast_fallback(max_retries=max_retries, **params)
        raise
    except (
        anthropic.APIStatusError,
        anthropic.APIConnectionError,
    ) as error:
        if isinstance(error, anthropic.APIStatusError) and error.status_code < 500:
            raise
        if max_attempts > 1:
            return create_message_with_fast_fallback(
                max_retries=max_retries, max_attempts=max_attempts - 1, **params
            )
        raise


message = create_message_with_fast_fallback(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello"}],
    betas=["fast-mode-2026-02-01"],
    speed="fast",
    max_retries=0,
)



고려 사항

• 프롬프트 캐싱: Fast와 표준 속도 간 전환은 프롬프트 캐시를 무효화합니다. 서로 다른 속도의 요청은 캐시된 프리픽스를 공유하지 않습니다.
• 지원되는 모델: Fast mode는 Claude Opus 4.8 및 Claude Opus 4.7(fast mode 지원 중단됨; 2026년 7월 24일 제거 예정, 모델 자체는 영향 없음)에서 지원됩니다. Claude Opus 4.6에서는 speed: "fast"로 보낸 요청이 오류를 반환하지 않고 표준 속도로 실행되며 표준 요금으로 청구됩니다. 그 외 다른 모델에서 speed: "fast"를 보내면 오류가 반환됩니다.
• TTFT: Fast mode의 이점은 "time to first token"(첫 토큰까지의 시간), 즉 TTFT가 아닌 "output tokens per second"(초당 출력 토큰), 즉 OTPS에 집중됩니다.
• Batch API: Fast mode는 Batch API와 함께 사용할 수 없습니다.
• Priority Tier: Fast mode는 Priority Tier 약정과 함께 사용할 수 없습니다.
• Claude Platform on AWS: Fast mode는 현재 Claude Platform on AWS에서 사용할 수 없습니다.



다음 단계