속도 제한
API의 오용을 방지하고 용량을 관리하기 위해, 조직이 Claude API를 사용할 수 있는 양에 제한이 적용됩니다.
제한에는 두 가지 유형이 있습니다:
- 지출 제한(Spend limits)은 조직이 API 사용으로 발생시킬 수 있는 월간 최대 비용을 설정합니다.
- 속도 제한(Rate limits)은 조직이 정해진 기간 동안 보낼 수 있는 최대 API 요청 수를 설정합니다.
API는 서비스에서 구성한 제한을 조직 수준에서 적용하지만, 조직의 워크스페이스에 대해 사용자가 구성 가능한 제한을 설정할 수도 있습니다.
속도 제한에 대하여
- 제한은 일반적인 고객 사용 패턴에 미치는 영향을 최소화하면서 API 남용을 방지하도록 설계되었습니다.
- 제한은 사용량 티어(usage tier)에 따라 정의됩니다. 조직은 사용 이력과 계정 상태에 따라 자동으로 티어에 배치되며, API를 사용함에 따라 시간이 지나면서 더 높은 티어로 이동할 수 있습니다.
- 신규 조직 및 사용 이력이 제한적인 조직은 Evaluation 티어에서 시작할 수 있으며, 계정 이력이 쌓이는 동안 이 페이지에 표시된 표준 제한보다 낮은 제한이 적용됩니다. 이러한 시작 제한은 Anthropic이 사기 및 남용을 방지하는 방법의 일부이며, 조직이 사용 이력을 쌓아감에 따라 자동으로 증가합니다.
- 제한은 조직 수준에서 설정됩니다. Claude Console의 Rate limits 페이지에서 조직의 티어와 현재 제한을 확인할 수 있습니다.
- 더 짧은 시간 간격에서 속도 제한에 도달할 수도 있습니다. 예를 들어, 분당 60개 요청(RPM)의 속도는 초당 1개 요청으로 적용될 수 있습니다. 짧은 시간에 요청이 집중되면 제한을 초과하여 속도 제한 오류가 발생할 수 있습니다.
- 다음 제한은 각 티어의 표준 제한입니다. 더 높은 제한이 필요한 경우 더 높은 제한 요청하기를 참조하세요.
- API는 속도 제한을 위해 token bucket algorithm(토큰 버킷 알고리즘)을 사용합니다. 이는 용량이 고정된 간격으로 재설정되는 것이 아니라 최대 제한까지 지속적으로 보충된다는 것을 의미합니다.
- 여기에 설명된 모든 제한은 보장된 최소치가 아니라 허용되는 최대 사용량을 나타냅니다. 이러한 제한은 의도하지 않은 과다 지출을 줄이고 사용자 간 리소스의 공정한 분배를 보장하기 위한 것입니다.
지출 제한
Start, Build, Scale 티어 각각에는 월간 지출 한도가 있으며, 이는 조직이 매 달력월에 API에 지출할 수 있는 최대 금액입니다. Billing 페이지에서 조직의 월간 지출 한도를 확인하고 자체 제한을 설정할 수 있습니다.
| 사용량 티어 | 월간 지출 한도 |
|---|---|
| Start | $500 USD |
| Build | $1,000 USD |
| Scale | $200,000 USD |
Custom 티어의 조직에는 월간 지출 한도가 없으며, 제한은 계정 팀과 협의하여 정해집니다.
지출 한도 도달
티어의 지출 한도에 도달하면, 더 높은 제한을 그 전에 요청하지 않는 한 다음 달 1일 00:00 UTC까지 API 사용이 일시 중지됩니다. 사용이 일시 중지된 동안 API 요청은 HTTP 429를 반환합니다:
{
"type": "error",
"error": {
"type": "rate_limit_error",
"message": "You have reached your API usage limits: your organization has crossed its monthly API usage threshold, set based on your organization's API tier. You will regain access on 2026-09-01 at 00:00 UTC.",
"details": { "error_code": "enforced_spend_limit_reached" }
},
"request_id": "req_018EeWyXxfu5pfWkrYcMdjWG"
}- 오류 유형은 속도 제한과 동일한
rate_limit_error이지만, 응답에는retry-after헤더가 없습니다. SDK의 자동 재시도를 포함한 재시도는 액세스가 재개될 때까지 실패합니다. - Messages API에서
error.details.error_code는enforced_spend_limit_reached입니다. 이를 사용하여 이 응답을 속도 제한과 구별하세요. - 더 높은 티어로 이동하면 액세스가 복원됩니다. 더 높은 제한 요청하기를 참조하세요.
자체 지출 제한 설정
비용을 관리하기 위해 티어 한도보다 낮은 자체 지출 제한을 설정할 수도 있습니다:
Billing 페이지로 이동
Claude Console에서 Settings > Billing으로 이동하세요.
지출 제한 편집기 열기
Spend limits 섹션에서 Adjust limit을 클릭하세요(현재 설정된 제한이 없는 경우 Set limit).
지출 제한 조정
새 값을 입력하세요. 지출 제한은 현재 티어의 한도를 초과할 수 없습니다.
사용량이 설정한 지출 제한에 도달하면 요청은 오류 유형 invalid_request_error와 함께 HTTP 400을 반환합니다. 메시지는 You have reached your specified API usage limits로 시작하거나, 워크스페이스 제한의 경우 You have reached your specified workspace API usage limits로 시작하며, 액세스가 재개되는 시점을 명시합니다. 액세스를 더 빨리 복원하려면 제한을 높이거나 제거하세요.
Claude Code 워크스페이스의 제한은 별도로 확인됩니다. 해당 워크스페이스의 제한을 초과하는 Claude Code 요청은 대신 retry-after 헤더가 포함된 429를 받을 수 있습니다.
속도 제한
Messages API의 속도 제한은 각 모델 클래스에 대해 분당 요청 수(RPM), 분당 입력 토큰 수(ITPM), 분당 출력 토큰 수(OTPM)로 측정됩니다.
속도 제한 중 하나라도 초과하면 어떤 속도 제한이 초과되었는지 설명하는 429 오류와 함께 얼마나 기다려야 하는지를 나타내는 retry-after 헤더를 받게 됩니다.
캐시 인식 ITPM
많은 API 제공업체는 캐시된 토큰과 캐시되지 않은 토큰, 입력과 출력 등 모든 토큰을 포함할 수 있는 통합 "분당 토큰 수"(TPM) 제한을 사용합니다. 대부분의 Claude 모델에서는 캐시되지 않은 입력 토큰만 ITPM 속도 제한에 포함됩니다. 이는 속도 제한을 처음 보이는 것보다 실질적으로 더 높게 만드는 핵심적인 이점입니다.
ITPM 속도 제한은 각 요청 시작 시 추정되며, 이 추정치는 요청 중에 실제 사용된 입력 토큰 수를 반영하도록 조정됩니다.
ITPM에 포함되는 항목은 다음과 같습니다:
input_tokens(마지막 캐시 중단점 이후의 토큰) ✓ ITPM에 포함됨cache_creation_input_tokens(캐시에 기록되는 토큰) ✓ ITPM에 포함됨cache_read_input_tokens(캐시에서 읽은 토큰) ✗ 대부분의 모델에서 ITPM에 포함되지 않음
예시: 2,000,000 ITPM 제한과 80% 캐시 적중률이 있는 경우, 캐시된 토큰은 속도 제한에 포함되지 않으므로 분당 총 10,000,000개의 입력 토큰(캐시되지 않은 2M + 캐시된 8M)을 실질적으로 처리할 수 있습니다.
속도 제한을 최대한 활용하려면 시스템 지침 및 프롬프트, 대용량 컨텍스트 문서, 도구 정의, 대화 기록과 같은 반복되는 콘텐츠를 캐시하세요. 지침은 프롬프트 캐싱을 참조하세요. 효과적인 캐싱을 통해 속도 제한을 높이지 않고도 실제 처리량을 크게 늘릴 수 있습니다. Usage 페이지에서 캐시 적중률을 모니터링하여 캐싱 전략을 조정하세요.
OTPM 속도 제한은 출력 토큰이 생성될 때 실시간으로 평가되며, 실제로 생성된 토큰만 계산합니다. max_tokens 매개변수는 OTPM 속도 제한 계산에 반영되지 않으므로, 더 높은 max_tokens 값을 설정해도 속도 제한 측면에서 불이익이 없습니다.
속도 제한은 각 모델에 대해 별도로 적용되므로, 서로 다른 모델을 각각의 제한까지 동시에 사용할 수 있습니다. Claude Console의 Rate limits 페이지에서 현재 속도 제한과 동작을 확인하거나, Rate Limits API를 사용하여 구성된 제한을 프로그래밍 방식으로 읽을 수 있습니다.
| 모델 | 분당 최대 요청 수(RPM) | 분당 최대 입력 토큰 수(ITPM) | 분당 최대 출력 토큰 수(OTPM) |
|---|---|---|---|
| Claude Fable 5.x1 | 1,000 | 500,000 | 100,000 |
| Claude Opus 5.5 | 1,000 | 2,000,000 | 400,000 |
| Claude Opus 5 | 1,000 | 2,000,000 | 400,000 |
| Claude Opus 4.x2 | 1,000 | 2,000,000 | 400,000 |
| Claude Sonnet 5 | 1,000 | 2,000,000 | 400,000 |
| Claude Sonnet 4.x3 | 1,000 | 2,000,000 | 400,000 |
| Claude Haiku 4.5 | 1,000 | 2,000,000 | 400,000 |
| Claude Haiku 3.5 (Bedrock 및 Google Cloud를 제외하고 종료됨) | 1,000 | 100,0004 | 20,000 |
1 Fable 속도 제한은 Claude Fable 5.1과 Claude Fable 5의 합산 트래픽에 적용되는 총 제한입니다. Claude Mythos 5.1과 Claude Mythos 5는 동일한 조건으로 별도의 합산 제한을 공유합니다.
2 Opus 속도 제한은 Claude Opus 4.8, Opus 4.7, Opus 4.6, Opus 4.5의 합산 트래픽에 적용되는 총 제한입니다. Claude Opus 5.5와 Claude Opus 5는 각각 별도의 속도 제한을 가지며 이 합산 버킷에 포함되지 않습니다.
3 Sonnet 4.x 속도 제한은 Sonnet 4.6과 Sonnet 4.5의 합산 트래픽에 적용되는 총 제한입니다. Claude Sonnet 5는 별도의 속도 제한을 가지며 이 합산 버킷에 포함되지 않습니다.
4 이 제한은 cache_read_input_tokens를 ITPM 사용량에 포함합니다.
Message Batches API
Message Batches API에는 모든 모델에서 공유되는 자체 속도 제한 세트가 있습니다. 여기에는 모든 API 엔드포인트에 대한 분당 요청 수(RPM) 제한과 동시에 처리 대기열에 있을 수 있는 배치 요청 수에 대한 제한이 포함됩니다. 여기서 "배치 요청"은 Message Batch의 일부를 의미합니다. 수천 개의 배치 요청을 포함하는 Message Batch를 생성할 수 있으며, 각 배치 요청은 이 제한에 포함됩니다. 배치 요청은 모델에 의해 아직 성공적으로 처리되지 않은 경우 처리 대기열의 일부로 간주됩니다.
| 분당 최대 요청 수 (RPM) | 처리 대기열 내 최대 배치 요청 수 | 배치당 최대 배치 요청 수 |
|---|---|---|
| 1,000 | 200,000 | 100,000 |
Managed Agents
Claude Managed Agents 엔드포인트는 조직별로 속도 제한이 적용됩니다. 이러한 제한은 위의 Messages API 속도 제한과 별개입니다.
| 작업 | 제한 |
|---|---|
| 생성 엔드포인트 (예: agents, sessions, environments) | 분당 300개 요청 |
| 읽기 엔드포인트 (예: retrieve, list, stream) | 분당 1,200개 요청 |
Files API
Files API 요청에는 업로드, 목록 조회, 검색, 다운로드, 삭제 작업 전반에 걸쳐 공유되는 자체 조직별 제한이 있으며, 이는 이 페이지 앞부분에서 설명한 Messages API 제한과 별개입니다. 현재 값은 Files API 속도 제한을 참조하세요.
Fast mode 속도 제한
Claude Opus 5.5, Claude Opus 5, 또는 Opus 4.8에서 speed: "fast"와 함께 fast mode(리서치 프리뷰)를 사용하는 경우, 표준 Opus 속도 제한과는 별도의 전용 속도 제한이 적용됩니다. fast mode 속도 제한을 초과하면 API는 retry-after 헤더와 함께 429 오류를 반환합니다. Fast mode는 Claude Opus 4.7(요청 시 오류 반환) 또는 Claude Opus 4.6(speed: "fast"를 사용한 claude-opus-4-6 요청은 표준 속도로 실행됨)에서는 사용할 수 없습니다. Fast mode를 참조하세요.
응답에는 fast mode 속도 제한 상태를 나타내는 anthropic-fast-* 헤더가 포함됩니다. 이러한 헤더에 대한 자세한 내용은 Fast mode 속도 제한을 참조하세요.
Console에서 속도 제한 모니터링
Claude Console의 Usage 페이지에서 속도 제한 사용량을 모니터링할 수 있습니다.
Usage 페이지는 토큰 및 요청 차트를 제공하는 것 외에도 두 개의 별도 속도 제한 차트를 제공합니다. 이 차트를 사용하여 성장할 수 있는 여유가 얼마나 있는지 확인하고, 언제 최대 사용량에 도달할 수 있는지 파악하고, 어떤 속도 제한을 요청해야 하는지 이해하고, 캐싱 비율을 개선하는 방법을 알아보세요. 차트는 주어진 속도 제한(예: 모델별)에 대한 여러 지표를 시각화합니다:
- Rate Limit - Input Tokens 차트에는 다음이 포함됩니다:
- 시간별 최대 캐시되지 않은 분당 입력 토큰 수
- 현재 분당 입력 토큰 속도 제한
- 입력 토큰의 캐시 비율(즉, 캐시에서 읽은 입력 토큰의 백분율)
- Rate Limit - Output Tokens 차트에는 다음이 포함됩니다:
- 시간별 최대 분당 출력 토큰 수
- 현재 분당 출력 토큰 속도 제한
더 높은 제한 요청하기
더 높은 속도 제한 또는 더 높은 월간 지출 한도를 요청하려면 Rate limits 페이지의 Request rate limit increase를 사용하세요. Anthropic 지원팀도 제한을 높일 수 있습니다. 긴급한 경우 Anthropic 지원팀에 문의하세요.
워크스페이스에 더 낮은 제한 설정하기
워크스페이스에 대한 자세한 내용은 워크스페이스를 참조하세요.
조직 내 워크스페이스를 잠재적인 과다 사용으로부터 보호하기 위해 워크스페이스별로 사용자 지정 지출 및 속도 제한을 설정할 수 있습니다.
예시: 조직의 제한이 분당 40,000개 입력 토큰과 분당 8,000개 출력 토큰인 경우, 한 워크스페이스를 분당 30,000개 입력 토큰으로 제한할 수 있습니다. 이는 다른 워크스페이스를 잠재적인 과다 사용으로부터 보호하고 조직 전체에 걸쳐 리소스를 보다 공평하게 분배할 수 있도록 합니다. 남은 미사용 분당 토큰(또는 해당 워크스페이스가 제한을 다 사용하지 않는 경우 그 이상)은 다른 워크스페이스에서 사용할 수 있습니다.
참고:
- 기본 워크스페이스에는 제한을 설정할 수 없습니다.
- 설정하지 않으면 워크스페이스 제한은 조직의 제한과 일치합니다.
- 워크스페이스 제한은 제한 유형별로 설정됩니다(예: 분당 요청 수, 분당 입력 토큰 수 또는 분당 출력 토큰 수).
- 워크스페이스 제한의 합계가 더 크더라도 조직 전체 제한은 항상 적용됩니다.
현재 조직 및 워크스페이스 속도 제한을 프로그래밍 방식으로 읽으려면 Rate Limits API를 사용하세요.
응답 헤더
API 응답에는 적용된 속도 제한, 현재 사용량, 제한이 재설정되는 시점을 보여주는 헤더가 포함됩니다.
다음 헤더가 반환됩니다:
| 헤더 | 설명 |
|---|---|
retry-after | 요청을 재시도할 수 있을 때까지 기다려야 하는 초 수입니다. 그보다 이른 재시도는 실패합니다. 지출 한도 429와 함께 전송되지 않습니다(지출 한도 도달 참조). |
anthropic-ratelimit-requests-limit | 속도 제한 기간 내에 허용되는 최대 요청 수입니다. |
anthropic-ratelimit-requests-remaining | 속도 제한이 적용되기 전까지 남은 요청 수입니다. |
anthropic-ratelimit-requests-reset | 요청 속도 제한이 완전히 보충되는 시간으로, RFC 3339 형식으로 제공됩니다. |
anthropic-ratelimit-tokens-limit | 속도 제한 기간 내에 허용되는 최대 토큰 수입니다. |
anthropic-ratelimit-tokens-remaining | 속도 제한이 적용되기 전까지 남은 토큰 수입니다(천 단위로 반올림). |
anthropic-ratelimit-tokens-reset | 토큰 속도 제한이 완전히 보충되는 시간으로, RFC 3339 형식으로 제공됩니다. |
anthropic-ratelimit-input-tokens-limit | 속도 제한 기간 내에 허용되는 최대 입력 토큰 수입니다. |
anthropic-ratelimit-input-tokens-remaining | 속도 제한이 적용되기 전까지 남은 입력 토큰 수입니다(천 단위로 반올림). |
anthropic-ratelimit-input-tokens-reset | 입력 토큰 속도 제한이 완전히 보충되는 시간으로, RFC 3339 형식으로 제공됩니다. |
anthropic-ratelimit-output-tokens-limit | 속도 제한 기간 내에 허용되는 최대 출력 토큰 수입니다. |
anthropic-ratelimit-output-tokens-remaining | 속도 제한이 적용되기 전까지 남은 출력 토큰 수입니다(천 단위로 반올림). |
anthropic-ratelimit-output-tokens-reset | 출력 토큰 속도 제한이 완전히 보충되는 시간으로, RFC 3339 형식으로 제공됩니다. |
anthropic-priority-input-tokens-limit | 속도 제한 기간 내에 허용되는 최대 Priority Tier 입력 토큰 수입니다. (Priority Tier 전용) |
anthropic-priority-input-tokens-remaining | 속도 제한이 적용되기 전까지 남은 Priority Tier 입력 토큰 수입니다(천 단위로 반올림). (Priority Tier 전용) |
anthropic-priority-input-tokens-reset | Priority Tier 입력 토큰 속도 제한이 완전히 보충되는 시간으로, RFC 3339 형식으로 제공됩니다. (Priority Tier 전용) |
anthropic-priority-output-tokens-limit | 속도 제한 기간 내에 허용되는 최대 Priority Tier 출력 토큰 수입니다. (Priority Tier 전용) |
anthropic-priority-output-tokens-remaining | 속도 제한이 적용되기 전까지 남은 Priority Tier 출력 토큰 수입니다(천 단위로 반올림). (Priority Tier 전용) |
anthropic-priority-output-tokens-reset | Priority Tier 출력 토큰 속도 제한이 완전히 보충되는 시간으로, RFC 3339 형식으로 제공됩니다. (Priority Tier 전용) |
anthropic-ratelimit-tokens-* 헤더는 현재 적용 중인 가장 제한적인 제한의 값을 표시합니다. 예를 들어, 워크스페이스 분당 토큰 제한을 초과한 경우 헤더에는 워크스페이스 분당 토큰 속도 제한 값이 포함됩니다. 워크스페이스 제한이 적용되지 않는 경우 헤더는 남은 총 토큰 수를 반환하며, 여기서 총합은 입력 토큰과 출력 토큰의 합입니다. 이 방식은 현재 API 사용에 가장 관련성 높은 제약 조건을 파악할 수 있도록 합니다. 요청이 어느 워크스페이스에 대해 집계되었는지 확인하려면 anthropic-workspace-id 응답 헤더를 읽으세요. 이 헤더에는 API 키 또는 액세스 토큰이 확인된 워크스페이스의 ID가 포함됩니다.
Was this page helpful?