기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
속도 제한 및 할당량
구독 시 AWS의 Claude 플랫폼은 티어 1 속도 제한을 할당합니다. Anthropic은 AWS 할당량 시스템이 아닌 속도 제한을 직접 관리합니다.
기본 제한
AWS의 Claude 플랫폼은 자사 Claude API와 동일한 Anthropic의 표준 티어 일정을 사용합니다. 워크스페이스당 티어 1 제한이 적용됩니다. 제한은 모델 패밀리별로 풀링됩니다. 예를 들어 모든 Opus 모델은 하나의 결합된 제한을 공유하고, 모든 Sonnet 모델은 다른 제한을 공유하며, 모든 Haiku 모델은 1/3을 공유합니다.
현재 티어 1 값(RPM, ITPM, OTPM) 및 상위 티어 임계값은 Anthropic 설명서 웹 사이트의 속도 제한을
속도 제한 헤더
모든 응답에는 현재 속도 제한 상태를 보고하는 헤더가 포함됩니다. 키 헤더:
-
anthropic-ratelimit-requests-limit- 분당 최대 요청 수 -
anthropic-ratelimit-requests-remaining- 현재 창에 남아 있는 요청 -
anthropic-ratelimit-requests-reset- 요청 제한이 재설정되는 시간(RFC 3339) -
anthropic-ratelimit-tokens-limit- 분당 최대 결합된 토큰(입력 + 출력) -
anthropic-ratelimit-tokens-remaining- 현재 창에 남아 있는 결합된 토큰 -
anthropic-ratelimit-tokens-reset- 결합된 토큰 제한이 재설정되는 시간(RFC 3339) -
anthropic-ratelimit-input-tokens-limit/-remaining-reset- Input-token-specific 헤더 -
anthropic-ratelimit-output-tokens-limit/-remaining/-resetOutput-token-specific 헤더 -
retry-after- 429 응답에서 재시도하기 전에 대기할 초 수
전체 세트는 Anthropic 설명서 웹 사이트의 응답 헤더
더 높은 한도 요청
자사 Claude API와 달리 AWS의 Claude 플랫폼에서는 자동 티어 승격이 적용되지 않습니다. 더 높은 한도를 요청하려면 워크스페이스 ID와 원하는 처리량을 사용하여 Anthropic 계정 담당자에게 문의하세요. 티어 임계값 및 기타 세부 정보는 Anthropic 설명서 웹 사이트의 속도 제한을
속도 제한 오류
속도 제한을 초과하면 API는 rate_limit_error 유형과 함께 HTTP 429를 반환합니다. 재시도 로직에서 지터를 사용하여 지수 백오프를 구현합니다. retry-after 헤더는 재시도하기 전에 기다려야 하는 초 수를 나타냅니다.
