本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# bedrock-runtime 端點的配額
<a name="quotas-runtime"></a>

`bedrock-runtime.{{region}}.amazonaws.com` 端點是 Amazon Bedrock 的主要推論端點。至此端點的推論流量受每個模型字符型配額管理。您可以在 [Service Quotas 主控台](https://docs.aws.amazon.com/servicequotas/latest/userguide/gs-request-quota.html)中檢視這些配額，方法是選取 **Amazon Bedrock** 做為服務，或在 中的 [Amazon Bedrock 服務配額表中檢視這些配額](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) AWS 一般參考。

## 配額類型
<a name="quotas-runtime-types"></a>

`bedrock-runtime` 端點上的推論受下列每個模型配額的控管：


**bedrock-runtime per-model 配額**  

| 配額 | Scope (範圍) | 說明 | 
| --- | --- | --- | 
| {{${model}}} 的每分鐘跨區域 InvokeModel 字符 | 每個模型、每個區域 | 透過跨區域推論設定檔調用時，您的帳戶可用於模型的每分鐘字符數上限 （輸入 \+ 輸出，合併）。 | 
| {{${model}}} 的每分鐘隨需 InvokeModel 字符 | 每個模型、每個區域 | 在單一區域中呼叫隨需時，您的帳戶可用於模型的每分鐘字符數上限 （輸入 \+ 輸出，合併）。 | 
| {{${model}}} 的每日模型調用字符上限 | 每個模型、每個區域 | 您的帳戶每天可用於模型的字符數量上限 （輸入 \+ 輸出，合併）。根據預設，此值為每分鐘配額乘以 24 × 60。新的 AWS 帳戶 可能會減少配額。 | 
| ${{{model}}} 的每分鐘 InvokeModel 請求 | 每個模型、每個區域 | 您的帳戶可針對模型提交的每分鐘推論請求數量上限。對bedrock-runtime端點上的某些模型而不是其他模型強制執行 RPM；如需適用於模型的確切配額，請參閱 Service Quotas 主控台。 | 

`bedrock-runtime` 端點 TPM 配額根據單一每模型配額將輸入和輸出字符計算在一起。`bedrock-mantle` 端點會套用個別的 input-tokens-per-minute 和 output-tokens-per-minute 配額；如需詳細資訊，請參閱 [bedrock-mantle 端點的配額](quotas-mantle.md)。

**注意**  
`bedrock-runtime` 端點上的 RPM 配額是模型特定的。某些模型 – 例如Anthropic，Claude Opus 4.7 和 Claude Opus 4.8 – 沒有 RPM 配額，並且僅受本節中描述的字符型配額控制。對於具有 RPM 配額的模型，請在 [Service Quotas 主控台](https://docs.aws.amazon.com/servicequotas/latest/userguide/gs-request-quota.html)中檢視確切的值。

輸出字符會透過特定模型的縮減率轉換為配額用量。如需如何計算字符型配額以及`max_tokens`請求參數如何影響扣除的詳細資訊，請參閱 [Amazon Bedrock 字符的計數方式](quotas-token-burndown.md)。

## 相關的執行期配額
<a name="quotas-runtime-other"></a>

下列 Amazon Bedrock 功能會透過`bedrock-runtime`端點提供，並有自己的個別配額：
+ **自訂推論描述**檔 – 包裝基礎模型的應用程式定義推論描述檔。請參閱 [使用推論設定檔設定模型調用資源](inference-profiles.md)。
+ **批次推論** – 非同步、大量推論任務。請參閱 [使用批次推論處理多個提示](batch-inference.md)。
+ **佈建輸送量** – 預留模型單位容量。請參閱 [使用 Amazon Bedrock 中的佈建輸送量增加模型調用容量](prov-throughput.md)。

這些配額僅適用於`bedrock-runtime`端點，且不會在`bedrock-mantle`端點上公開。

## 請求提高配額
<a name="quotas-runtime-increase"></a>

請求提高帳戶配額的步驟取決於 [Amazon Bedrock 服務配額](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)中配額表中**可調整**欄中的值。

**重要**  
在請求提高配額之前，請確認模型未處於*舊版*或*已棄用*生命週期狀態。配額增加不會授予排程淘汰的模型。在頁面上檢查模型的生命週期狀態[模型生命週期](model-lifecycle.md)，並考慮改為遷移至後續模型。
+ 如果配額標示為**是**，您可以依照《Service Quotas 使用者指南》中[請求提高配額](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html)的步驟進行調整。
+ 對於任何模型，您皆可一起請求提高下列配額：
  + {{${model}}} 的每分鐘跨區域 InvokeModel 字符
  + {{${model}}} 的每分鐘隨需 InvokeModel 字符
  + {{${model}}} 的每日模型調用字符上限

  若要請求提高這些配額的任意組合，請遵循《Service Quotas 使用者指南》中[請求提高配額](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html)的步驟，請求提高 **{{${model}}} 的每分鐘跨區域 InvokeModel 字符**配額。這麼做之後，支援團隊會與您聯絡，並提供您同時提高其他兩個配額的選項。
**注意**  
由於需求量龐大，將優先考慮所產生流量足以消耗其現有配額配置的客戶。如果您不符合此條件，可能會拒絕您的請求。

如需增加`bedrock-mantle`配額的詳細資訊，請參閱 [請求提高配額](quotas-mantle.md#quotas-mantle-increase)。