翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
のサービスクォータとスロットリング Deadline Cloud
AWS Deadline Cloud は、ジョブの処理に使用できるファーム、フリート、キューなどのリソースを提供します。を作成すると AWS アカウント、 ごとにこれらのリソースにデフォルトのクォータが設定されます AWS リージョン。 は API リクエストのレート Deadline Cloud も制限します。詳細については、「API リクエストのスロットリング」を参照してください。
Service Quotas は、 のクォータを表示および管理できる中心的な場所です AWS のサービス。使用する多くのリソースのクォータの引き上げをリクエストすることもできます。
のクォータを表示するには Deadline Cloud、Service Quotas コンソール
クォータの引き上げをリクエストするには、「Service Quotas ユーザーガイド」の「クォータ引き上げリクエスト を参照してください。Service Quotas でクォータがまだ利用できない場合は、サービスクォータ引き上げフォーム
AWS アカウントには、次のクォータが関連しています Deadline Cloud。
関連付けられたメンバークォータは、ファーム、フリート、キュー、またはジョブに割り当てるメンバーシップをカウントします。各ユーザー権限と各グループ権限は 1 つのメンバーシップとしてカウントされるため、グループに含まれるユーザーの数に関係なく、グループは 1 つのメンバーとしてカウントされます。 Deadline Cloud は、グループ内のユーザー数やユーザーが属するグループの数を制限しません。代わりに、 のクォータ AWS IAM アイデンティティセンター が適用されます。メンバーシップクォータ内のより多くのユーザーにアクセス権を付与するには、個々のユーザーではなくグループを割り当てます。詳細については、「Deadline Cloud でのアクセス許可の仕組み」を参照してください。
サービスマネージドフリートのコンピューティングは、Amazon Elastic Compute Cloud (Amazon EC2) サービスクォータではなく、次の表の Deadline Cloud vCPU および GPU クォータに対してカウントされます。詳細については、「関連サービスのクォータ」を参照してください。
次の表に、サービスマネージドフリートで使用される永続的ストレージボリュームのクォータを示します。永続的ストレージの詳細については、「」を参照してくださいサービスマネージドフリートの永続的ストレージ。
| 名前 | デフォルト | 引き上げ可能 | 説明 |
|---|---|---|---|
| ファームあたりの関連メンバー数 | サポートされている各リージョン: 75 | いいえ | 現在の AWS リージョンの各ファームに関連付けることができるプリンシパル (ユーザーまたはグループ) の最大数。関連付けられた各グループは、含まれているユーザー数に関係なく、1 つのメンバーとしてカウントされます。 |
| フリートあたりの関連メンバー数 | サポートされている各リージョン: 75 | いいえ | 現在の AWS リージョンの各フリートに関連付けることができるプリンシパル (ユーザーまたはグループ) の最大数。関連付けられた各グループは、含まれているユーザー数に関係なく、1 つのメンバーとしてカウントされます。 |
| ジョブあたりの関連メンバー数 | サポートされている各リージョン: 75 | いいえ | 現在の AWS リージョンの各ジョブに関連付けることができるプリンシパル (ユーザーまたはグループ) の最大数。関連付けられた各グループは、含まれているユーザー数に関係なく、1 つのメンバーとしてカウントされます。 |
| キューあたりの関連メンバー数 | サポートされている各リージョン: 75 | いいえ | 現在の AWS リージョンの各キューに関連付けることができるプリンシパル (ユーザーまたはグループ) の最大数。関連付けられた各グループは、含まれているユーザー数に関係なく、1 つのメンバーとしてカウントされます。 |
| ファームあたりの予算数 | サポートされている各リージョン: 20 | 可能 |
現在の AWS リージョンのファームあたりの予算の最大数 |
| リージョンあたりのファーム数 | サポートされている各リージョン: 2 | あり |
現在の AWS リージョンで作成できるファームの最大数。 |
| ファームあたりのフリート数 | サポートされている各リージョン： 5 | あり |
現在の AWS リージョンの各ファームに作成できるフリートの最大数。 |
| ファームあたりのジョブ数 | サポートされている各リージョン: 100,000 | あり |
現在の AWS リージョンのファームあたりのジョブの最大数。 |
| リージョンあたりのライセンスエンドポイント数 | サポートされている各リージョン： 5 | あり |
現在の AWS リージョンのライセンスエンドポイントの最大数。 |
| ライセンスエンドポイントあたりのライセンスセッション数 | サポートされている各リージョン: 500 | あり |
現在の AWS リージョンのライセンスエンドポイントあたりのライセンスセッションの最大数。 |
| ファームあたりの制限数 | サポートされている各リージョン: 50 | 可能 |
現在の AWS リージョンの各ファームに作成できる制限の最大数。 |
| リージョンあたりのモニター数 | サポートされている各リージョン: 1 | [いいえ] | 現在の AWS リージョンのモニターの最大数。 |
| リージョンあたりのオンデマンド G インスタンス GPU 数 | サポートされている各リージョン: 0 | あり |
現在の AWS リージョンのすべてのサービスマネージドフリートにプロビジョニングできるオンデマンド G インスタンス GPUs の最大数。 |
| リージョンあたりのオンデマンド vCPU 数 | サポートされている各リージョン: 50 | 可能 |
現在の AWS リージョンのすべてのサービスマネージドフリートにプロビジョニングできるオンデマンド vCPUs の最大数。 |
| キューあたりのキュー環境数 | サポートされている各リージョン: 10 | いいえ | 現在の AWS リージョンの各キューに対して作成できるキュー環境の最大数。 |
| ファームあたりのキューフリート関連付け数 | サポートされている各リージョン: 100 | 可能 |
現在の AWS リージョンのファームあたりのキューフリートの関連付けの最大数 |
| キューあたりのキュー制限関連付け数 | サポートされている各リージョン: 10 | あり |
現在の AWS リージョンの各キューに関連付けることができる制限の最大数。 |
| ファームあたりのキュー数 | サポートされている各リージョン: 20 | 可能 |
現在の AWS リージョンの各ファームに対して作成できるキューの最大数。 |
| フリートあたりのリソース設定数 | サポートされている各リージョン: 1 | あり |
各フリートに追加できる VPC Lattice リソース設定の最大数。 |
| リージョンあたりのスポット G インスタンス GPU 数 | サポートされている各リージョン: 0 | あり |
現在の AWS リージョンのすべてのサービスマネージドフリートにプロビジョニングできるスポット G インスタンス GPUs の最大数。 |
| リージョンあたりのスポット vCPU 数 | サポートされている各リージョン: 50 | 可能 |
現在の AWS リージョン内のすべてのサービスマネージドフリートにプロビジョニングできるスポット vCPUs の最大数。 |
| ステップあたりのステップコンシューマー | サポートされている各リージョン: 32 | あり |
現在の AWS リージョンのジョブ内の 1 つのステップへの依存 (消費) を宣言できるステップの最大数。 |
| ステップあたりのステップ依存関係 | サポートされている各リージョン: 128 | あり |
ジョブ内の 1 つのステップが現在の AWS リージョンで依存関係を宣言できるステップの最大数。 |
| ジョブあたりのステップ数 | サポートされている各リージョン: 200 | あり |
現在の AWS リージョンのジョブあたりのステップの最大数。 |
| 汎用 SSD (gp3) ボリュームのストレージ (TiB) | サポートされている各リージョン: 1 | あり |
TiB で測定され、現在の AWS リージョン内のすべてのフリートで使用できる EBS ストレージの最大集約量。 |
| 永続汎用 SSD (gp3) ボリュームのストレージ、TiB 単位 | サポートされている各リージョン: 4 | あり |
現在の AWS リージョンの永続的な汎用 SSD (gp3) ボリュームにプロビジョニングできる TiB でのストレージの最大集約量。 |
| ファームあたりのストレージプロファイル数 | サポートされている各リージョン: 50 | いいえ | 現在の AWS リージョンの各ファームに作成できるストレージプロファイルの最大数。 |
| チャンクあたりのタスク数 | サポートされている各リージョン: 150 | いいえ | ジョブの送信時に 1 つのチャンクに結合できるタスクの最大数。 |
| ジョブあたりのタスク数 | サポートされている各リージョン: 10,000 | あり |
現在の AWS リージョンのジョブあたりのタスクの最大数。 |
| ステップあたりのタスク数 | サポートされている各リージョン: 10,000 | あり |
現在の AWS リージョンのステップあたりのタスクの最大数。 |
| リージョンあたりの wait-and-save vCPU 数 | サポートされている各リージョン: 50 | 可能 |
現在の AWS リージョンのすべてのサービスマネージドフリートにプロビジョニングできるwait-and-savevCPUs の最大数。 |
| ファームあたりのワーカー数 | サポートされている各リージョン: 7,500 | あり |
現在の AWS リージョンのファームあたりのワーカーの最大数。 |
API リクエストのスロットリング
Deadline Cloud は、各 の API リクエストのレート AWS アカウント を制限します AWS リージョン。デフォルトのリクエストレートは、大規模なワークロードと使用状況をサポートします。リクエストが許容レートを超えると、 は HTTP 429 ステータスコードとThrottlingExceptionエラーを含むリクエスト Deadline Cloud を拒否します。
AWS SDKsと は、エクスポネンシャルバックオフを使用してスロットリングされたリクエスト AWS CLI を自動的に再試行します。ときどきスロットリングは、アプリケーションを変更することなく解決されます。持続的なスロットリングが発生した場合は、 AWS サポート
関連サービスのクォータ
一部の Deadline Cloud 機能は他の を使用し AWS のサービス、それらのサービスのクォータも適用されます。
カスタマーマネージドフリートの Amazon EC2 クォータ
Amazon Elastic Compute Cloud (Amazon EC2) のクォータは、カスタマーマネージドフリートに適用されます。これらのワーカーは、自分のアカウントのインスタンスで実行されるためです。サービスマネージドフリートのコンピューティングは、代わりに前の表の Deadline Cloud vCPU クォータと GPU クォータに対してカウントされます。
Amazon EC2 クォータを表示または増やすには、Service Quotas コンソール
Deadline Cloud アシスタントの Amazon Bedrock クォータ
Deadline クラウドアシスタント は で Amazon Bedrock オンデマンド推論を使用するため AWS アカウント、アカウントの Amazon Bedrock サービスクォータが適用されます。2 つの主な制約は次のとおりです。
-
1 分あたりのリクエスト数 (RPM) — 1 分あたりに実行できるモデル呼び出しリクエストの数。
-
1 分あたりのトークン数 (TPM) — 1 分あたりに処理された入出力トークンの合計数。
デフォルトのクォータはリージョンによって異なります。一部のリージョンでは、デフォルト制限が 20 RPM と低く、アシスタントの使用が多いときにスロットリングが発生する可能性があります。アシスタントは、最低 200 RPM をサポートするクロスリージョン推論プロファイルを使用します。クロスリージョン推論は、単一リージョンの制限が低いリージョンでのスロットリングを軽減するのに役立ちます。リージョンがクロスリージョン推論を使用している場合は、送信先リージョンのサービスクォータも適用されます。
アシスタントの使用時にスロットリングエラーが発生した場合は、Amazon Bedrock サービスクォータの引き上げをリクエストできます。
クォータの増加をリクエストするには
-
Service Quotas コンソール
を開きます。 -
ナビゲーションペインで、AWS サービスを選択し、Amazon Bedrock を選択します。
-
アシスタントが使用するモデルのクォータを見つけます (関連するモデルの に関連するクォータを探
InvokeModelWithResponseStreamします）。 -
クォータ名を選択し、アカウントレベルで引き上げをリクエストを選択します。
-
目的のクォータ値を入力し、リクエストを送信します。
CloudWatch メトリクスを使用して Amazon Bedrock クォータの使用状況をモニタリングできます。Amazon Bedrock スロットリングメトリクスに CloudWatch アラームを設定して、クォータ制限に近づいているタイミングを特定します。詳細については、「Amazon Bedrock ユーザーガイド」の「Amazon Bedrock のモニタリング」を参照してください。
