View a markdown version of this page

Cotas de serviço e limitação de Deadline Cloud - AWS Deadline Cloud
Controle de utilização de solicitações da APICotas para serviços relacionados

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Cotas de serviço e limitação de Deadline Cloud

AWS Deadline Cloud fornece recursos, como fazendas, frotas e filas, que você pode usar para processar trabalhos. Quando você cria seu Conta da AWS, definimos cotas padrão nesses recursos para cada um Região da AWS. Deadline Cloud também limita a taxa de solicitações de API. Para obter mais informações, consulte Controle de utilização de solicitações da API.

As cotas de serviço são um local central onde você pode visualizar e gerenciar suas cotas para. Serviços da AWS Você também pode solicitar um aumento de cota para muitos dos recursos que você usa.

Para ver as cotas de Deadline Cloud, abra o console Cotas de Serviço. No painel de navegação, escolha Serviços da AWS e selecione Deadline Cloud.

Para solicitar um aumento da cota, consulte Requesting a quota increase no Guia do usuário do Service Quotas. Se a cota ainda não estiver disponível nas Cotas de Serviço, use o formulário de aumento da cota de serviço.

Sua AWS conta tem as seguintes cotas relacionadas a. Deadline Cloud

As cotas de membros associados contam as associações que você atribui a uma fazenda, frota, fila ou trabalho. Cada concessão de usuário e cada concessão de grupo contam como uma associação, portanto, um grupo conta como um membro, não importa quantos usuários ele contenha. Deadline Cloud não limita o número de usuários em um grupo ou o número de grupos aos quais um usuário pertence; em vez disso, as cotas Centro de Identidade do AWS IAM se aplicam. Para conceder acesso a mais usuários dentro da cota de associação, atribua grupos em vez de usuários individuais. Para obter mais informações, consulte Como as permissões funcionam no Deadline Cloud.

A computação para frotas gerenciadas por serviços conta com base nas cotas de Deadline Cloud vCPU e GPU na tabela a seguir, não em relação às cotas de serviço do Amazon Elastic Compute Cloud (Amazon EC2). Para obter mais informações, consulte Cotas para serviços relacionados.

A tabela a seguir inclui cotas para volumes de armazenamento persistentes usados por frotas gerenciadas por serviços. Para obter mais informações sobre armazenamento persistente, consulteArmazenamento persistente para frotas gerenciadas por serviços.

Nome Padrão Ajustável Description
Membros associados por parque Cada região compatível: 75 Não O número máximo de diretores (usuários ou grupos) que podem ser associados a cada fazenda na AWS região atual. Cada grupo associado conta como um membro, independentemente de quantos usuários ele contém.
Membros associados por frota Cada região compatível: 75 Não O número máximo de diretores (usuários ou grupos) que podem ser associados a cada frota na AWS região atual. Cada grupo associado conta como um membro, independentemente de quantos usuários ele contém.
Membros associados por trabalho Cada região compatível: 75 Não O número máximo de diretores (usuários ou grupos) que podem ser associados a cada cargo na AWS região atual. Cada grupo associado conta como um membro, independentemente de quantos usuários ele contém.
Membros associados por fila Cada região compatível: 75 Não O número máximo de diretores (usuários ou grupos) que podem ser associados a cada fila na região atual AWS . Cada grupo associado conta como um membro, independentemente de quantos usuários ele contém.
Orçamentos por parque Cada região compatível: 20 Sim O número máximo de orçamentos por fazenda na região atual AWS
Parques por região Cada região compatível: 2 Sim O número máximo de fazendas que podem ser criadas na AWS região atual.
Frotas por parque Cada região compatível: 5 Sim O número máximo de frotas que podem ser criadas para cada fazenda na AWS região atual.
Trabalhos por parque Cada região compatível: 100.000 Sim O número máximo de empregos por fazenda na AWS região atual.
Endpoints de licença por região Cada região compatível: 5 Sim O número máximo de terminais de licença na AWS região atual.
Sessões de licença por endpoint de licença Cada região com suporte: 500 Sim O número máximo de sessões de licença por endpoint de licença na AWS região atual.
Limites por parque Cada região compatível: 50 Sim O número máximo de limites que podem ser criados para cada fazenda na AWS região atual.
Monitores por região Cada região compatível: 1 Não O número máximo de monitores na AWS região atual.
OnDemand GPUs de instância G por região Cada região compatível: 0 Sim O número máximo de GPUs de instância G sob demanda que podem ser provisionadas em todas as frotas gerenciadas por serviços na região atual. AWS
OnDemand vCPUs por região Cada região compatível: 50 Sim O número máximo de vCPUs sob demanda que podem ser provisionadas em todas as frotas gerenciadas por serviços na região atual. AWS
Ambientes de fila por fila Cada região com suporte: 10 Não O número máximo de ambientes de fila que podem ser criados para cada fila na região atual AWS .
Associações de frota de filas por parque Cada região compatível: 100 Sim O número máximo de associações de frotas de filas por fazenda na região atual AWS
Associações de limite de fila por fila Cada região com suporte: 10 Sim O número máximo de limites que podem ser associados a cada fila na AWS região atual.
Filas por parque Cada região compatível: 20 Sim O número máximo de filas que podem ser criadas para cada fazenda na AWS região atual.
Configurações de recursos por frota Cada região compatível: 1 Sim Número máximo de configurações de recursos do VPC Lattice que podem ser adicionadas a cada frota.
GPUs de instância Spot G por região Cada região compatível: 0 Sim O número máximo de GPUs spot de instância G que podem ser provisionadas em todas as frotas gerenciadas por serviços na região atual. AWS
vCPUs Spot por região Cada região compatível: 50 Sim O número máximo de vCPUs spot que podem ser provisionadas em todas as frotas gerenciadas por serviços na região atual. AWS
Consumidores escalonados por etapa Cada região com suporte: 32 Sim O número máximo de etapas que podem declarar uma dependência de (consumir) uma única etapa em um trabalho na AWS região atual.
Dependências de etapa por etapa Cada região compatível: 128 Sim O número máximo de etapas das quais uma única etapa em um trabalho pode declarar dependência na AWS região atual.
Etapas por trabalho Cada região compatível: 200 Sim O número máximo de etapas por trabalho na AWS região atual.
Armazenamento para volumes SSD de uso geral (gp3), em TiB Cada região compatível: 1 Sim A quantidade máxima agregada de armazenamento do EBS, medida em TiB, que pode ser usada em todas as frotas na região atual. AWS
Armazenamento para volumes persistentes de SSD de uso geral (gp3), em TiB Cada região compatível: 4 Sim A quantidade máxima agregada de armazenamento, em TiB, que pode ser provisionada em volumes persistentes de SSD de uso geral (gp3) na região atual. AWS
Perfis de armazenamento por parque Cada região compatível: 50 Não O número máximo de perfis de armazenamento que podem ser criados para cada fazenda na AWS região atual.
Tarefas por bloco Cada região compatível: 150 Não O número máximo de tarefas que podem ser combinadas em um único bloco ao enviar um trabalho.
Tarefas por trabalho Cada região com suporte: 10.000 Sim O número máximo de tarefas por trabalho na AWS região atual.
Tarefas por etapa Cada região com suporte: 10.000 Sim O número máximo de tarefas por etapa na AWS região atual.
Wait-and-save vCPUs por região Cada região compatível: 50 Sim O número máximo de vCPUs de espera e salvamento que podem ser provisionadas em todas as frotas gerenciadas por serviços na região atual. AWS
Operadores por parque Cada região suportada: 7.500 Sim O número máximo de trabalhadores por fazenda na AWS região atual.

Controle de utilização de solicitações da API

Deadline Cloud limita a taxa de solicitações de API para cada Conta da AWS uma delas Região da AWS. As taxas de solicitação padrão suportam cargas de trabalho e uso em grande escala. Quando suas solicitações excedem a taxa permitida, Deadline Cloud rejeita a solicitação com um código de status HTTP 429 e um ThrottlingException erro.

Os AWS SDKs e as tentativas AWS CLI automáticas de repetir solicitações limitadas usando o retrocesso exponencial. A limitação ocasional é resolvida sem exigir alterações em seu aplicativo. Se você tiver uma limitação contínua, entre em contato com o AWS Suporte para solicitar taxas de solicitação mais altas.

Alguns Deadline Cloud recursos usam outros Serviços da AWS, e as cotas desses serviços também se aplicam.

Cotas do Amazon EC2 para frotas gerenciadas pelo cliente

Suas cotas do Amazon Elastic Compute Cloud (Amazon EC2) se aplicam às frotas gerenciadas pelo cliente, porque esses trabalhadores são executados em instâncias em sua própria conta. Em vez disso, a computação para frotas gerenciadas por serviços conta com base nas cotas de Deadline Cloud vCPU e GPU na tabela anterior.

Para visualizar ou aumentar suas cotas do Amazon EC2, abra o console de cotas de serviço e escolha Amazon Elastic Compute Cloud. Para obter mais informações, consulte Amazon EC2 service quotas no Guia do usuário do Amazon EC2.

Cotas da Amazon Bedrock para o Deadline Cloud assistente

O Assistente do Deadline Cloud usa a inferência sob demanda do Amazon Bedrock em sua Conta da AWS, então as cotas de serviço Amazon Bedrock da sua conta se aplicam. As duas principais restrições são:

  • Solicitações por minuto (RPM) — O número de solicitações de invocação de modelo permitidas por minuto.

  • Tokens por minuto (TPM) — O número total de tokens de entrada e saída processados por minuto.

As cotas padrão variam de acordo com a região. Algumas regiões têm limites padrão mais baixos, tão baixos quanto 20 RPM, o que pode resultar em limitação durante o uso intenso do assistente. O assistente usa perfis de inferência entre regiões, que suportam um mínimo de 200 RPM. Cross-regiona inferência pode ajudar a aliviar a limitação em regiões com limites mais baixos de uma única região. Se sua região usa inferência entre regiões, as cotas de serviço nas regiões de destino também se aplicam.

Se você tiver erros de limitação ao usar o assistente, poderá solicitar um aumento na cota do serviço Amazon Bedrock:

Para solicitar um aumento da cota

  1. Abra o console do Service Quotas.

  2. No painel de navegação, escolha AWS serviços e, em seguida, escolha Amazon Bedrock.

  3. Encontre a cota para o modelo usado pelo assistente (procure cotas relacionadas ao InvokeModelWithResponseStream modelo relevante).

  4. Escolha o nome da cota e escolha Solicitar aumento no nível da conta.

  5. Insira o valor da cota desejada e envie a solicitação.

Você pode monitorar o uso da sua cota do Amazon Bedrock por meio CloudWatch de métricas. Configure CloudWatch alarmes nas métricas de limitação do Amazon Bedrock para identificar quando você está se aproximando dos limites de cota. Para obter mais informações, consulte Monitoramento do Amazon Bedrock no Guia do usuário do Amazon Bedrock.