As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Depois de comprar um throughput provisionado, você pode usá-lo com os seguintes recursos para aumentar o throughput:
-
Inferência de modelo: é possível testar o throughput provisionado em um playground do console do Amazon Bedrock. Quando tudo estiver pronto para implantar o throughput provisionado, configure a aplicação para invocar o modelo provisionado. Escolha a guia do seu método preferido e siga as etapas:
Como usar throughput provisionado no playground do console do Amazon Bedrock
-
Faça login na função AWS Management Console usando uma função do IAM com as permissões do Amazon Bedrock e abra o console do Amazon Bedrock em. https://console.aws.amazon.com/bedrock/
-
No painel de navegação à esquerda, selecione Chat, Texto ou Imagem em Playgrounds, dependendo do caso de uso.
-
Escolha Selecionar modelo.
-
Em 1. Coluna Categoria, selecione um provedor ou uma categoria de modelo personalizado. Em 2. Coluna Modelo, selecione o modelo ao qual o throughput provisionado está associado.
-
Em 3. Coluna Throughput, selecione o throughput provisionado.
-
Selecione Aplicar.
Para saber como usar os playgrounds do Amazon Bedrock, consulte Gerar respostas no console usando playgrounds.
-
Associar um throughput provisionado a um alias de agente: é possível associar um throughput provisionado ao criar ou atualizar um alias de agente. No console do Amazon Bedrock, escolha o throughput provisionado ao configurar o alias ou editá-lo. Na API do Amazon Bedrock, você especifica o
provisionedThroughputnoroutingConfigurationquando envia uma solicitação CreateAgentAliasou UpdateAgentAlias;.
