Provisione uma taxa de transferência adicional para o modelo do seu agente - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Provisione uma taxa de transferência adicional para o modelo do seu agente

Para aumentar a taxa e o número de tokens que o agente pode processar durante a inferência do modelo, associe uma taxa de transferência provisionada que você comprou ao modelo que seu agente está usando. Para saber mais sobre a taxa de transferência provisionada e como comprá-la, consulte. Aumente a capacidade de invocação do modelo com a taxa de transferência provisionada no Amazon Bedrock

Você pode associar uma taxa de transferência provisionada ao criar ou atualizar um alias de agente. No console do Amazon Bedrock, você escolhe a taxa de transferência provisionada ao configurar o alias ou editá-lo. No Amazon BedrockAPI, você especifica o provisionedThroughput no routingConfiguration quando envia uma solicitação CreateAgentAliasou UpdateAgentAlias;.