Fornisci un throughput aggiuntivo per il modello del tuo agente

Per aumentare la frequenza e il numero di token che l'agente può elaborare durante l'inferenza del modello, associa un Provisioned Throughput che hai acquistato al modello utilizzato dall'agente. Per ulteriori informazioni su Provisioned Throughput e su come acquistarlo, consulta. Aumenta la capacità di invocazione del modello con Provisioned Throughput in Amazon Bedrock

È possibile associare un Provisioned Throughput quando si crea o si aggiorna un alias di agente. Nella console Amazon Bedrock, scegli Provisioned Throughput quando configuri l'alias o lo modifichi. In Amazon BedrockAPI, specifichi routingConfiguration quando invii una richiesta CreateAgentAliasor UpdateAgentAlias;. provisionedThroughput