Proporcione un rendimiento adicional para el modelo de su agente

Para aumentar la velocidad y la cantidad de tokens que el agente puede procesar durante la inferencia del modelo, asocie un rendimiento aprovisionado que haya adquirido al modelo que utiliza su agente. Para obtener más información sobre el rendimiento aprovisionado y cómo comprarlo, consulte. Aumente la capacidad de invocación de modelos con el rendimiento aprovisionado en Amazon Bedrock

Puede asociar un rendimiento aprovisionado al crear o actualizar un alias de agente. En la consola de Amazon Bedrock, puede elegir el rendimiento aprovisionado al configurar el alias o al editarlo. En Amazon BedrockAPI, lo especificas routingConfiguration cuando envías una solicitud CreateAgentAliaso UpdateAgentAlias;. provisionedThroughput