View a markdown version of this page

Dimensiones del límite de tarifa - Base amazónica AgentCore

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Dimensiones del límite de tarifa

Las claves de dimensión determinan cómo la puerta de enlace agrupa el tráfico en grupos con límite de velocidad. Cada clave de dimensión hace referencia a un valor del contexto de la solicitud. La puerta de enlace resuelve estos valores en tiempo de ejecución para encontrar la entrada de límite de velocidad correspondiente.

Dimensiones admitidas

Clave de dimensión Description (Descripción) Ejemplo de valor

targetName

El nombre del objetivo que se invoca. Resuelto a partir de la ruta de solicitud.

my-llm-target

toolName

El nombre completo de la herramienta que se está invocando, en el formato. targetName___toolName Disponible para solicitudes de uso de herramientas de MCP.

my-mcp-target___get_weather

qualifiedModelId

El identificador de modelo totalmente cualificado para los objetivos de inferencia.

anthropic.claude-3-sonnet-20240229-v1:0

$.context.jwt.<claim>

Una afirmación extraída del token JWT de la persona que llama. <claim>Sustitúyala por el nombre de la reclamación (por ejemplo$.context.jwt.sub,$.context.jwt.team).

user-123

$.context.iam.principal

El ARN principal de IAM de la persona que llama.

arn:aws:iam::123456789012:role/MyRole

$.context.iam.sourceIdentity

La identidad de origen establecida por la persona que llama al asumir un rol.

developer@example.com

El valor predeterminado (*)

Las entradas de límite de velocidad admiten el valor especial * como valor predeterminado general para una dimensión.

  • Una entrada con * para una dimensión significa «aplicar esta tasa a todos los valores de esta dimensión».

  • Si existe una entrada más específica para el valor real, la entrada específica tiene prioridad (la partida más específica gana).

  • *crea grupos de tarifas independientes por entidad: cada valor distinto que coincida obtiene su propio grupo de tasas a la tasa configurada.

Trailing-only restricción para los límites de velocidad multidimensionales:

Cuando un límite de velocidad tiene varias claves de dimensión, solo puede aparecer en las posiciones finales. Si lo utilizas en la posición N, todas las posiciones subsiguientes también deben * estarlo.

Por ejemplo, condimensionKeys: ["targetName", "toolName", "$.context.jwt.sub"]:

Dimensiones de entrada Valid (Válido) ¿Por qué

["target1", "readData", "alice"]

Sí

Todas las posiciones son valores específicos.

["target1", "readData", "*"]

Sí

Solo lo es la última posición*.

["target1", "*", "*"]

Sí

Las posiciones finales son*.

["*", "*", "*"]

Sí

Todas las posiciones son * (por defecto para cualquier combinación).

["*", "readData", "alice"]

No

*en la posición 1, seguida de valores específicos.

["*", "*", "alice"]

No

*en las posiciones 1-2 seguidas de un valor específico.

["target1", "*", "alice"]

No

*en la posición 2 seguido de un valor específico en la posición 3.

Cómo funciona el emparejamiento:

Cuando llega una solicitud, la pasarela resuelve los valores reales de las dimensiones y busca la entrada coincidente más específica. Por ejemplo, si los valores resueltos son["target1", "readData", "alice"], la puerta de enlace comprueba las entradas en este orden:

  1. ["target1", "readData", "alice"]— coincidencia exacta (la más específica)

  2. ["target1", "readData", "*"]— la última dimensión usa el valor predeterminado

  3. ["target1", "*", "*"]— las dos últimas dimensiones se utilizan por defecto

  4. ["*", "*", "*"]— totalmente predeterminado (menos específico)

La primera partida gana.

sugerencia

Usa entradas específicas para entidades conocidas de alto valor o restringidas, y las * entradas como niveles tarifarios predeterminados para todo lo demás.

Comportamiento de resolución de dimensiones

Cuando la puerta de enlace evalúa un límite de velocidad, resuelve cada clave de dimensión del contexto de la solicitud:

  • Si una clave de dimensión no se puede resolver a partir de la solicitud (por ejemplo, toolName en una solicitud que no es una herramienta o en una reclamación de JWT que no existe), la puerta de enlace omite por completo ese límite de velocidad. La solicitud no está limitada por ese límite de velocidad.

  • Para la resolución solo se utiliza el contexto validado. Las afirmaciones de JWT se extraen de los tokens que se han validado mediante la configuración de autenticación de la puerta de enlace. El contexto de IAM solo está disponible para SigV4-authenticated las solicitudes.

Límites compartidos frente a límites individuales

La combinación de claves de dimensión y valores de entrada determina si el tráfico comparte un único segmento de tarifas o si cada entidad tiene su propio segmento independiente.

Claves de dimensión Dimensiones de entrada Comportamiento

["targetName"]

{"targetName": "my-target"}

Todo el tráfico my-target destinado a compartir un segmento (límite compartido para ese objetivo).

["targetName"]

{"targetName": "*"}

Cada objetivo obtiene su propio segmento independiente a este ritmo (por entidad).

["$.context.jwt.sub"]

{"$.context.jwt.sub": "*"}

Cada llamante único tiene su propio grupo (límite individual por persona que llama).

["targetName", "$.context.jwt.sub"]

{"targetName": "my-target", "$.context.jwt.sub": "*"}

Cada persona que llama tiene su propio grupo, delimitado. my-target

["targetName", "$.context.jwt.sub"]

{"targetName": "*", "$.context.jwt.sub": "*"}

Cada combinación única de objetivo y llamante tiene su propio grupo.

aviso

Evita usar afirmaciones de JWT con valores de cardinalidad alta o ilimitados como claves de dimensión (por ejemplo,, o identificadores de solicitud). $.context.jwt.jti $.context.jwt.nonce Esto crea un número ilimitado de grupos de tarifas, lo que podría reducir la eficacia de la limitación de tarifas. Usa identificadores estables y acotados, comosub, o en su lugar. team tier