Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Realice un seguimiento del uso y los costos en Amazon Bedrock
Amazon Bedrock ofrece varias formas de atribuir el uso y los costos de la inferencia del modelo a usuarios, equipos, aplicaciones, entornos o experimentos específicos. Puede utilizar un único mecanismo o combinar varios. Por ejemplo, usa la atribución principal de IAM para obtener visibilidad por usuario junto con los proyectos para etiquetar por aplicación y solicita metadatos para el seguimiento de los experimentos por llamada.
sugerencia
Si no estás seguro de qué mecanismo se ajusta a tu caso práctico, empieza por el que se encuentra Preguntas frecuentes al final de este capítulo. Responde a preguntas comunes sobre la toma de decisiones, como «Quiero una atribución por usuario y por mensaje. ¿Cuáles son mis opciones?» y «¿Cuál es la diferencia entre el CUR clásico y el CUR 2.0?».
Elección de un enfoque
El método de atribución de costes que elija dependerá de la dimensión de la que quiera realizar el seguimiento, de las API de Amazon Bedrock que utilice y del nivel de granularidad que necesite. Las dos tablas siguientes presentan vistas complementarias. Utilice la primera para buscar mecanismos según su objetivo y la segunda para compararlos uno al lado del otro.
Elige por objetivo
Si sabe lo que quiere del seguimiento de costos, comience aquí.
| Si tu objetivo es... | Uso |
|---|---|
| Per-user o dólares por equipo en tu factura | Atribución principal de IAM |
| Per-application o en dólares por carga de trabajo | Perfiles de inferencia de aplicaciones(bedrock-runtime), o Proyectos y Espacios de trabajo () bedrock-mantle |
| Per-prompt uso y costo del token, divididos en cualquier dimensión | Per-request etiquetado de metadatos, con registros de invocación de modelos |
| Per-user y detalles por solicitud | Modele los registros de invocación, con el usuario extraído del identity ARN o de una etiqueta de metadatos de solicitud Per-request etiquetado de metadatos |
| Tanto en dólares exactos en la factura como en detalles por solicitud | Combine un método nativo (por ejemplo,) con Atribución principal de IAM Per-request etiquetado de metadatos |
Compare los mecanismos
En la siguiente tabla, se comparan los mecanismos disponibles según el tipo de función por el que se pueden atribuir, el resultado, el nivel de detalle del resultado, el lugar al que se entregan los datos y los puntos finales que admiten.
| Mecanismo | Atribuir por | Output | Granularity (Grado de detalle) | Destino de los datos | API de compatibles | bedrock-runtime |
bedrock-mantle |
|---|---|---|---|---|---|---|---|
| Atribución principal de IAM | Identidad de IAM | Dólares facturados | Agregados, por tipo de uso por día | AWS Cost Explorer/CUR 2.0 | InvokeModel, Conversaciones, finalizaciones de chat, respuestas |  |
|
| Perfiles de inferencia de aplicaciones | Etiquetas de recursos de perfil | Dólares facturados | Agregados, por tipo de uso por día | AWS Cost Explorer/CUR 2.0 | InvokeModel, Converse, Finalizaciones de chat | |
 |
| Proyectos | Etiquetas de recursos del proyecto | Dólares facturados | Agregados, por tipo de uso por día | AWS Cost Explorer/CUR 2.0 | Respuestas, finalizaciones de chat | |
|
| Espacios de trabajo | Etiqueta los recursos del proyecto a través del encabezado del espacio de trabajo | Dólares facturados | Agregados, por tipo de uso por día | AWS Cost Explorer/CUR 2.0 | Mensajes antrópicos | |
|
| Per-request etiquetado de metadatos | Per-request etiquetas clave-valor | Recuentos de fichas (se convierten en costes) | Por solicitud | Solo registros de invocaciones | InvokeModel, Converse InvokeModelWithResponseStream, ConverseStream | |
|
nota
Los métodos nativos (Atribución principal de IAM, Perfiles de inferencia de aplicacionesProyectos, yEspacios de trabajo) entregan el total de los dólares facturados a AWS Cost Explorer y CUR 2.0. El grano más fino se obtiene por tipo de uso y día, atribuido por identidad o etiqueta; no producen una fila por solicitud. Para obtener información detallada sobre cada solicitud, usa los registros de invocación modelo, en los que cada llamada es un registro independiente con su propio recuento de tokens.
La atribución detrás de una pasarela de LLM
Cuando una puerta de enlace o un proxy llama a Amazon Bedrock en nombre de muchos usuarios, Amazon Bedrock registra la función de IAM de la puerta de enlace como la identidad de la persona que llama. Para conservar la atribución a nivel de usuario, elija en función del resultado que necesite.
-
Para invertir dinero por usuario en sus herramientas de facturación, haga que la pasarela asuma su función de Amazon Bedrock por usuario o inquilino, utilizando etiquetas por usuario o sesión.
RoleSessionNameGuarda en caché las credenciales resultantes durante toda la sesión para evitar una AWS STS llamada en cada solicitud. Para obtener más información, consulte Atribución principal de IAM. -
Para obtener información detallada sobre cada solicitud, defina los metadatos del usuario en la solicitud en cada llamada. Los metadatos de las solicitudes varían según la solicitud sin AWS STS llamadas adicionales, algo que las etiquetas de sesión no pueden hacer en una sesión compartida.
