Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Suivez l'utilisation et les coûts dans Amazon Bedrock
Amazon Bedrock propose plusieurs méthodes pour attribuer l'utilisation et les coûts de l'inférence de modèles à des utilisateurs, des équipes, des applications, des environnements ou des expériences spécifiques. Vous pouvez utiliser un seul mécanisme ou en combiner plusieurs. Par exemple, utilisez l'attribution principale IAM pour une visibilité par utilisateur à côté des projets pour le balisage par application, et demandez des métadonnées pour le suivi des expériences par appel.
Astuce
Si vous ne savez pas quel mécanisme convient à votre cas d'utilisation, commencez par la Questions fréquentes (FAQ) fin de ce chapitre. Il répond à des questions de décision courantes, telles que « Je souhaite une attribution par utilisateur et par invite. Quels sont mes choix ? » et « Quelle est la différence entre le CUR classique et le CUR 2.0 ? ».
Choix d’une approche
La méthode d'attribution des coûts que vous choisissez dépend de la dimension que vous souhaitez suivre, des API Amazon Bedrock que vous utilisez et du niveau de granularité dont vous avez besoin. Les deux tableaux suivants présentent des points de vue complémentaires. Utilisez la première pour rechercher des mécanismes en fonction de votre objectif, et la seconde pour comparer des mécanismes côte à côte.
Choisissez par objectif
Si vous savez ce que vous attendez du suivi des coûts, commencez ici.
| Si votre objectif est... | Utilisation |
|---|---|
| Per-user ou des dollars par équipe sur votre facture | Attribution principale de l'IAM |
| Per-application ou en dollars par charge de travail | Profils d’inférence d’applications(bedrock-runtime), ou Projets et Espaces de travail (bedrock-mantle) |
| Per-prompt utilisation et coût des jetons, répartis selon n'importe quelle dimension | Per-request balisage des métadonnées, avec des journaux d'invocation de modèles |
| Per-user et détails par invite | Modélisez les journaux d'invocation, avec l'utilisateur extrait de l'identityARN ou d'une balise de métadonnées de demande |
| À la fois des dollars exacts sur la facture et des informations détaillées par demande | Combinez une méthode native (par exemple,Attribution principale de l'IAM) avec Per-request balisage des métadonnées |
Comparez les mécanismes
Le tableau suivant compare les mécanismes disponibles en fonction de ce qu'ils vous permettent d'attribuer, de ce qu'ils produisent, de la granularité de cette sortie, de l'endroit où les données sont fournies et des points de terminaison qu'ils prennent en charge.
| Mécanisme | Attribut par | Output | Granularité | Destination des données | API prises en charge | bedrock-runtime |
bedrock-mantle |
|---|---|---|---|---|---|---|---|
| Attribution principale de l'IAM | Identité IAM | Dollars facturés | Agrégé, par type d'utilisation et par jour | AWS Explorateur de coûts/CUR 2.0 | InvokeModel, Converse, Compléments de discussion, Réponses |  |
|
| Profils d’inférence d’applications | Tags de ressources de profil | Dollars facturés | Agrégé, par type d'utilisation et par jour | AWS Explorateur de coûts/CUR 2.0 | InvokeModel, Converse, Compléments de discussion | |
 |
| Projets | Étiquettes de ressources du projet | Dollars facturés | Agrégé, par type d'utilisation et par jour | AWS Explorateur de coûts/CUR 2.0 | Réponses, complétion du chat | |
|
| Espaces de travail | Tags de ressources de projet via l'en-tête de l'espace de travail | Dollars facturés | Agrégé, par type d'utilisation et par jour | AWS Explorateur de coûts/CUR 2.0 | Messages anthropiques | |
|
| Per-request balisage des métadonnées | Per-request balises clé-valeur | Nombre de jetons (vous convertissez en coût) | Par demande | Journaux d'invocation uniquement | InvokeModel InvokeModelWithResponseStream, Conversation, ConverseStream | |
|
Note
Les méthodes natives (Attribution principale de l'IAM, Profils d’inférence d’applicationsProjets, etEspaces de travail) fournissent des dollars facturés agrégés à AWS Cost Explorer et CUR 2.0. Le grain le plus fin est attribué par type d'utilisation et par jour, par identité ou par étiquette ; aucune ligne par demande n'est générée. Pour obtenir des informations détaillées par invite, utilisez des modèles de journaux d'invocation, où chaque appel est un enregistrement distinct contenant son propre nombre de jetons.
Attribution derrière une passerelle LLM
Lorsqu'une passerelle ou un proxy appelle Amazon Bedrock pour le compte de nombreux utilisateurs, Amazon Bedrock enregistre le rôle IAM de la passerelle en tant qu'identité de l'appelant. Pour préserver l'attribution au niveau utilisateur, choisissez en fonction du résultat dont vous avez besoin.
-
Pour les dollars par utilisateur dans vos outils de facturation, demandez à la passerelle d'assumer son rôle Amazon Bedrock par utilisateur ou locataire, en utilisant des balises par utilisateur
RoleSessionNameou de session. Mettez en cache les informations d'identification qui en résultent pendant toute la durée de vie de la session afin d'éviter un AWS STS appel à chaque demande. Pour de plus amples informations, veuillez consulter Attribution principale de l'IAM. -
Pour obtenir des informations détaillées par invite, définissez l'utilisateur dans les métadonnées de demande à chaque appel. Les métadonnées des demandes varient d'une demande à l'autre sans AWS STS appels supplémentaires, ce que les balises de session ne peuvent pas effectuer sur une session partagée.
