Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verfolgen Sie Nutzung und Kosten in Amazon Bedrock
Amazon Bedrock bietet mehrere Möglichkeiten, die Nutzung und Kosten von Modellinferenzen bestimmten Benutzern, Teams, Anwendungen, Umgebungen oder Experimenten zuzuordnen. Sie können einen einzelnen Mechanismus verwenden oder mehrere kombinieren. Verwenden Sie beispielsweise die IAM-Prinzipalattribution für die Sichtbarkeit pro Benutzer zusammen mit Projekten für das Tagging pro Anwendung und fordern Sie Metadaten für das Versuchs-Tracking pro Aufruf an.
Tipp
Wenn Sie sich nicht sicher sind, welcher Mechanismus für Ihren Anwendungsfall geeignet ist, beginnen Sie mit dem Häufig gestellte Fragen am Ende dieses Kapitels. Es beantwortet häufig gestellte Entscheidungsfragen wie „Ich möchte eine Zuordnung pro Benutzer und pro Prompt — welche Möglichkeiten habe ich?“ und „Was ist der Unterschied zwischen klassischem CUR und CUR 2.0?“.
Auswahl des Ansatzes
Die von Ihnen gewählte Methode zur Kostenzuweisung hängt davon ab, welche Dimension Sie verfolgen möchten, welche Amazon Bedrock-APIs Sie verwenden und welche Granularität Sie benötigen. Die folgenden beiden Tabellen enthalten ergänzende Ansichten. Verwenden Sie die erste, um die Mechanismen anhand Ihres Ziels nachzuschlagen, und die zweite, um die Mechanismen nebeneinander zu vergleichen.
Wähle nach Ziel
Wenn Sie wissen, was Sie von der Kostenverfolgung erwarten, beginnen Sie hier.
| Wenn dein Ziel ist... | Verwenden Sie |
|---|---|
| Per-user oder Dollar pro Team auf deiner Rechnung | Hauptzuweisung nach IAM |
| Per-application oder Dollar pro Workload | Anwendungsinferenzprofile(bedrock-runtime) oder Projekte und Arbeitsbereiche () bedrock-mantle |
| Per-prompt Token-Nutzung und Kosten, aufgeschlüsselt nach beliebigen Dimensionen | Per-request Tagging von Metadaten, mit Protokollen für Modellaufrufe |
| Per-user und Details pro Eingabeaufforderung | Modellaufrufprotokolle, wobei der Benutzer dem identity ARN oder einem Request-Metadaten-Tag entnommen wird |
| Sowohl die Rechnungsangaben als auch die Angaben pro Aufforderung | Kombinieren Sie eine native Methode (z. B.) mit Hauptzuweisung nach IAM Per-request Tagging von Metadaten |
Vergleichen Sie die Mechanismen
In der folgenden Tabelle werden die verfügbaren Mechanismen anhand der Attribute, anhand derer Sie sie zuordnen können, was sie ausgeben, wie granular diese Ausgabe ist, wo die Daten bereitgestellt werden und welche Endpunkte sie unterstützen, verglichen.
| Mechanismus | Attributieren von | Ausgabe | Granularity | Ziel der Daten | Unterstützte APIs | bedrock-runtime |
bedrock-mantle |
|---|---|---|---|---|---|---|---|
| Hauptzuweisung nach IAM | IAM-Identität | In Rechnung gestellte Dollar | Aggregiert, pro Nutzungstyp pro Tag | AWS Cost Explorer/CUR 2.0 | InvokeModel, Converse, Chatabschlüsse, Antworten |  |
|
| Anwendungsinferenzprofile | Ressourcen-Tags für das Profil | In Rechnung gestellte Dollar | Aggregiert, pro Nutzungstyp pro Tag | AWS Cost Explorer/CUR 2.0 | InvokeModel, Converse, Abschluss des Chats | |
 |
| Projekte | Schlagworte für Projektressourcen | In Rechnung gestellte Dollar | Aggregiert, pro Nutzungstyp pro Tag | AWS Cost Explorer/CUR 2.0 | Antworten, Abschluss des Chats | |
|
| Arbeitsbereiche | Schlagworte für Projektressourcen in der Kopfzeile des Work | In Rechnung gestellte Dollar | Aggregiert, pro Nutzungstyp pro Tag | AWS Cost Explorer/CUR 2.0 | Anthropische Botschaften | |
|
| Per-request Tagging von Metadaten | Per-request Schlüsselwert-Tags | Anzahl der Tokens (Sie rechnen in Kosten um) | Pro Anfrage | Nur Aufrufprotokolle | InvokeModel, Converse InvokeModelWithResponseStream, ConverseStream | |
|
Anmerkung
Die systemeigenen Methoden (Hauptzuweisung nach IAM, AnwendungsinferenzprofileProjekte, undArbeitsbereiche) liefern aggregierte, fakturierte Dollars an AWS Cost Explorer und CUR 2.0. Die beste Auswertung erfolgt pro Nutzungstyp pro Tag, der einer Identität oder einem Tag zugeordnet wird. Sie erzeugen keine Zeile pro Anfrage. Für Details pro Aufforderung verwenden Sie Modellaufrufprotokolle, in denen jeder Anruf ein separater Datensatz ist, der seine eigene Token-Anzahl enthält.
Zuordnung hinter einem LLM-Gateway
Wenn ein Gateway oder Proxy Amazon Bedrock im Namen vieler Benutzer aufruft, zeichnet Amazon Bedrock die IAM-Rolle des Gateways als Identität des Anrufers auf. Um die Zuordnung auf Benutzerebene beizubehalten, wählen Sie basierend auf der Ausgabe, die Sie benötigen.
-
Wenn Sie Ihre Abrechnungstools pro Benutzer verwenden, lassen Sie das Gateway seine Amazon Bedrock-Rolle pro Benutzer oder Mandant übernehmen, indem Sie Tags pro Benutzer oder Sitzung verwenden.
RoleSessionNameSpeichern Sie die resultierenden Anmeldeinformationen für die gesamte Sitzungsdauer im Cache, um zu vermeiden, dass bei jeder Anfrage ein AWS STS Anruf erfolgt. Weitere Informationen finden Sie unter Hauptzuweisung nach IAM. -
Für Details pro Aufforderung geben Sie den Benutzer in den Anforderungsmetadaten für jeden Anruf an. Die Anforderungsmetadaten variieren je nach Anfrage ohne zusätzliche AWS STS Aufrufe, was Sitzungs-Tags bei einer gemeinsamen Sitzung nicht tun können.
