Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Erhöhen Sie die Kapazität für den Modellaufruf mit Provisioned Throughput in Amazon Bedrock
Der Durchsatz bezieht sich auf die Anzahl und Geschwindigkeit der Eingaben und Ausgaben, die ein Modell verarbeitet und zurückgibt. Sie können Provisioned Throughput erwerben, um einen höheren Durchsatz für ein Modell zu festen Kosten bereitzustellen. Wenn Sie ein Modell angepasst haben, müssen Sie Provisioned Throughput erwerben, um es verwenden zu können.
Der von Ihnen gekaufte Provisioned Throughput wird Ihnen stündlich in Rechnung gestellt. Detaillierte Informationen zu den Preisen finden Sie unter Amazon Bedrock Pricing
-
Das Modell, das Sie wählen (für benutzerdefinierte Modelle entspricht der Preis dem Basismodell, auf dessen Grundlage es angepasst wurde).
-
Die Anzahl der Modelleinheiten (MUs), die Sie für den bereitgestellten Durchsatz angeben. Eine MU liefert einen bestimmten Durchsatz für das angegebene Modell. Das Durchsatzniveau einer MU spezifiziert Folgendes:
-
Die Anzahl der Eingabetoken, die eine MU innerhalb einer Minute für alle Anfragen verarbeiten kann.
-
Die Anzahl der Ausgabetokens, die eine MU innerhalb einer Minute für alle Anfragen generieren kann.
Anmerkung
Weitere Informationen darüber, was eine MU spezifiziert, erhalten Sie von Ihrem AWS-Konto Manager.
-
-
Die Dauer, für die Sie sich verpflichten, den bereitgestellten Durchsatz beizubehalten. Je länger die Laufzeit der Verpflichtung ist, desto günstiger wird der Stundenpreis. Sie können zwischen den folgenden Bindungsstufen wählen:
-
Keine Verpflichtung — Sie können den bereitgestellten Durchsatz jederzeit löschen.
-
1 Monat — Sie können den bereitgestellten Durchsatz erst löschen, wenn die einmonatige Abonnementlaufzeit abgelaufen ist.
-
6 Monate — Sie können den bereitgestellten Durchsatz erst löschen, wenn der sechsmonatige Abonnementzeitraum abgelaufen ist.
Anmerkung
Die Abrechnung wird fortgesetzt, bis Sie den bereitgestellten Durchsatz löschen.
-
In den folgenden Schritten wird der Prozess der Einrichtung und Verwendung von Provisioned Throughput beschrieben.
-
Ermitteln Sie die Anzahl der MUs Geräte, die Sie für einen Provisioned Throughput erwerben möchten, und den Zeitraum, für den Sie sich zur Nutzung des Provisioned Throughput verpflichten möchten.
-
Erwerben Sie Provisioned Throughput für ein Basismodell oder ein benutzerdefiniertes Modell.
-
Nachdem das bereitgestellte Modell erstellt wurde, können Sie es verwenden, um Modellinferenzen auszuführen.
Themen
