Erwerben Sie einen bereitgestellten Durchsatz für ein Amazon Bedrock-Modell - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erwerben Sie einen bereitgestellten Durchsatz für ein Amazon Bedrock-Modell

Wenn Sie einen Provisioned Throughput für ein Modell erwerben, geben Sie den Grad der Verpflichtung für das Modell und die Anzahl der zuzuweisenden Modelleinheiten (MUs) an. Informationen zu MU-Kontingenten finden Sie unter. Kontingente für bereitgestellten Durchsatz Die Anzahl der MUs, die Sie Ihren bereitgestellten Durchsätzen zuweisen können, hängt von der Laufzeit der Vereinbarung für den bereitgestellten Durchsatz ab:

  • Standardmäßig stehen Ihnen in Ihrem Konto 2 MUs zur Verfügung, die Sie unverbindlich auf die bereitgestellten Durchsätze verteilen können.

  • Wenn Sie einen Provisioned Throughput mit Verpflichtung erwerben, müssen Sie zunächst das AWS Support Center aufsuchen, um MUs für Ihr Konto zur Verteilung zwischen Provisioned Throughputs mit Verpflichtung anzufordern. Nachdem Ihrem Antrag stattgegeben wurde, können Sie einen kostenpflichtigen Provisioned Throughput erwerben.

Anmerkung

Nachdem Sie den Provisioned Throughput erworben haben, können Sie das zugehörige Modell nur ändern, wenn Sie ein benutzerdefiniertes Modell auswählen. Sie können das zugeordnete Modell in eines der folgenden Modelle ändern:

  • Das Basismodell, anhand dessen es angepasst wurde.

  • Ein weiteres benutzerdefiniertes Modell, das von demselben Basismodell abgeleitet ist.

Um zu erfahren, wie Sie Provisioned Throughput für ein Modell erwerben können, wählen Sie die Registerkarte aus, die der Methode Ihrer Wahl entspricht, und folgen Sie den Anweisungen.

Console

  1. Melden Sie sich bei der Rolle AWS Management Console Using an IAM mit Amazon Bedrock-Berechtigungen an und öffnen Sie die Amazon Bedrock-Konsole unter https://console.aws.amazon.com/bedrock/.

  2. Wählen Sie im linken Navigationsbereich unter Bewertung und Bereitstellung die Option Bereitgestellter Durchsatz aus.

  3. Wählen Sie im Abschnitt Provisioned Throughput die Option Provisioned Throughput kaufen aus.

  4. Gehen Sie für den Abschnitt „Details zum bereitgestellten Durchsatz“ wie folgt vor:

    1. Geben Sie im Feld Name des bereitgestellten Durchsatzes einen Namen für den bereitgestellten Durchsatz ein.

    2. Wählen Sie unter Modell auswählen einen Basismodellanbieter oder eine benutzerdefinierte Modellkategorie aus. Wählen Sie dann das Modell aus, für das der Durchsatz bereitgestellt werden soll.

      Anmerkung

      Informationen zu den Basismodellen, für die Sie Provisioned Throughput unverbindlich erwerben können, finden Sie unterUnterstützte Regionen und Modelle für Provisioned Throughput.

      In der AWS GovCloud (US) Region können Sie Provisioned Throughput nur unverbindlich für benutzerdefinierte Modelle erwerben.

    3. (Optional) Um Ihrem bereitgestellten Durchsatz Tags zuzuordnen, erweitern Sie den Abschnitt Tags und wählen Sie Neues Tag hinzufügen aus. Weitere Informationen finden Sie unter Ressourcen mithilfe von Tags verwalten.

  5. Gehen Sie für den Abschnitt Laufzeit und Modelleinheiten der Verpflichtung wie folgt vor:

    1. Wählen Sie im Abschnitt Laufzeit der Verpflichtung auswählen den Zeitraum aus, für den Sie sich verpflichten möchten, den bereitgestellten Durchsatz zu nutzen.

    2. Geben Sie im Feld Modelleinheiten die gewünschte Anzahl von Modelleinheiten (MUs) ein. Wenn Sie ein kostenpflichtiges Modell bereitstellen, müssen Sie zunächst das AWS Support Center aufsuchen, um eine Erhöhung der Anzahl der MUs, die Sie kaufen können, zu beantragen.

  6. Überprüfen Sie unter Zusammenfassung des voraussichtlichen Kaufs die geschätzten Kosten.

  7. Wählen Sie Bereitgestellten Durchsatz erwerben aus.

  8. Prüfen Sie den angezeigten Hinweis und bestätigen Sie die Verpflichtungsfrist und den Preis, indem Sie das Kontrollkästchen aktivieren. Wählen Sie dann Kauf bestätigen aus.

  9. In der Konsole wird die Übersichtsseite „Provisioned Throughput“ angezeigt. Der Status des bereitgestellten Durchsatzes in der Tabelle Bereitgestellter Durchsatz lautet Creating. Wenn die Erstellung des bereitgestellten Durchsatzes abgeschlossen ist, ändert sich der Status in Betrieb. Wenn das Update fehlschlägt, lautet der Status Fehlgeschlagen.

API

Um einen Provisioned Throughput zu erwerben, senden Sie eine CreateProvisionedModelThroughputAnfrage (siehe Link für Anfrage- und Antwortformate und Felddetails) mit einem Amazon Bedrock Control Plane-Endpunkt.

Anmerkung

Die Basismodelle, für die Sie Provisioned Throughput unverbindlich erwerben können, finden Sie unter. Unterstützte Regionen und Modelle für Provisioned Throughput

In der AWS GovCloud (US) Region können Sie Provisioned Throughput nur unverbindlich für benutzerdefinierte Modelle erwerben.

In der folgenden Tabelle werden die Parameter und der Anforderungstext kurz beschrieben (detaillierte Informationen und die Anforderungsstruktur finden Sie in der CreateProvisionedModelThroughput Anforderungssyntax):

Variable Erforderlich? Anwendungsfall
modelId Ja Um die Basismodell-ID oder den ARN für den Kauf von Provisioned Throughput oder den benutzerdefinierten Modellnamen oder ARN anzugeben
ModelUnits Ja Um die Anzahl der zu kaufenden Modelleinheiten (MUs) anzugeben. Wenn Sie die Anzahl der MUs, die Sie kaufen können, erhöhen möchten, wenden Sie sich an das AWS Support Center und fordern Sie eine Erhöhung der Anzahl der MUs an, die Sie kaufen können
provisionedModelName Ja Um einen Namen für den bereitgestellten Durchsatz anzugeben
Dauer der Zusage Nein Um die Dauer anzugeben, für die ein Commit auf den bereitgestellten Durchsatz festgelegt werden soll. Lassen Sie dieses Feld weg, um sich für eine unverbindliche Preisgestaltung zu entscheiden
tags Nein Um Ihrem bereitgestellten Durchsatz Tags zuzuordnen
clientRequestToken Nein Um eine Vervielfältigung der Anfrage zu verhindern

Die Antwort gibt a zurückprovisionedModelArn, das Sie als Inferenz modelId im Modell verwenden können. Um zu überprüfen, wann der Provisioned Throughput einsatzbereit ist, senden Sie eine GetProvisionedModelThroughputAnfrage und überprüfen Sie, ob der Status lautet. InService Schlägt das Update fehl, lautet der Failed Status und die GetProvisionedModelThroughputAntwort enthält einefailureMessage.

Siehe Codebeispiele