Wählen Sie Ihre Cookie-Einstellungen aus

Wir verwenden essentielle Cookies und ähnliche Tools, die für die Bereitstellung unserer Website und Services erforderlich sind. Wir verwenden Performance-Cookies, um anonyme Statistiken zu sammeln, damit wir verstehen können, wie Kunden unsere Website nutzen, und Verbesserungen vornehmen können. Essentielle Cookies können nicht deaktiviert werden, aber Sie können auf „Anpassen“ oder „Ablehnen“ klicken, um Performance-Cookies abzulehnen.

Wenn Sie damit einverstanden sind, verwenden AWS und zugelassene Drittanbieter auch Cookies, um nützliche Features der Website bereitzustellen, Ihre Präferenzen zu speichern und relevante Inhalte, einschließlich relevanter Werbung, anzuzeigen. Um alle nicht notwendigen Cookies zu akzeptieren oder abzulehnen, klicken Sie auf „Akzeptieren“ oder „Ablehnen“. Um detailliertere Entscheidungen zu treffen, klicken Sie auf „Anpassen“.

Erhöhen Sie den Durchsatz mit regionsübergreifender Inferenz

Fokusmodus
Erhöhen Sie den Durchsatz mit regionsübergreifender Inferenz - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Wenn Sie Model Inference im On-Demand-Modus ausführen, sind Ihre Anfragen möglicherweise durch Servicekontingenten oder zu Spitzenzeiten eingeschränkt. Dank regionsübergreifender Inferenz können Sie ungeplante Datenverkehrsspitzen problemlos bewältigen, indem Sie Rechenleistung auf verschiedene Arten nutzen. AWS-Regionen Mit regionsübergreifender Inferenz können Sie den Datenverkehr auf mehrere verteilen und so einen höheren Durchsatz erzielen. AWS-Regionen

Um die regionsübergreifende Inferenz zu verwenden, fügen Sie ein Inferenzprofil hinzu, wenn Sie die Modellinferenz auf folgende Weise ausführen:

Informationen zu den Regionen und Modellen, mit denen Sie Inferenzprofile verwenden können, um regionsübergreifende Inferenzen durchzuführen, finden Sie unter. Unterstützte Regionen und Modelle für Inferenzprofile

Sie können den Durchsatz für ein Modell auch erhöhen, indem Sie Provisioned Throughput erwerben. Inferenzprofile unterstützen derzeit Provisioned Throughput nicht.

Informationen zur Verwendung eines Inferenzprofils zum Senden von Modellaufrufanforderungen über Regionen hinweg finden Sie unter. Verwenden Sie ein Inferenzprofil beim Modellaufruf

Beachten Sie die folgenden Informationen zur regionsübergreifenden Inferenz:

  • Für die Verwendung von regionsübergreifender Inferenz fallen keine zusätzlichen Routing-Kosten an. Der Preis wird auf der Grundlage der Region berechnet, von der aus Sie ein Inferenzprofil aufrufen. Preisinformationen finden Sie unter Amazon Bedrock — Preise.

  • Wenn Sie regionsübergreifende Inferenz verwenden, kann Ihr Durchsatz bis zu doppelt so hoch sein wie die Standardkontingente in der Region, in der sich das Inferenzprofil befindet. Die Erhöhung des Durchsatzes gilt nur für Aufrufe, die über Inferenzprofile ausgeführt werden. Das reguläre Kontingent gilt weiterhin, wenn Sie sich für eine regionsinterne Modellaufrufanforderung entscheiden. Wenn Sie sich beispielsweise auf die USA berufen Anthropic Claude 3 Sonnet Inferenzprofil in us-east-1, Ihr Durchsatz kann bis zu 1.000 Anfragen pro Minute und 2.000.000 Token pro Minute erreichen. Die Standardkontingente für den On-Demand-Durchsatz finden Sie im Abschnitt Runtime-Kontingente in Kontingente für Amazon Bedrock oder verwenden Sie die Service-Kontingents-Konsole.

  • Regionsübergreifende Inferenzanfragen werden innerhalb der Regionen gespeichert, die Teil des verwendeten Inferenzprofils sind. Beispielsweise wird eine Anfrage, die mit einem EU-Inferenzprofil gestellt wurde, innerhalb der EU-Regionen gespeichert.

Weitere Informationen zur regionsübergreifenden Inferenz finden Sie unter Erste Schritte mit regionsübergreifender Inferenz in Amazon Bedrock.

DatenschutzNutzungsbedingungen für die WebsiteCookie-Einstellungen
© 2025, Amazon Web Services, Inc. oder Tochtergesellschaften. Alle Rechte vorbehalten.