View a markdown version of this page

Unterstützte Regionen und Modelle für Inferenzprofile - Amazon Bedrock
Unterstützte regionsübergreifende InferenzprofileUnterstützte Regionen und Modelle für Anwendungsinferenzprofile

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Unterstützte Regionen und Modelle für Inferenzprofile

Eine Liste der in Amazon Bedrock unterstützten Regionscodes und Endpunkte finden Sie unter Endpunkte und Kontingente von Amazon Bedrock. In diesem Thema werden vordefinierte Inferenzprofile beschrieben, die Sie verwenden können, sowie die Regionen und Modelle, die Anwendungsinferenzprofile unterstützen.

Anmerkung

Suchen Sie nach Inferenzprofil-IDs für ein bestimmtes Modell? Die Inferenzprofil-IDs und die regionale Verfügbarkeit jedes Modells sind jetzt auf der Detailseite des Modells dokumentiert. Sehen Sie sich die Modelle auf einen Blick an und wählen Sie das Modell aus, an dem Sie interessiert sind.

Unterstützte regionsübergreifende Inferenzprofile

Sie können eine regionsübergreifende Inferenz mit regionsübergreifenden (systemdefinierten) Inferenzprofilen durchführen. Mit regionsübergreifender Inferenz können Sie den Verkehr auf mehrere verteilen, AWS-Regionen indem Sie in jeder dieser Regionen die Rechenfunktion verwenden.

Cross-Region (systemdefinierte) Inferenzprofile werden nach dem Modell benannt, das sie unterstützen, und durch die Regionen definiert, die sie unterstützen. Lesen Sie die folgenden Definitionen, um zu verstehen, wie ein regionsübergreifendes Inferenzprofil Ihre Anfragen behandelt:

  • Quellregion – Die Region, aus der Sie die API-Anfrage stellen, die das Inferenzprofil spezifiziert.

  • Zielregion – Eine Region, an die der Amazon-Bedrock-Service die Anforderung aus der Quellregion weiterleiten kann.

Wenn Sie ein regionenübergreifendes Inferenzprofil in Amazon Bedrock aufrufen, stammt Ihre Anforderung aus einer Quellregion und wird automatisch an eine der in diesem Profil definierten Zielregionen weitergeleitet, wodurch die Leistung optimiert wird. Die Zielregionen für globale regionenübergreifende Inferenzprofile umfassen alle kommerziellen Regionen.

Anmerkung

Die Zielregionen in einem regionsübergreifenden Inferenzprofil können Opt-in-Regionen enthalten. Dabei handelt es sich um Regionen, die Sie auf oder Organisationsebene explizit aktivieren müssen. AWS-Konto Weitere Informationen finden Sie unter AWS-Regionen In Ihrem Konto aktivieren oder deaktivieren. Bei Verwendung eines regionsübergreifenden Inferenzprofils kann Ihre Inferenzanforderung an eine der Zielregionen im Profil weitergeleitet werden, auch wenn Sie sich in Ihrem Konto nicht für solche Regionen angemeldet haben. Ihre Eingabeaufforderungen und Ausgabeergebnisse können zur Missbrauchserkennung in den Opt-in-Regionen gespeichert werden.

Service Control Policies (SCPs) und AWS Identity and Access Management (IAM) -Richtlinien steuern gemeinsam, wo regionsübergreifende Rückschlüsse zulässig sind. Mithilfe von Service-Kontrollrichtlinien können Sie steuern, welche Regionen Amazon Bedrock für Inferenzen verwenden kann, und mithilfe von IAM-Richtlinien können Sie definieren, welche Benutzer oder Rollen zum Ausführen von Inferenzen berechtigt sind. Wenn eine Zielregion in einem regionsübergreifenden Inferenzprofil in Ihren Service-Kontrollrichtlinien blockiert ist, schlägt die Anforderung fehl, auch wenn andere Regionen weiterhin zulässig sind. Um einen effizienten Betrieb mit regionsübergreifender Inferenz zu gewährleisten, können Sie Ihre SCPs und IAM-Richtlinien so aktualisieren, dass alle erforderlichen Amazon Bedrock-Inferenzaktionen (z. B. bedrock:InvokeModel* oderbedrock:CreateModelInvocationJob) in allen Zielregionen, die in Ihrem ausgewählten Inferenzprofil enthalten sind, zulässig sind. Weitere Informationen finden Sie unter Aktivieren der regionsübergreifenden Amazon-Bedrock-Inferenz in Umgebungen mit mehreren Konten.

Anmerkung

Einige Inferenzprofile werden an unterschiedliche Zielregionen weitergeleitet, je nachdem, aus welcher Quellregion Sie sie aufrufen. Wenn Sie beispielsweise us.anthropic.claude-3-haiku-20240307-v1:0 von USA Ost (Ohio) aus aufrufen, können Anforderungen an us-east-1, us-east-2 oder us-west-2 weitergeleitet werden. Wenn Sie den Parameter jedoch von USA West (Oregon) aus aufrufen, können Anforderungen nur an us-east-1 und us-west-2 weitergeleitet werden.

Um die Quell- und Zielregionen für ein Inferenzprofil zu überprüfen, können Sie einen der folgenden Schritte ausführen:

  • Erweitern Sie den entsprechenden Abschnitt in der Liste der unterstützten regionsübergreifenden Inferenzprofile.

  • Senden Sie eine GetInferenceProfile Anfrage mit einem Amazon Bedrock-Steuerungsebenen-Endpunkt aus einer Quellregion und geben Sie den Amazon-Ressourcennamen (ARN) oder die ID des Inferenzprofils in das Feld ein. inferenceProfileIdentifier Das Feld models in der Antwort wird einer Liste von Modell-ARNs zugeordnet, in der Sie die jeweilige Zielregion identifizieren können.

Anmerkung

Das globale regionsübergreifende Inferenzprofil für ein bestimmtes Modell kann sich im Laufe der Zeit ändern, da weitere kommerzielle Regionen AWS hinzugefügt werden, in denen Ihre Anfragen bearbeitet werden können. Wenn ein Inferenzprofil jedoch an eine Region gebunden ist (z. B. USA, EU oder APAC), ändert sich die Liste der Zielregionen niemals. AWS könnte neue Inferenzprofile erstellen, die neue Regionen einbeziehen. Sie können Ihre Systeme so aktualisieren, dass diese Inferenzprofile verwendet werden, indem Sie die IDs in Ihrer Einrichtung auf die neuen IDs ändern.

Das globale regionsübergreifende Inferenzprofil wird derzeit nur auf Anthropic Claude Sonnet 4 Modellen für die folgenden Quellregionen unterstützt: USA West (Oregon), USA Ost (Nord-Virginia), USA Ost (Ohio), Europa (Irland) und Asien-Pazifik (Tokio). Die Zielregionen für das globale Inferenzprofil umfassen alle kommerziellen AWS-Regionen.

Wichtig

Die regionsübergreifenden Inferenzprofil-IDs, unterstützten Quellregionen, Zielregionen und der geografische Geltungsbereich (Global, USA oder EU) sind auf der Detailseite des Modells dokumentiert. Diese Informationen finden Sie unter Modelle auf einen Blick und wählen Sie das Modell aus, an dem Sie interessiert sind. Suchen Sie auf der Modellseite nach der Tabelle Regionale Verfügbarkeit — sie zeigt, welche Regionen In-Region, geografische und globale Inferenzprofile unterstützen, und im Abschnitt Inferenzprofil-IDs sind die genauen IDs aufgeführt, die bei API-Aufrufen verwendet werden sollen.

Wenn Sie die Datenresidenzoptionen mehrerer Modelle für die Compliance-Planung vergleichen müssen, überprüfen Sie die Tabelle zur regionalen Verfügbarkeit auf der Seite jedes Modells, um sicherzustellen, dass das Inferenzprofil Ihres ausgewählten Modells Anfragen nur an Regionen weiterleitet, die Ihren Anforderungen entsprechen.

Unterstützte Regionen und Modelle für Anwendungsinferenzprofile

Anwendungsinferenzprofile können für alle Modelle wie folgt erstellt werden: AWS-Regionen

  • ap-northeast-1

  • ap-northeast-2

  • ap-south-1

  • ap-southeast-1

  • ap-southeast-2

  • ca-central-1

  • eu-central-1

  • eu-west-1

  • eu-west-2

  • eu-west-3

  • sa-east-1

  • us-east-1

  • us-east-2

  • us-gov-east-1

  • us-west-2

Anwendungsinferenzprofile können aus den meisten Modellen erstellt werden, die in Amazon Bedrock unterstützt werden. Einige Modelle, wie z. B. Einbettungsmodelle, unterstützen keine Inferenzprofile. Unter Modelle auf einen Blick können Sie überprüfen, ob ein bestimmtes Modell Inferenzprofile unterstützt.