Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Weiterleiten von Modellinferenzanfragen AWS-Regionen mit regionsübergreifender Inferenz
Bei der regionsübergreifenden Inferenz können Sie ein regionsübergreifendes Inferenzprofil wählen, das an eine bestimmte Region (z. B. USA oder EU) gebunden ist, oder ein globales Inferenzprofil. Wenn Sie ein Inferenzprofil wählen, das an eine bestimmte Region gebunden ist, wählt Amazon Bedrock automatisch einen Werbespot AWS-Region in dieser Region aus, um Ihre Inferenzanfrage zu bearbeiten. Bei globalen Inferenzprofilen wählt Amazon Bedrock automatisch einen Werbespot AWS-Region aus, der die Anfrage bearbeitet.
Beide Arten der regionsübergreifenden Inferenz basieren auf Inferenzprofilen, die ein Basismodell (FM) definieren und AWS-Regionen an das Anfragen weitergeleitet werden können. Cross-Region Bei der Inferenz werden Ihre Anfragen mithilfe von Compute über verschiedene Kanäle weitergeleitet. AWS-Regionen
Um den Durchsatz für ein Modell zu erhöhen, können Sie Provisioned Throughput erwerben. Inferenzprofile unterstützen den bereitgestellten Durchsatz derzeit nicht.
Weitere Informationen zu den Regionen und Modellen, mit denen Sie Inferenzprofile zum Ausführen von regionsübergreifenden Inferenzen verwenden können, finden Sie unter Unterstützte Regionen und Modelle für Inferenzprofile.
Themen
Wählen Sie zwischen geografischer und globaler regionsübergreifender Inferenz
Amazon Bedrock bietet zwei Arten von regionsübergreifenden Inferenzprofilen, die jeweils für unterschiedliche Anwendungsfälle und Compliance-Anforderungen konzipiert sind:
| Feature | Cross-Region Geografische Inferenz | Globale Inferenz Cross-Region | Empfehlung |
|---|---|---|---|
| Datenresidenz | Innerhalb geografischer Grenzen (z. B. in den USA, der EU und APAC) | Jede unterstützte AWS Handelsregion weltweit | Wählen Sie Geografisch für Compliance-Anforderungen |
| Weiterleitung von Anforderungen | Innerhalb der Region geroutet | Weltweit weitergeleitet | Wählen Sie je nachdem, wo Anfragen bearbeitet werden können |
| Cost (Kosten) | Standardpreise | Ungefähr 10% Ersparnis | Wählen Sie Global für die Kostenoptimierung |
| SCP-Anforderungen | Alle Zielregionen im Profil zulassen | Erlauben "aws:RequestedRegion": "unspecified" |
Konfigurieren Sie auf der Grundlage Ihrer Unternehmensrichtlinien |
| Am besten geeignet für | Organisationen mit Vorschriften zur Speicherung von Daten | Organisationen, die der Kostenoptimierung Priorität einräumen | Beurteilen Sie Ihre Compliance- und Kostenanforderungen |
Wählen Sie geografische regionsübergreifende Inferenz, wenn Sie Anforderungen an den Datenspeicherort haben und sicherstellen müssen, dass die Datenverarbeitung innerhalb bestimmter geografischer Grenzen erfolgt. Wählen Sie Globale regionsübergreifende Inferenz, wenn Sie Kosteneinsparungen ohne geografische Einschränkungen erzielen möchten.
Allgemeine Überlegungen
Beachten Sie die folgenden Informationen zur regionsübergreifenden Inferenz:
-
Für die Nutzung von regionenübergreifender Inferenz fallen keine zusätzlichen Routing-Kosten an. Der Preis wird anhand der Region berechnet, von der aus Sie ein Inferenzprofil aufrufen. Weitere Informationen zur Preisgestaltung finden Sie unter Amazon Bedrock – Preise
. -
Cross-Region Durch Inferenz können Anfragen an Anfragen weitergeleitet werden AWS-Regionen , die in Ihrem System nicht manuell aktiviert wurden. AWS-Konto Eine manuelle Regionsaktivierung ist nicht erforderlich, damit die regionsübergreifende Inferenz funktioniert.
-
Alle Daten, die bei regionsübergreifenden Vorgängen übertragen werden, verbleiben im AWS Netzwerk und werden nicht über das öffentliche Internet übertragen. Daten werden bei der Übertragung zwischen verschlüsselt. AWS-Regionen
-
CloudTrail protokolliert alle regionsübergreifenden Inferenzanforderungen in Ihrer Quellregion. Suchen Sie nach dem
additionalEventData.inferenceRegionFeld, um zu identifizieren, wo Anfragen verarbeitet wurden. -
AWS Dienste, die von Amazon Bedrock bereitgestellt werden, können auch CRIS verwenden. Weitere Informationen finden Sie in der servicespezifischen Dokumentation.
