Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Acheminez les demandes d'inférence de modèles entre Régions AWS avec inférence interrégionale
Avec l'inférence interrégionale, vous pouvez choisir un profil d'inférence interrégional lié à une zone géographique spécifique (comme les États-Unis ou l'UE) ou un profil d'inférence global. Lorsque vous choisissez un profil d'inférence lié à une zone géographique spécifique, Amazon Bedrock sélectionne automatiquement une publicité Région AWS au sein de cette zone géographique pour traiter votre demande d'inférence. Avec les profils d'inférence globaux, Amazon Bedrock sélectionne automatiquement une publicité Région AWS pour traiter la demande.
Les deux types d'inférence interrégionale fonctionnent par le biais de profils d'inférence, qui définissent un modèle de base (FM) et le Régions AWS vers lequel les demandes peuvent être acheminées. Cross-Region l'inférence achemine vos demandes en utilisant le calcul entre différents. Régions AWS
Pour augmenter le débit d'un modèle, vous pouvez acheter Provisioned Throughput. Les profils d’inférence ne prennent actuellement pas en charge le débit provisionné.
Pour voir les régions et les modèles avec lesquels vous pouvez utiliser des profils d’inférence pour exécuter une inférence entre régions, consultez Régions et modèles pris en charge pour les profils d'inférence.
Rubriques
Choisir entre l'inférence géographique et l'inférence interrégionale globale
Amazon Bedrock propose deux types de profils d'inférence interrégionaux, chacun étant conçu pour des cas d'utilisation et des exigences de conformité différents :
| Fonctionnalité | Cross-Region Inférence géographique | Cross-Region Inférence globale | Recommendation |
|---|---|---|---|
| Résidence des données | À l'intérieur de frontières géographiques (telles que les États-Unis, l'UE et l'APAC) | Toute région AWS commerciale prise en charge dans le monde | Choisissez Geographic pour les exigences de conformité |
| Routage des demandes | Routé à l'intérieur de la géographie | Routé dans le monde entier | Choisissez en fonction de l'endroit où les demandes peuvent être traitées |
| Cost | Tarification standard | Environ 10 % d'économies | Choisissez Global pour optimiser les coûts |
| Exigences relatives au SCP | Autoriser toutes les régions de destination dans le profil | Autoriser "aws:RequestedRegion": "unspecified" |
Configurez en fonction des politiques de votre organisation |
| Le mieux adapté pour | Organisations soumises à des réglementations sur la résidence des données | Les organisations accordent la priorité à l'optimisation des coûts | Évaluez vos besoins en matière de conformité et de coûts |
Choisissez l'inférence géographique entre régions lorsque vous avez des exigences en matière de résidence des données et que vous devez vous assurer que le traitement des données reste dans des limites géographiques spécifiques. Choisissez l'inférence interrégionale globale si vous souhaitez réaliser des économies sans restrictions géographiques.
Considérations d’ordre général
Notez les informations suivantes concernant l’inférence interrégionale :
-
L’inférence interrégionale n’entraîne aucun coût d’acheminement supplémentaire. Le prix est calculé en fonction de la région à partir de laquelle vous appelez un profil d’inférence. Pour plus d’informations sur la tarification, consultez Tarification d’Amazon Bedrock
. -
Cross-Region l'inférence peut acheminer les demandes vers Régions AWS lesquelles vous Compte AWS n'avez pas activé manuellement. L'activation manuelle des régions n'est pas requise pour que l'inférence interrégionale fonctionne.
-
Toutes les données transmises au cours des opérations interrégionales restent sur le AWS réseau et ne transitent pas par l'Internet public. Les données sont cryptées pendant le transit entre Régions AWS.
-
CloudTrail enregistre toutes les demandes d'inférence interrégionales dans votre région source. Recherchez le
additionalEventData.inferenceRegionchamp pour identifier l'endroit où les demandes ont été traitées. -
AWS Les services fournis par Amazon Bedrock peuvent également utiliser CRIS. Pour plus de détails, consultez la documentation spécifique aux services.
