Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Dirige las solicitudes de inferencia de modelos Regiones de AWS con inferencia interregional
Con la inferencia interregional, puede elegir un perfil de inferencia interregional vinculado a una geografía específica (como EE. UU. o la UE) o un perfil de inferencia global. Cuando elige un perfil de inferencia vinculado a una zona geográfica específica, Amazon Bedrock selecciona automáticamente una empresa Región de AWS en esa zona geográfica para procesar su solicitud de inferencia. Con los perfiles de inferencia globales, Amazon Bedrock selecciona automáticamente un anuncio Región de AWS para procesar la solicitud.
Ambos tipos de inferencia interregional funcionan mediante perfiles de inferencia, que definen un modelo básico (FM) y el destino Regiones de AWS al que se pueden dirigir las solicitudes. Cross-Region la inferencia enruta sus solicitudes mediante el uso de la computación entre diferentes. Regiones de AWS
Para aumentar el rendimiento de un modelo, puede comprar Provisioned Throughput. Los perfiles de inferencia actualmente no admiten el rendimiento aprovisionado.
Para ver las regiones y los modelos con los que puede utilizar los perfiles de inferencia para ejecutar inferencias entre regiones, consulte Regiones y modelos compatibles con los perfiles de inferencia.
Temas
Elegir entre la inferencia geográfica y global entre regiones
Amazon Bedrock ofrece dos tipos de perfiles de inferencia interregionales, cada uno diseñado para diferentes casos de uso y requisitos de cumplimiento:
| Característica | Inferencia geográfica Cross-Region | Inferencia global Cross-Region | Recomendación |
|---|---|---|---|
| Residencia de datos | Dentro de los límites geográficos (como EE. UU., la UE y APAC) | Cualquier región AWS comercial compatible en todo el mundo | Elija Geographic para conocer los requisitos de cumplimiento |
| Enrutamiento de solicitudes | Enrutado dentro de la geografía | Enrutado en todo el mundo | Elija en función de dónde se pueden procesar las solicitudes |
| Costo | Precio estándar | Ahorros de aproximadamente un 10% | Elija Global para optimizar los costos |
| Requisitos de SCP | Permita que todas las regiones de destino aparezcan en el perfil | Permitir "aws:RequestedRegion": "unspecified" |
Configure en función de las políticas de su organización |
| El más adecuado para lo siguiente: | Organizaciones con normas de residencia de datos | Organizaciones que priorizan la optimización de costos | Evalúe sus necesidades de cumplimiento y costos |
Elija la inferencia geográfica interregional cuando tenga requisitos de residencia de datos y necesite asegurarse de que el procesamiento de los datos se mantenga dentro de límites geográficos específicos. Elija la inferencia global entre regiones cuando desee ahorrar costos sin restricciones geográficas.
Consideraciones generales
Tenga en cuenta la siguiente información sobre la inferencia entre regiones:
-
El uso de la inferencia entre regiones no conlleva ningún costo de enrutamiento adicional. El precio se calcula en función de la región desde la que se llama al perfil de inferencia. Para obtener más información acerca de los precios, consulte Precios de Amazon Bedrock
. -
Cross-Region La inferencia puede dirigir las solicitudes a las Regiones de AWS que no estén habilitadas manualmente en su. Cuenta de AWS No es necesario habilitar la región de forma manual para que funcione la inferencia entre regiones.
-
Todos los datos transmitidos durante las operaciones interregionales permanecen en la AWS red y no atraviesan la Internet pública. Los datos se cifran durante el tránsito entre ambos. Regiones de AWS
-
CloudTrail registra todas las solicitudes de inferencia entre regiones en su región de origen. Busca el
additionalEventData.inferenceRegioncampo para identificar dónde se procesaron las solicitudes. -
AWS Los servicios impulsados por Amazon Bedrock también pueden usar CRIS. Para obtener más información, consulte la documentación del servicio específico.
