As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Encaminhe as solicitações de inferência do modelo entre Regiões da AWS com inferência entre regiões
Com a inferência entre regiões, você pode escolher um perfil de inferência entre regiões vinculado a uma geografia específica (como EUA ou UE) ou um perfil de inferência global. Quando você escolhe um perfil de inferência vinculado a uma geografia específica, o Amazon Bedrock seleciona automaticamente um comercial Região da AWS dentro dessa geografia para processar sua solicitação de inferência. Com perfis de inferência globais, o Amazon Bedrock seleciona automaticamente um comercial Região da AWS para processar a solicitação.
Os dois tipos de inferência entre regiões funcionam por meio de perfis de inferência, que definem um modelo básico (FM) e o Regiões da AWS para o qual as solicitações podem ser encaminhadas. Cross-Region a inferência encaminha suas solicitações usando computação em diferentes. Regiões da AWS
Para aumentar a taxa de transferência de um modelo, você pode comprar a taxa de transferência provisionada. Atualmente, os perfis de inferência não comportam throughput provisionado.
Para ver as regiões e os modelos com os quais você pode usar perfis de inferência para executar inferência entre regiões, consulte Regiões e modelos que compatíveis com perfis de inferência.
Tópicos
Escolha entre inferência geográfica e global entre regiões
O Amazon Bedrock fornece dois tipos de perfis de inferência entre regiões, cada um projetado para diferentes casos de uso e requisitos de conformidade:
| Recurso | Cross-Region Inferência geográfica | Cross-Region Inferência global | Recomendação |
|---|---|---|---|
| Residência de dados | Dentro dos limites geográficos (como EUA, UE e APAC) | Qualquer região AWS comercial suportada em todo o mundo | Escolha a Geographic para atender aos requisitos de conformidade |
| Roteamento de solicitações | Roteado dentro da geografia | Roteado em todo o mundo | Escolha com base em onde as solicitações podem ser processadas |
| Custo | Preços padrão | Aproximadamente 10% de economia | Escolha Global para otimização de custos |
| Requisitos de SCP | Permitir todas as regiões de destino no perfil | Permitir "aws:RequestedRegion": "unspecified" |
Configure com base em suas políticas organizacionais |
| Mais adequado para | Organizações com regulamentações de residência de dados | Organizações que priorizam a otimização de custos | Avalie suas necessidades de conformidade e custo |
Escolha a inferência geográfica entre regiões quando tiver requisitos de residência de dados e precisar garantir que o processamento de dados permaneça dentro de limites geográficos específicos. Escolha a inferência global entre regiões quando quiser economizar custos sem restrições geográficas.
Considerações gerais
Observe as seguintes informações sobre inferência entre regiões:
-
Não há custo adicional de roteamento para usar a inferência entre regiões. O preço é calculado com base na região na qual você chama um perfil de inferência. Para obter mais informações sobre preços, consulte Preços do Amazon Bedrock
. -
Cross-Region a inferência pode encaminhar solicitações para as Regiões da AWS quais não estão habilitadas manualmente em seu Conta da AWS. A habilitação manual de regiões não é necessária para que a inferência entre regiões funcione.
-
Todos os dados transmitidos durante as operações entre regiões permanecem na AWS rede e não atravessam a Internet pública. Os dados são criptografados em trânsito entre Regiões da AWS.
-
CloudTrail registra todas as solicitações de inferência entre regiões em sua região de origem. Procure o
additionalEventData.inferenceRegioncampo para identificar onde as solicitações foram processadas. -
AWS Os serviços fornecidos pela Amazon Bedrock também podem usar o CRIS. Consulte a documentação do serviço específico para obter detalhes.
