View a markdown version of this page

Indirizza le richieste di inferenza del modello Regioni AWS con inferenza interregionale - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Indirizza le richieste di inferenza del modello Regioni AWS con inferenza interregionale

Con l'inferenza interregionale, puoi scegliere un profilo di inferenza interregionale legato a un'area geografica specifica (come Stati Uniti o UE) o un profilo di inferenza globale. Quando scegli un profilo di inferenza legato a un'area geografica specifica, Amazon Bedrock seleziona automaticamente una pubblicità all'interno di quell'area geografica per elaborare la tua richiesta di inferenza. Regione AWS Con i profili di inferenza globali, Amazon Bedrock seleziona automaticamente un commerciale per elaborare la richiesta. Regione AWS

Entrambi i tipi di inferenza interregionale funzionano tramite profili di inferenza, che definiscono un modello di base (FM) e il modello Regioni AWS a cui possono essere indirizzate le richieste. Cross-Region l'inferenza indirizza le tue richieste utilizzando il calcolo tra diversi. Regioni AWS

Per aumentare il throughput di un modello, puoi acquistare Provisioned Throughput. I profili di inferenza attualmente non supportano throughput allocato.

Per visualizzare le Regioni e i modelli con cui è possibile utilizzare i profili di inferenza per eseguire l’inferenza tra Regioni, consulta Regioni e modelli supportati per i profili di inferenza.

Scelta tra inferenza geografica e globale tra regioni

Amazon Bedrock offre due tipi di profili di inferenza interregionali, ciascuno progettato per diversi casi d'uso e requisiti di conformità:

Funzionalità Inferenza geografica Cross-Region Inferenza globale Cross-Region Raccomandazione
Residenza dei dati Entro i confini geografici (come Stati Uniti, UE e APAC) Qualsiasi regione AWS commerciale supportata in tutto il mondo Scegli Geographic per i requisiti di conformità
Instradamento della richiesta Instradato all'interno della geografia Distribuito in tutto il mondo Scegli in base a dove possono essere elaborate le richieste
Costo Prezzi standard Risparmio di circa il 10% Scegli Global per l'ottimizzazione dei costi
Requisiti SCP Consenti l'inserimento di tutte le regioni di destinazione nel profilo Consenti "aws:RequestedRegion": "unspecified" Configura in base alle tue politiche organizzative
Ideale per Organizzazioni con normative sulla residenza dei dati Organizzazioni che danno priorità all'ottimizzazione dei costi Valuta le tue esigenze di conformità e costi

Scegli l'inferenza geografica interregionale quando hai requisiti di residenza dei dati e devi assicurarti che l'elaborazione dei dati rimanga entro confini geografici specifici. Scegli l'inferenza globale interregionale se desideri risparmiare sui costi senza restrizioni geografiche.

Considerazioni generali

Tieni in considerazione i seguenti concetti chiave durante l’inferenza tra Regioni:

  • L’utilizzo dell’inferenza tra Regioni non prevede costi aggiuntivi. Il prezzo viene calcolato in base alla Regione da cui si chiama il profilo. Per informazioni sui prezzi, consulta Prezzi di Amazon Bedrock.

  • Cross-Region l'inferenza può indirizzare richieste Regioni AWS che non sono abilitate manualmente nel tuo. Account AWS L'abilitazione manuale delle regioni non è richiesta per il funzionamento dell'inferenza interregionale.

  • Tutti i dati trasmessi durante le operazioni interregionali rimangono sulla AWS rete e non attraversano la rete Internet pubblica. I dati vengono crittografati durante il transito tra. Regioni AWS

  • CloudTrail registra tutte le richieste di inferenza interregionale nella regione di origine. Cerca il additionalEventData.inferenceRegion campo per identificare dove sono state elaborate le richieste.

  • AWS Anche i servizi forniti da Amazon Bedrock possono utilizzare CRIS. Per ulteriori informazioni, consulta la documentazione per il servizio specifico.