Acquista un throughput fornito per un modello Amazon Bedrock - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Acquista un throughput fornito per un modello Amazon Bedrock

Quando acquisti un Provisioned Throughput per un modello, specifichi il livello di impegno e il numero di unità del modello () da assegnare. MUs Per le quote MU, consulta gli endpoint e le quote di Amazon Bedrock nel. Riferimenti generali di AWS Il numero di dati MUs che puoi assegnare ai tuoi Provisioned Throughput dipende dal termine di impegno per il Provisioned Throughput:

  • Per impostazione predefinita, l'account ne fornisce 2 da distribuire tra i Provisioned MUs Throughput senza alcun impegno.

  • Se acquisti un Provisioned Throughput con impegno, devi prima visitare il centro AWS assistenza MUs per richiedere che il tuo account venga distribuito tra Provisioned Throughput con impegno. Una volta accolta la richiesta, puoi acquistare un Provisioned Throughput con impegno.

Nota

Dopo aver acquistato il Provisioned Throughput, è possibile modificare il modello associato solo se si seleziona un modello personalizzato. È possibile modificare il modello associato in uno dei seguenti:

  • Il modello base da cui è personalizzato.

  • Un altro modello personalizzato derivato dallo stesso modello base.

Per sapere come acquistare Provisioned Throughput per un modello, scegli la scheda corrispondente al tuo metodo preferito, quindi segui i passaggi:

Console

  1. Accedi all' AWS Management Console utilizzo di un IAMruolo con le autorizzazioni di Amazon Bedrock e apri la console Amazon Bedrock all'indirizzo. https://console.aws.amazon.com/bedrock/

  2. Seleziona Provisioned Throughput in Valutazione e distribuzione dal riquadro di navigazione a sinistra.

  3. Nella sezione Provisioned Throughput, scegli Purchase Provisioned Throughput.

  4. Per la sezione dei dettagli del Provisioned Throughput, procedi come segue:

    1. Nel campo Provisioned Throughput name, immettere un nome per il Provisioned Throughput.

    2. In Seleziona modello, seleziona un fornitore di modelli base o una categoria di modelli personalizzata. Selezionate quindi il modello per il quale effettuare il provisioning del throughput.

      Nota

      Per vedere i modelli base per i quali è possibile acquistare Provisioned Throughput senza impegno, consulta. Regione e modelli supportati per Provisioned Throughput

      Nella AWS GovCloud (US) regione, è possibile acquistare Provisioned Throughput solo per modelli personalizzati senza alcun impegno.

    3. (Facoltativo) Per associare i tag al tuo Provisioned Throughput, espandi la sezione Tag e scegli Aggiungi nuovo tag. Per ulteriori informazioni, consulta Etichettare le risorse di Amazon Bedrock.

  5. Per la sezione Termini di impegno e unità del modello, procedi come segue:

    1. Nella sezione Seleziona la durata dell'impegno, seleziona la quantità di tempo per la quale desideri impegnarti a utilizzare il Provisioned Throughput.

    2. Nel campo Unità del modello, immettete il numero desiderato di unità del modello ()MUs. Se state fornendo un modello con impegno, dovete prima visitare il centro di AWS assistenza per richiedere un aumento del numero di modelli MUs acquistabili.

  6. In Riepilogo stimato dell'acquisto, rivedi il costo stimato.

  7. Scegli Acquista velocità di trasmissione effettiva assegnata.

  8. Controlla la nota che appare e conferma la durata e il prezzo dell'impegno selezionando la casella di controllo. Poi scegli Conferma acquisto.

  9. La console visualizza la pagina di panoramica del Provisioned Throughput. Lo stato del Provisioned Throughput nella tabella Provisioned Throughput diventa Creazione. Al termine della creazione del Provisioned Throughput, lo Status diventa In servizio. Se l'aggiornamento non riesce, lo stato diventa Fallito.

API

Per acquistare un Provisioned Throughput, invia una CreateProvisionedModelThroughputrichiesta con un endpoint del piano di controllo Amazon Bedrock.

Nota

Per vedere i modelli base per i quali è possibile acquistare Provisioned Throughput senza impegno, consulta. Regione e modelli supportati per Provisioned Throughput

Nella AWS GovCloud (US) regione, è possibile acquistare Provisioned Throughput solo per modelli personalizzati senza alcun impegno.

La tabella seguente descrive brevemente i parametri e il corpo della richiesta (sintassi della CreateProvisionedModelThroughput richiesta):

Variabile Obbligatorio? Caso d'uso
modelId Sì Per specificare l'ID del modello di base o ARN per l'acquisto di Provisioned Throughput, o il nome del modello personalizzato o ARN
modelUnits Sì Per specificare il numero di unità del modello (MUs) da acquistare. Per aumentare il numero MUs di articoli acquistabili, visita il centro AWS assistenza e richiedi un aumento del numero MUs di articoli acquistabili
provisionedModelName Sì Per specificare un nome per il Provisioned Throughput
commitmentDuration No Per specificare la durata per la quale effettuare il commit per il Provisioned Throughput. Ometti questo campo per optare per una tariffazione senza impegno
tags No Per associare i tag al tuo Provisioned Throughput
clientRequestToken No Per evitare la duplicazione della richiesta

La risposta restituisce un valore provisionedModelArn che è possibile utilizzare come inferenza modelId del modello. Per verificare quando il Provisioned Throughput è pronto per l'uso, invia una GetProvisionedModelThroughputrichiesta e verifica che lo stato sia. InService Se l'aggiornamento fallisce, il relativo stato sarà Failed e la GetProvisionedModelThroughputrisposta conterrà un. failureMessage

Vedi esempi di codice