Completa un test delle copie shadow - Amazon SageMaker

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Completa un test delle copie shadow

Il test viene completato automaticamente alla fine della durata programmata oppure puoi interrompere anticipatamente un test in corso. Una volta completato il test, lo stato del test nella sezione Test delle copie shadow della pagina Test delle copie shadow viene visualizzato come Completo. Quindi puoi rivedere e analizzare i parametri finali del test.

Puoi utilizzare la dashboard dei parametri per decidere se promuovere la variante shadow alla produzione. Per ulteriori informazioni sull'analisi della dashboard dei parametri del test, consulta Monitora un test delle copie shadow.

Per istruzioni su come completare il test prima della fine dell'orario di completamento pianificato, consulta Completa un test delle copie shadow in anticipo.

Per istruzioni su come promuovere la variante shadow alla produzione, consulta Promozione di una variante shadow.

Completa un test delle copie shadow in anticipo

Uno dei motivi per cui potresti voler completare uno test delle copie shadow in corso è se hai deciso che i parametri per la tua variante shadow sono soddisfacenti e desideri promuoverla fino alla produzione. Potresti anche decidere di completare il test se una o più varianti non stanno funzionando bene.

Per completare il test prima della data di fine prevista, procedi nel seguente modo:

  1. Seleziona il test che desideri contrassegnare come completato dalla sezione Test delle copie shadow della pagina Test delle copie shadow.

  2. Dall'elenco a discesa Azioni, sceglie Completo e viene visualizzata la finestra di dialogo Complete test delle copie shadow.

  3. Nella finestra di dialogo, procedi in uno dei seguenti modi:

    • Sì, implementa variante shadow

    • No, rimuovi la variante shadow

  4. (Facoltativo) Nella casella di testo Commento, inserisci il motivo per cui hai completato il test prima dell'ora di fine pianificata.

    1. Se hai deciso di implementare la variante shadow, scegli Completa e procedi con l’implementazione. Viene visualizzata la pagina Implementa variante shadow. Per istruzioni su come eseguire questa operazione, consulta Promozione di una variante shadow.

    2. Se decidi di rimuovere la variante shadow, scegli Conferma.

Promozione di una variante shadow

Se hai deciso di voler sostituire la variante di produzione con la variante shadow, puoi aggiornare l'endpoint e promuovere la variante shadow per rispondere alle richieste di inferenza. Ciò rimuove la variante di produzione attuale dalla produzione e la sostituisce con la variante shadow.

Se il tuo test delle copie shadow è ancora in corso, devi prima completarlo. Per completare il test delle copie shadow prima della fine prevista, segui le istruzioni riportate in Completa un test delle copie shadow in anticipo prima di continuare con questa sezione.

Quando promuovi una variante shadow alla produzione, hai le seguenti opzioni per il conteggio delle istanze della variante shadow.

  • È possibile conservare il numero e il tipo di istanze della variante di produzione. Se selezioni questa opzione, la variante shadow viene avviata in produzione con il numero di istanze corrente, assicurando che il modello possa continuare a elaborare il traffico delle richieste sulla stessa scala.

  • Puoi mantenere il numero e il tipo di istanze della variante shadow. Se desideri utilizzare questa opzione, ti consigliamo di eseguire un test delle copie shadow con un campionamento del traffico al 100% per garantire che la variante shadow possa elaborare il traffico delle richieste sulla scala corrente.

  • Puoi utilizzare valori personalizzati per il numero e il tipo di istanza. Se desideri utilizzare questa opzione, ti consigliamo di eseguire un test delle copie shadow con un campionamento del traffico al 100% per garantire che la variante shadow possa elaborare il traffico delle richieste sulla scala corrente.

A meno che non stiate convalidando il tipo o il numero di istanze o entrambe le varianti shadow, consigliamo vivamente di mantenere il numero e il tipo di istanze della variante di produzione quando promuovi la variante shadow.

Per promuovere la variante shadow, procedi nel seguente modo:

  1. Se il test è completato, procedi nel seguente modo:

    1. Seleziona il test dalla sezione Test delle copie shadow della pagina Test delle copie shadow.

    2. Dall'elenco a discesa Azioni, scegli Visualizza. Viene visualizzato il pannello di controllo.

    3. Scegli Implementa variante shadow nella sezione Ambiente. Viene visualizzata la pagina Implementa variante shadow.

    Se il test non è stato completato, consulta la sezione Completa un test delle copie shadow in anticipo per completarlo.

  2. Nella sezione Impostazioni varianti, seleziona una delle opzioni seguenti:

    • Mantieni le impostazioni di produzione

    • Mantieni le impostazioni shadow

    • Impostazioni dell'istanza personalizzate

    Se hai selezionato Impostazioni dell’istanza personalizzate, procedi nel seguente modo:

    1. Seleziona il tipo di istanza dall'elenco a discesa Tipo di istanza.

    2. In Conteggio istanze, immetti il numero di istanze da utilizzare per ogni tipo di nodo.

  3. Nella casella di testo Inserisci 'implementa' per confermare l’implementazione, inserisci deploy.

  4. Scegli Implementa variante shadow.

Il tuo endpoint SageMaker Inference ora utilizza la variante shadow come variante di produzione e la tua variante di produzione è stata rimossa dall'endpoint.