Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
I modelli base a cui puoi accedere tramite Amazon SageMaker Canvas possono aiutarti con una serie di attività generiche. Tuttavia, se hai un caso d'uso specifico e desideri personalizzare le risposte in base ai tuoi dati, puoi perfezionare un modello di base.
Per ottimizzare un modello di base, è necessario fornire un set di dati composto da prompt di esempio e risposte del modello. Quindi, si addestra il modello di base sui dati. Infine, il modello di base ottimizzato è in grado di fornirti risposte più specifiche.
L'elenco seguente contiene i modelli di base che è possibile ottimizzare in Canvas:
Titan Express
Falcon 7B
Falcon-7B-Instruct
Falcon-40B-Instruct
Falcon-40B
Flan-T5-Grande
Flan-T5-XL
Flan-T5-XXL
MPT-7B
MPT-7B-Instruct
È possibile accedere a informazioni più dettagliate su ciascun modello di fondazione nell'applicazione Canvas durante la messa a punto di un modello. Per ulteriori informazioni, consulta Ottimizza il modello.
Questo argomento descrive come ottimizzare i modelli di fondazione in Canvas.
Prima di iniziare
Prima di perfezionare un modello di base, assicurati di disporre delle autorizzazioni per i Ready-to-use modelli in Canvas e di disporre di un ruolo di AWS Identity and Access Management esecuzione che abbia un rapporto di fiducia con Amazon Bedrock, che consenta ad Amazon Bedrock di assumere il tuo ruolo durante la messa a punto dei modelli di base.
Durante la configurazione o la modifica del dominio Amazon SageMaker AI, devi 1) attivare le autorizzazioni di configurazione dei Ready-to-use modelli Canvas e 2) creare o specificare un ruolo Amazon Bedrock, che è un ruolo di esecuzione IAM a cui l' SageMaker IA collega una relazione di fiducia con Amazon Bedrock. Per ulteriori informazioni sulla configurazione di queste impostazioni, consulta. Prerequisiti per la configurazione di Amazon Canvas SageMaker
Puoi configurare il ruolo Amazon Bedrock manualmente se preferisci utilizzare il tuo ruolo di esecuzione IAM (anziché lasciare che l' SageMaker IA ne crei uno per tuo conto). Per ulteriori informazioni sulla configurazione della relazione di trust del tuo ruolo di esecuzione IAM con Amazon Bedrock, consulta. Concedi agli utenti le autorizzazioni per utilizzare le funzionalità di Amazon Bedrock e Generative AI in Canvas
È inoltre necessario disporre di un set di dati formattato per la messa a punto di modelli linguistici di grandi dimensioni (). LLMs Di seguito è riportato un elenco di requisiti per il set di dati:
-
Il set di dati deve essere tabulare e contenere almeno due colonne di dati di testo: una colonna di input (che contiene esempi di prompt relativi al modello) e una colonna di output (che contiene esempi di risposte del modello).
Un esempio è il seguente:
Input Output Quali sono le vostre condizioni di spedizione?
Offriamo la spedizione gratuita per tutti gli ordini superiori a $50. Gli ordini inferiori a $50 hanno un costo di spedizione di $5,99.
Come posso restituire un articolo?
Per restituire un articolo, visita il nostro centro resi e segui le istruzioni. È necessario fornire il numero dell'ordine e il motivo del reso.
Ho problemi con il mio prodotto. Cosa posso fare?
Contatta il nostro team di assistenza clienti e saremo lieti di aiutarti a risolvere il problema.
-
Consigliamo che il set di dati contenga almeno 100 coppie di testo (righe di elementi di input e output corrispondenti). Ciò garantisce che il modello di base disponga di dati sufficienti per la messa a punto e aumenta la precisione delle sue risposte.
-
Ogni elemento di input e output deve contenere un massimo di 512 caratteri. I caratteri più lunghi vengono ridotti a 512 caratteri durante la messa a punto del modello base.
Quando si perfeziona un modello Amazon Bedrock, è necessario rispettare le quote Amazon Bedrock. Per ulteriori informazioni, consulta le quote di personalizzazione del modello nella Guida per l'utente di Amazon Bedrock.
Per ulteriori informazioni sui requisiti e le limitazioni generali dei set di dati in Canvas, consulta. Creazione di un set di dati
Ottimizzare un modello di fondazione
È possibile ottimizzare un modello di base utilizzando uno dei seguenti metodi nell'applicazione Canvas:
-
Durante una chat di generazione, estrazione e riepilogo dei contenuti con un modello base, scegliete l'icona Fine-tune model ().
-
Durante una chat con un modello base, se hai rigenerato la risposta due o più volte, Canvas ti offre la possibilità di ottimizzare il modello. La schermata seguente mostra come si presenta.
-
Nella pagina I miei modelli, puoi creare un nuovo modello scegliendo Nuovo modello, quindi selezionando Fine-tune Foundation model.
-
Nella home page dei Ready-to-use modelli, puoi scegliere Crea il tuo modello, quindi nella finestra di dialogo Crea nuovo modello, scegli Ottimizza il modello di base.
-
Mentre sfogli i tuoi set di dati nella scheda Data Wrangler, puoi selezionare un set di dati e scegliere Crea un modello. Quindi, scegli Fine-Tune Foundation Model.
Dopo aver iniziato a mettere a punto un modello, effettuate le seguenti operazioni:
Seleziona un set di dati
Nella scheda Seleziona per la messa a punto di un modello, scegli i dati su cui desideri addestrare il modello di base.
Seleziona un set di dati esistente o creane uno nuovo che soddisfi i requisiti elencati nella sezione. Prima di iniziare Per ulteriori informazioni su come creare un set di dati, vedere. Creazione di un set di dati
Quando hai selezionato o creato un set di dati e sei pronto per andare avanti, scegli Seleziona set di dati.
Ottimizza il modello
Dopo aver selezionato i dati, ora sei pronto per iniziare l'addestramento e mettere a punto il modello.
Nella scheda Ottimizzazione, procedi come segue:
(Facoltativo) Scegli Ulteriori informazioni sui nostri modelli di base per accedere a ulteriori informazioni su ciascun modello e aiutarti a decidere quale modello o modelli di base implementare.
Per selezionare fino a 3 modelli base, apri il menu a discesa e controlla fino a 3 modelli base (fino a 2 JumpStart modelli e 1 modello Amazon Bedrock) che desideri perfezionare durante il processo di formazione. Ottimizzando più modelli di base, puoi confrontarne le prestazioni e infine scegliere quello più adatto al tuo caso d'uso come modello predefinito. Per ulteriori informazioni sui modelli predefiniti, vedere. Visualizza i modelli candidati nella classifica dei modelli
Per la colonna Seleziona input, seleziona la colonna di dati di testo nel set di dati che contiene i prompt del modello di esempio.
Per la colonna Seleziona output, seleziona la colonna di dati di testo nel set di dati che contiene le risposte del modello di esempio.
-
(Facoltativo) Per configurare le impostazioni avanzate per il processo di formazione, scegliete Configura modello. Per ulteriori informazioni sulle impostazioni avanzate di creazione dei modelli, consultaConfigurazioni avanzate per la costruzione di modelli.
Nella finestra pop-up Configura modello, procedi come segue:
Per Hyperparameters, puoi regolare le fasi di Epoch Count, Batch size, Learning rate e Learning rate warmup per ogni modello selezionato. Per ulteriori informazioni su questi parametri, consultate la sezione Iperparametri della documentazione. JumpStart
Per la suddivisione dei dati, puoi specificare le percentuali su come dividere i dati tra il set di addestramento e il set di convalida.
Per Max Job Runtime, puoi impostare la quantità massima di tempo in cui Canvas esegue il processo di compilazione. Questa funzionalità è disponibile solo per i modelli di JumpStart base.
Dopo aver configurato le impostazioni, scegliete Salva.
Scegliete Fine-tune per iniziare ad addestrare i modelli di base che avete selezionato.
Dopo l'inizio del lavoro di messa a punto, puoi lasciare la pagina. Quando il modello appare come Pronto nella pagina I miei modelli, è pronto per l'uso e ora puoi analizzare le prestazioni del tuo modello di base ottimizzato.
Analizza il modello di base ottimizzato
Nella scheda Analizza del modello di base ottimizzato, puoi vedere le prestazioni del modello.
La scheda Panoramica di questa pagina mostra i punteggi di perplessità e di perdita, insieme alle analisi che visualizzano il miglioramento del modello nel tempo durante l'allenamento. La schermata seguente mostra la scheda Panoramica.
In questa pagina, puoi vedere le seguenti visualizzazioni:
La curva di perplessità misura quanto bene il modello prevede la parola successiva in una sequenza o quanto è grammaticale l'output del modello. Idealmente, man mano che il modello migliora durante l'allenamento, il punteggio diminuisce e si ottiene una curva che si abbassa e si appiattisce nel tempo.
La curva di perdita quantifica la differenza tra l'output corretto e l'output previsto del modello. Una curva di perdita che diminuisce e si appiattisce nel tempo indica che il modello sta migliorando la sua capacità di fare previsioni accurate.
La scheda Metriche avanzate mostra gli iperparametri e le metriche aggiuntive per il modello. Sembra lo screenshot seguente:
La scheda Metriche avanzate contiene le seguenti informazioni:
-
La sezione Spiegabilità contiene gli Iperparametri, che sono i valori impostati prima del lavoro per guidare la messa a punto del modello. Se non hai specificato iperparametri personalizzati nelle impostazioni avanzate del modello nella Ottimizza il modello sezione, Canvas seleziona automaticamente gli iperparametri predefiniti.
Per JumpStart i modelli, puoi anche vedere la metrica avanzata ROUGE (Recall-Oriented Understudy for Gisting Evaluation)
, che valuta la qualità dei riepiloghi generati dal modello. Misura la capacità del modello di riassumere i punti principali di un passaggio. La sezione Artefatti fornisce collegamenti agli artefatti generati durante il processo di messa a punto. Puoi accedere ai dati di formazione e convalida salvati in Amazon S3, nonché al link al rapporto di valutazione del modello (per ulteriori informazioni, consulta il paragrafo seguente).
Per ottenere ulteriori informazioni sulla valutazione del modello, puoi scaricare un report generato utilizzando SageMaker Clarify, una funzionalità che può aiutarti a rilevare distorsioni nel modello e nei dati. Innanzitutto, genera il rapporto selezionando Genera rapporto di valutazione nella parte inferiore della pagina. Dopo aver generato il rapporto, puoi scaricare il rapporto completo scegliendo Scarica rapporto o tornando alla sezione Artefatti.
Puoi anche accedere a un notebook Jupyter che ti mostra come replicare il tuo lavoro di fine-tuning in codice Python. Puoi usarlo per replicare o apportare modifiche programmatiche al tuo lavoro di messa a punto o per comprendere più a fondo come Canvas ottimizza il tuo modello. Per ulteriori informazioni sui modelli di notebook e su come accedervi, consulta. Scarica un modello di notebook
Per ulteriori informazioni su come interpretare le informazioni nella scheda Analizza del modello di base ottimizzato, consulta l'argomento. Valutazione del modello
Dopo aver analizzato le schede Panoramica e Metriche avanzate, puoi anche scegliere di aprire la classifica dei modelli, che mostra l'elenco dei modelli di base addestrati durante la creazione. Il modello con il punteggio di perdita più basso è considerato il modello con le migliori prestazioni e viene selezionato come modello predefinito, ovvero il modello la cui analisi viene visualizzata nella scheda Analizza. È possibile testare e distribuire solo il modello predefinito. Per ulteriori informazioni sulla classifica dei modelli e su come modificare il modello predefinito, vedere. Visualizza i modelli candidati nella classifica dei modelli
Prova un modello di base ottimizzato in una chat
Dopo aver analizzato le prestazioni di un modello di base perfezionato, potresti volerlo testare o confrontare le sue risposte con il modello base. Puoi testare un modello di base perfezionato in una chat nella funzione Genera, estrai e riepiloga contenuti.
Avvia una chat con un modello perfezionato scegliendo uno dei seguenti metodi:
Nella scheda Analizza del modello ottimizzato, scegli Test nei modelli base. Ready-to-use
Nella pagina dei Ready-to-use modelli Canvas, scegli Genera, estrai e riepiloga il contenuto. Quindi, scegli Nuova chat e seleziona la versione del modello che desideri testare.
Il modello si avvia in una chat e puoi interagire con esso come qualsiasi altro modello base. Puoi aggiungere altre modelle alla chat e confrontarne i risultati. Per ulteriori informazioni sulla funzionalità delle chat, consulta. Modelli di base generativi di intelligenza artificiale in Canvas SageMaker
Rendi operativi modelli di base ottimizzati
Dopo aver perfezionato il modello in Canvas, puoi fare quanto segue:
Registrate il modello nel Model SageMaker Registry per l'integrazione nei processi della vostra organizzazione. MLOps Per ulteriori informazioni, consulta Registra una versione del modello nel registro dei modelli AI SageMaker .
Implementa il modello su un endpoint di SageMaker intelligenza artificiale e invia richieste al modello dalla tua applicazione o dal tuo sito Web per ottenere previsioni (o inferenze). Per ulteriori informazioni, consulta Distribuzione di modelli su un endpoint.
Importante
Puoi registrare e distribuire solo modelli di base ottimizzati JumpStart basati su Amazon Bedrock, non modelli basati su Amazon Bedrock.
