Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker
Puoi personalizzare i modelli Amazon Nova, inclusi i modelli Amazon Nova 2.0 migliorati, tramite ricette e addestrarli SageMaker. Queste ricette supportano tecniche come il supervised fine-tuning (SFT) e il Reinforcement Fine-Tuning (RFT), con opzioni di adattamento completo e di adattamento a basso livello (LoRa).
Il flusso di lavoro di end-to-end personalizzazione prevede fasi come l'addestramento del modello, la valutazione del modello e l'implementazione per l'inferenza. Questo approccio di personalizzazione dei modelli SageMaker offre maggiore flessibilità e controllo per ottimizzare i modelli Amazon Nova supportati, ottimizzare gli iperparametri con precisione e implementare tecniche come LoRa parameter-efficient fine-tuning (PEFT), full rank SFT, RFT e Continued Pre-Training (CPT).
Approcci di personalizzazione
SageMaker offre due approcci per personalizzare i modelli Amazon Nova:
Esperienza basata sull'interfaccia utente: consente di personalizzare i modelli Amazon Nova tramite un'interfaccia semplice e guidata. Questo approccio fornisce un end-to-end flusso di lavoro che include formazione, valutazione e distribuzione senza scrivere codice. L'esperienza basata sull'interfaccia utente è ideale per la sperimentazione e proof-of-concept lo sviluppo rapidi e per gli utenti che preferiscono un flusso di lavoro visivo.
Esperienza basata sul codice: usa SageMaker Python SDK, Nova SDK e le ricette di formazione per personalizzare i modelli a livello di codice. Questo approccio offre una maggiore flessibilità e consente di configurare iperparametri avanzati, integrarsi con le pipeline e automatizzare i flussi di lavoro di formazione. CI/CD L'esperienza basata sul codice è consigliata per carichi di lavoro di produzione, requisiti di personalizzazione complessi e team con pratiche consolidate. MLOps
| Approccio | Ideale per | Vantaggi principali |
|---|---|---|
| Basato sull'interfaccia utente | Sperimentazione, prototipazione, iterazioni rapide | Configurazione semplice, flusso di lavoro guidato, nessuna codifica richiesta |
| Basato su codice | Produzione, automazione, configurazioni avanzate | Piena flessibilità, integrazione della pipeline, controllo della versione |
Piattaforme di personalizzazione
AWS offre tre piattaforme per personalizzare i modelli Amazon Nova, ognuna progettata per casi d'uso e requisiti diversi:
Amazon Bedrock: offre il percorso più semplice e veloce per la personalizzazione del modello con una configurazione minima. Bedrock gestisce automaticamente tutta la gestione dell'infrastruttura, consentendoti di concentrarti sui dati e sul caso d'uso. Questa piattaforma è ideale quando hai bisogno della massima rapidità time-to-value e preferisci un'esperienza completamente gestita.
SageMaker lavori di formazione: fornisce un ambiente completamente gestito per la personalizzazione dei modelli Amazon Nova in cui non è necessario creare o mantenere alcun cluster. Il servizio gestisce automaticamente tutto il provisioning, la scalabilità e la gestione delle risorse dell'infrastruttura, consentendoti di concentrarti sulla configurazione dei parametri di formazione e sull'invio del lavoro. Questa piattaforma offre un equilibrio tra facilità d'uso e flessibilità e supporta tecniche come Parameter Efficient Fine-tuning (PEFT), Full rank fine tuning e Reinforcement Fine-Tuning (RFT).
SageMaker HyperPod— Offre un ambiente specializzato per la formazione distribuita su larga scala, richiedendo la creazione e la gestione di cluster EKS con gruppi di istanze ristretti (). RIGs Questa piattaforma offre la massima flessibilità nella configurazione del tuo ambiente di formazione con istanze GPU specializzate e storage Amazon FSx for Lustre integrato, rendendola particolarmente adatta per scenari di formazione distribuita avanzati, sviluppo continuo di modelli e carichi di lavoro di personalizzazione su scala aziendale.
| Platform (Piattaforma) | Complessità | Flessibilità | Ideale per |
|---|---|---|---|
| Amazon Bedrock | Minimo | Standard | Personalizzazione più rapida, configurazione minima |
| SageMaker lavori di formazione | Media | Elevata | Flessibilità e facilità d'uso bilanciate |
| SageMaker HyperPod | Massimo | Massimo | Formazione distribuita su vasta scala, carichi di lavoro aziendali |
Nota
Se fornisci una chiave KMS per il tuo processo di formazione sulla personalizzazione del modello Amazon Nova per la crittografia nel bucket di output S3 di proprietà di Amazon:
-
Devi fornire la stessa chiave KMS quando richiami i successivi lavori di formazione iterativi o quando chiami l' CreateCustomModel API Amazon Bedrock sfruttando il modello crittografato.
-
L'identità che chiama l'
CreateTrainingJobAPI (anziché il ruolo di esecuzione) deve disporre delle autorizzazioni perCreateGranteGenerateDataKeycome definito nellaEncryptpolicy chiave KMS.RetireGrant