View a markdown version of this page

Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker - Amazon Nova

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker

Puoi personalizzare i modelli Amazon Nova, inclusi i modelli Amazon Nova 2.0 migliorati, tramite ricette e addestrarli SageMaker. Queste ricette supportano tecniche come il supervised fine-tuning (SFT) e il Reinforcement Fine-Tuning (RFT), con opzioni di adattamento completo e di adattamento a basso livello (LoRa).

Il flusso di lavoro di end-to-end personalizzazione prevede fasi come l'addestramento del modello, la valutazione del modello e l'implementazione per l'inferenza. Questo approccio di personalizzazione dei modelli SageMaker offre maggiore flessibilità e controllo per ottimizzare i modelli Amazon Nova supportati, ottimizzare gli iperparametri con precisione e implementare tecniche come LoRa parameter-efficient fine-tuning (PEFT), full rank SFT, RFT e Continued Pre-Training (CPT).

Approcci di personalizzazione

SageMaker offre due approcci per personalizzare i modelli Amazon Nova:

Esperienza basata sull'interfaccia utente: consente di personalizzare i modelli Amazon Nova tramite un'interfaccia semplice e guidata. Questo approccio fornisce un end-to-end flusso di lavoro che include formazione, valutazione e distribuzione senza scrivere codice. L'esperienza basata sull'interfaccia utente è ideale per la sperimentazione e proof-of-concept lo sviluppo rapidi e per gli utenti che preferiscono un flusso di lavoro visivo.

Esperienza basata sul codice: usa SageMaker Python SDK, Nova SDK e le ricette di formazione per personalizzare i modelli a livello di codice. Questo approccio offre una maggiore flessibilità e consente di configurare iperparametri avanzati, integrarsi con le pipeline e automatizzare i flussi di lavoro di formazione. CI/CD L'esperienza basata sul codice è consigliata per carichi di lavoro di produzione, requisiti di personalizzazione complessi e team con pratiche consolidate. MLOps

Approccio Ideale per Vantaggi principali
Basato sull'interfaccia utente Sperimentazione, prototipazione, iterazioni rapide Configurazione semplice, flusso di lavoro guidato, nessuna codifica richiesta
Basato su codice Produzione, automazione, configurazioni avanzate Piena flessibilità, integrazione della pipeline, controllo della versione

Piattaforme di personalizzazione

AWS offre tre piattaforme per personalizzare i modelli Amazon Nova, ognuna progettata per casi d'uso e requisiti diversi:

Amazon Bedrock: offre il percorso più semplice e veloce per la personalizzazione del modello con una configurazione minima. Bedrock gestisce automaticamente tutta la gestione dell'infrastruttura, consentendoti di concentrarti sui dati e sul caso d'uso. Questa piattaforma è ideale quando hai bisogno della massima rapidità time-to-value e preferisci un'esperienza completamente gestita.

SageMaker lavori di formazione: fornisce un ambiente completamente gestito per la personalizzazione dei modelli Amazon Nova in cui non è necessario creare o mantenere alcun cluster. Il servizio gestisce automaticamente tutto il provisioning, la scalabilità e la gestione delle risorse dell'infrastruttura, consentendoti di concentrarti sulla configurazione dei parametri di formazione e sull'invio del lavoro. Questa piattaforma offre un equilibrio tra facilità d'uso e flessibilità e supporta tecniche come Parameter Efficient Fine-tuning (PEFT), Full rank fine tuning e Reinforcement Fine-Tuning (RFT).

SageMaker HyperPod— Offre un ambiente specializzato per la formazione distribuita su larga scala, richiedendo la creazione e la gestione di cluster EKS con gruppi di istanze ristretti (). RIGs Questa piattaforma offre la massima flessibilità nella configurazione del tuo ambiente di formazione con istanze GPU specializzate e storage Amazon FSx for Lustre integrato, rendendola particolarmente adatta per scenari di formazione distribuita avanzati, sviluppo continuo di modelli e carichi di lavoro di personalizzazione su scala aziendale.

Platform (Piattaforma) Complessità Flessibilità Ideale per
Amazon Bedrock Minimo Standard Personalizzazione più rapida, configurazione minima
SageMaker lavori di formazione Media Elevata Flessibilità e facilità d'uso bilanciate
SageMaker HyperPod Massimo Massimo Formazione distribuita su vasta scala, carichi di lavoro aziendali
Nota

Se fornisci una chiave KMS per il tuo processo di formazione sulla personalizzazione del modello Amazon Nova per la crittografia nel bucket di output S3 di proprietà di Amazon:

  • Devi fornire la stessa chiave KMS quando richiami i successivi lavori di formazione iterativi o quando chiami l' CreateCustomModel API Amazon Bedrock sfruttando il modello crittografato.

  • L'identità che chiama l'CreateTrainingJobAPI (anziché il ruolo di esecuzione) deve disporre delle autorizzazioni per CreateGrant e GenerateDataKey come definito nella Encrypt policy chiave KMS. RetireGrant