Caratteristiche di Amazon SageMaker AI

Puoi eseguire ricette all'interno di Amazon SageMaker HyperPod o come lavori di SageMaker formazione. Utilizzi l'adattatore HyperPod di formazione come framework per aiutarti a gestire i flussi di lavoro di end-to-end formazione. L'adattatore di formazione è basato sul NeMo framework NVIDIA e sul pacchetto Neuronx Distributed Training.

In Amazon SageMaker Studio, puoi avviare carichi di lavoro di machine learning sui HyperPod cluster e visualizzare le informazioni sui HyperPod cluster. La maggiore visibilità dei dettagli del cluster e delle metriche hardware può aiutare il team a identificare il candidato giusto per i carichi di lavoro di pre-formazione o ottimizzazione.

Amazon SageMaker HyperPod Task Governance è un robusto sistema di gestione progettato per semplificare l'allocazione delle risorse e garantire un utilizzo efficiente delle risorse di elaborazione tra team e progetti per i cluster Amazon EKS. HyperPod la governance delle attività fornisce anche l'osservabilità del cluster Amazon EKS, offrendo visibilità in tempo reale sulla capacità del cluster, sulla disponibilità e sull'utilizzo del calcolo, sull'allocazione e sull'utilizzo del team e sulle informazioni sull'esecuzione delle attività e sui tempi di attesa.

Con Amazon SageMaker Partner AI Apps, gli utenti hanno accesso ad applicazioni di sviluppo di intelligenza artificiale generativa (AI) e machine learning (ML) create, pubblicate e distribuite da fornitori di applicazioni leader del settore. Le app Partner AI sono certificate per funzionare sull'intelligenza artificiale. SageMaker Con Partner AI Apps, gli utenti possono accelerare e migliorare il modo in cui creano soluzioni basate su modelli base (FM) e modelli ML classici senza compromettere la sicurezza dei dati sensibili, che rimangono completamente all'interno della loro configurazione di sicurezza affidabile e non vengono mai condivisi con terze parti.

Puoi chattare con Amazon Q Developer in Amazon SageMaker Canvas usando il linguaggio naturale per un'assistenza generativa basata sull'intelligenza artificiale per risolvere i tuoi problemi di apprendimento automatico. Puoi conversare con Q Developer per discutere le fasi di un flusso di lavoro di machine learning e sfruttare le funzionalità di Canvas come la trasformazione dei dati, la creazione di modelli e l'implementazione.

I piani di SageMaker formazione di Amazon sono una funzionalità di prenotazione di calcolo progettata per carichi di lavoro di formazione su modelli di intelligenza artificiale su larga scala eseguiti su job e cluster di SageMaker formazione. HyperPod Forniscono un accesso prevedibile a risorse di elaborazione accelerate da GPU ad alta richiesta entro scadenze specificate. È possibile specificare la tempistica, la durata e il numero massimo di risorse di calcolo desiderate e i piani di SageMaker formazione gestiscono automaticamente la configurazione dell'infrastruttura, l'esecuzione del carico di lavoro e il ripristino degli errori. Ciò consente di pianificare ed eseguire in modo efficiente progetti di intelligenza artificiale cruciali con un modello di costo prevedibile.

Un servizio di machine learning automatico che offre alle persone senza esperienza di programmazione la possibilità di creare modelli e fare previsioni con essi.

Code Editor estende Studio in modo da consentirti di scrivere, testare, eseguire il debug ed eseguire codice di analisi e apprendimento automatico in un ambiente basato su Visual Studio Code - Open Source («Code-OSS»).

Crea, addestra e distribuisci modelli di machine learning utilizzando dati geospaziali.

Amazon SageMaker HyperPod è una funzionalità dell' SageMaker intelligenza artificiale che fornisce un ambiente di apprendimento automatico sempre attivo su cluster resilienti in cui è possibile eseguire qualsiasi carico di lavoro di machine learning per lo sviluppo di modelli di machine learning di grandi dimensioni, come modelli di linguaggio di grandi dimensioni () e modelli di diffusione. LLMs

JupyterLab in Studio migliora la latenza e l'affidabilità dei notebook Studio

Studio è l'esperienza basata sul Web più recente per l'esecuzione di flussi di lavoro ML. Studio offre una suite di IDEs, tra cui Code Editor, una nuova applicazione Jupyterlab e Studio Classic. RStudio

Un ambiente di machine learning integrato in cui è possibile creare, addestrare, distribuire e analizzare i modelli nella stessa applicazione.

Un servizio gratuito che offre ai clienti l'accesso alle risorse di AWS calcolo in un ambiente basato sull'open source JupyterLab.

Un ambiente di sviluppo integrato per R, con una console, un editor di evidenziazione della sintassi che supporta l'esecuzione diretta del codice e strumenti per il plottaggio, la cronologia, il debug e la gestione dello spazio di lavoro.

Crea i flussi di lavoro necessari per la revisione umana delle previsioni di machine learning. Amazon A2I porta la revisione umana a tutti gli sviluppatori, rimuovendo il sollevamento pesante indifferenziato associato alla costruzione di sistemi di revisione umana o alla gestione di un gran numero di revisori umani.

Crea un lavoro AutoML per addestrare automaticamente un modello in Pipelines.

Gli utenti privi di competenze di machine learning possono creare rapidamente modelli di classificazione e regressione.

Preelabora set di dati, esegue l'inferenza quando non è necessario un endpoint persistente e associa i record di input alle inferenze per facilitare l'interpretazione dei risultati.

Migliora i modelli di machine learning grazie all'individuazione di potenziali distorsioni e alla spiegazione delle previsioni effettuate dai modelli stessi.

Uno spazio condiviso è costituito da un' JupyterServer applicazione condivisa e una directory condivisa. Tutti i profili utente in un dominio Amazon SageMaker AI hanno accesso a tutti gli spazi condivisi del dominio.

Importa, analizza, prepara e personalizza i dati in Studio. SageMaker Puoi integrare Data Wrangler nei tuoi flussi di lavoro di machine learning per semplificare e ottimizzare la preelaborazione dei dati e la progettazione delle funzionalità utilizzando poca o nessuna codifica. Puoi anche aggiungere i tuoi script e trasformazioni Python per personalizzare il flusso di lavoro di preparazione dei dati.

Interagisci con i tuoi dati, ottenere visualizzazioni, esplorare informazioni utili e risolvere problemi di qualità dei dati.

Controlla i parametri e i dati di addestramento nel processo di addestramento. Rileva e avvisa automaticamente gli utenti di errori comuni, come i valori dei parametri che diventano troppo grandi o piccoli.

Ottimizza i modelli personalizzati per i dispositivi edge, crea e gestisci flotte ed esegui modelli con un runtime efficiente.

Gestione e monitoraggio degli esperimenti È possibile utilizzare i dati tracciati per ricostruire un esperimento, costruire in modo incrementale su esperimenti condotti da peer e tracciare il modello per verifiche di conformità e audit.

Un archivio centralizzato per le funzionalità e i metadati associati in modo che le funzionalità possano essere facilmente scoperte e riutilizzate. Puoi creare due tipi di archivi, un archivio online o uno offline. L'archivio online può essere utilizzato per casi d'uso di inferenza in tempo reale a bassa latenza, mentre l’archivio offline può essere utilizzato per l’inferenza di addestramento e batch.

Set di dati di addestramento di alta qualità utilizzando i worker e il machine learning per creare set di dati etichettati.

Una funzionalità di etichettatura dei dati chiavi in mano per creare set di dati di addestramento di alta qualità senza dover creare applicazioni di etichettatura e gestire autonomamente la forza lavoro addetta all'etichettatura.

Ottieni i suggerimenti sui tipi e sulle configurazioni delle istanze di inferenza (ad esempio numero di istanze, parametri dei container e ottimizzazioni dei modelli) per utilizzare i tuoi modelli e carichi di lavoro ML.

Valuta eventuali modifiche alla tua infrastruttura di model-service confrontandone le prestazioni con l'infrastruttura attualmente implementata.

Scopri le caratteristiche e le funzionalità dell' SageMaker intelligenza artificiale attraverso soluzioni curate in 1 clic, notebook di esempio e modelli preaddestrati che puoi implementare. Puoi anche perfezionare i modelli e distribuirli.

Monitora il lineage dei flussi di lavoro di machine learning.

Crea e gestisci pipeline di machine learning integrate direttamente con i lavori di SageMaker intelligenza artificiale.

Documenta le informazioni sui tuoi modelli di machine learning in un unico posto per una governance e un reporting semplificati durante l'intero ciclo di vita del machine learning.

Una panoramica visiva predefinita di tutti i modelli del tuo account. Model Dashboard integra le informazioni di SageMaker Model Monitor, trasforma lavori, endpoint, tracciamento della discendenza e CloudWatch consente di accedere a informazioni di alto livello sul modello e monitorare le prestazioni del modello in un'unica visualizzazione unificata.

Monitora e analizza i modelli in produzione (endpoint) per rilevare il drift dei dati e le deviazioni nella qualità del modello.

Controllo delle versioni, tracciamento degli artefatti e della lineage, flusso di lavoro di approvazione e supporto interaccount per l'implementazione dei modelli di machine learning.

Addestra i modelli di machine learning una volta, quindi li esegue a livello di cloud e di edge.

Esegui il tuo notebook SageMaker Studio come un lavoro pianificato e non interattivo.

Analizza e preelabora i dati, affronta l'engineering delle funzionalità e valuta i modelli.

Crea soluzioni end-to-end ML con CI/CD utilizzando SageMaker Projects.

Massimizza le gratificazioni a lungo termine che un agente riceve come risultato delle sue operazioni.

Gli amministratori possono definire le autorizzazioni con privilegi minimi per le attività di machine learning comuni utilizzando ruoli IAM personalizzati e preconfigurati basati sulla persona.

Un'opzione di endpoint serverless per ospitare il tuo modello di machine learning. Dimensionamento automatico della capacità per soddisfare il traffico degli endpoint. Elimina la necessità di selezionare i tipi di istanza o gestire le policy di scalabilità su un endpoint.

Un'estensione Git per inserire l'URL di un repository Git, clonarlo nel tuo ambiente, inviare modifiche e visualizzare la cronologia dei commit.

La nuova generazione di SageMaker notebook che include integrazione AWS IAM Identity Center (IAM Identity Center), tempi di avvio rapidi e condivisione con un solo clic.

Scopri, connettiti, crea, chiudi e gestisci facilmente i cluster Amazon EMR in configurazioni con account singolo e multiaccount direttamente da Studio. SageMaker

Addestra modelli di deep learning più velocemente su istanze GPU scalabili gestite dall'intelligenza artificiale. SageMaker