View a markdown version of this page

SageMaker Operatori di intelligenza artificiale per Kubernetes - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

SageMaker Operatori di intelligenza artificiale per Kubernetes

SageMaker Gli operatori AI per Kubernetes consentono agli sviluppatori e ai data scientist che utilizzano Kubernetes di addestrare, ottimizzare e implementare modelli di machine learning (ML) nell'IA. SageMaker Puoi installare questi operatori di SageMaker intelligenza artificiale sul tuo cluster Kubernetes in Amazon Elastic Kubernetes Service (Amazon EKS) per creare lavori di intelligenza SageMaker artificiale in modo nativo utilizzando l'API Kubernetes e strumenti Kubernetes a riga di comando come. kubectl Questa guida mostra come configurare e utilizzare gli operatori per eseguire l'addestramento dei modelli, l'ottimizzazione degli iperparametri o l'inferenza (in tempo reale e in batch) sull'IA da un cluster Kubernetes. SageMaker Le procedure e le linee guida in questo capitolo presuppongono che l'utente abbia familiarità con Kubernetes e i suoi comandi di base.

Importante

Stiamo interrompendo lo sviluppo e il supporto tecnico della versione originale di Operators for Kubernetes. SageMaker

Se stai utilizzando una versione precedente v1.2.2 di SageMaker Operators for Kubernetes, ti consigliamo di migrare le tue risorse al controller di servizio ACK per Amazon. SageMaker Il controller di servizio ACK è una nuova generazione di SageMaker Operators for Kubernetes basata su AWS Controllers for Kubernetes (ACK).

Per informazioni sulle fasi di migrazione, consulta Migrazione di risorse verso gli operatori più recenti.

Per le risposte alle domande frequenti sulla fine del supporto della versione originale di Operators for Kubernetes, vedi SageMaker Annuncio della fine del supporto della versione originale di AI Operators for Kubernetes SageMaker

Nota

L'utilizzo di questi operatori non comporta costi aggiuntivi. Le risorse di SageMaker intelligenza artificiale utilizzate tramite questi operatori sono a pagamento.

Che cos'è un operatore?

Un operatore Kubernetes è un controller di applicazioni che gestisce le applicazioni per conto di un utente Kubernetes. I controller del piano di controllo comprendono vari loop di controllo che ascoltano un Central State Manager (ETCD) per regolare lo stato dell'applicazione che controllano. Esempi di tali applicazioni includono Cloud-controller-manager ekube-controller-manager. Gli operatori in genere forniscono un'astrazione di livello superiore rispetto all'API Kubernetes raw, semplificando la distribuzione e la gestione delle applicazioni da parte degli utenti. Per aggiungere nuove funzionalità a Kubernetes, gli sviluppatori possono estendere l'API Kubernetes creando una risorsa personalizzata che contenga la logica e i componenti specifici dell'applicazione o del dominio. Gli operatori di Kubernetes consentono agli utenti di richiamare in modo nativo queste risorse personalizzate e automatizzare i flussi di lavoro associati.

Come fa AWS I controller per Kubernetes (ACK) funzionano?

Gli operatori SageMaker AI per Kubernetes ti consentono di gestire i lavori in intelligenza artificiale dal tuo cluster Kubernetes. SageMaker L'ultima versione di SageMaker AI Operators for Kubernetes è basata su Controllers for Kubernetes (ACK). AWS ACK include un runtime di controller comune, un generatore di codice e un set di controller AWS specifici per il servizio, uno dei quali è il controller AI. SageMaker

Lo schema seguente illustra come funziona ACK.

Spiegazione dell'operatore SageMaker AI basato su ACK per Kubernetes.

In questo diagramma, un utente Kubernetes desidera eseguire l'addestramento dei modelli sull' SageMaker intelligenza artificiale dall'interno del cluster Kubernetes utilizzando l'API Kubernetes. L'utente invia una chiamata akubectl apply, inviando un file che descrive una risorsa personalizzata Kubernetes che descrive il lavoro di formazione. SageMaker kubectl applypassa questo file, chiamato manifest, al server API Kubernetes in esecuzione nel nodo del controller Kubernetes (Fase 1 nel diagramma del flusso di lavoro). Il server API Kubernetes riceve il manifest con le specifiche del lavoro di SageMaker formazione e determina se l'utente dispone delle autorizzazioni per creare una risorsa personalizzata di tipo sageMaker.services.k8s.aws/TrainingJob e se la risorsa personalizzata è formattata correttamente (passaggio 2). Se l'utente è autorizzato e la risorsa personalizzata è valida, il server API Kubernetes scrive (fase 3) la risorsa personalizzata nel suo datastore etcd e quindi risponde (fase 4) all'utente informandolo che la risorsa personalizzata è stata creata. Il controller SageMaker AI, in esecuzione su un nodo di lavoro Kubernetes nel contesto di un normale Kubernetes Pod, viene informato (Fase 5) che è stata creata una nuova risorsa personalizzata di tipo. sageMaker.services.k8s.aws/TrainingJob Il controller SageMaker AI comunica quindi (Fase 6) con l' SageMaker API, chiamando l'CreateTrainingJobAPI SageMaker AI per creare il job di formazione in. AWS Dopo aver comunicato con l' SageMaker API, il controller SageMaker AI chiama il server API Kubernetes per aggiornare (Fase 7) lo stato della risorsa personalizzata con le informazioni ricevute dall'IA. SageMaker Il controller SageMaker AI fornisce quindi agli sviluppatori le stesse informazioni che avrebbero ricevuto utilizzando l'SDK. AWS

Panoramica delle autorizzazioni

Gli operatori accedono alle risorse SageMaker AI per tuo conto. Il ruolo IAM che l'operatore assume per interagire con AWS le risorse è diverso dalle credenziali utilizzate per accedere al cluster Kubernetes. Il ruolo è inoltre diverso da quello che AWS assume quando si eseguono i processi di machine learning.

La seguente immagine spiega i vari livelli di autenticazione.

SageMaker AI Operator for Kubernetes: vari livelli di autenticazione.