Características da Amazon SageMaker AI

Você pode executar receitas na Amazon SageMaker HyperPod ou como trabalhos SageMaker de treinamento. Você usa o adaptador HyperPod de treinamento como estrutura para ajudá-lo a executar fluxos de trabalho de end-to-end treinamento. O adaptador de treinamento é baseado na NeMo estrutura NVIDIA e no pacote Neuronx Distributed Training.

No Amazon SageMaker Studio, você pode iniciar cargas de trabalho de aprendizado de máquina em HyperPod clusters e visualizar informações HyperPod do cluster. A maior visibilidade dos detalhes do cluster e das métricas de hardware pode ajudar sua equipe a identificar o candidato certo para suas cargas de trabalho de pré-treinamento ou ajuste fino.

A governança de SageMaker HyperPod tarefas da Amazon é um sistema de gerenciamento robusto projetado para simplificar a alocação de recursos e garantir a utilização eficiente dos recursos computacionais entre equipes e projetos para seus clusters do Amazon EKS. HyperPod a governança de tarefas também fornece a observabilidade do cluster Amazon EKS, oferecendo visibilidade em tempo real da capacidade do cluster, disponibilidade e uso da computação, alocação e utilização da equipe e informações sobre a execução e o tempo de espera das tarefas.

Com o Amazon SageMaker Partner AI Apps, os usuários têm acesso a aplicativos de desenvolvimento generativos de inteligência artificial (IA) e aprendizado de máquina (ML) criados, publicados e distribuídos pelos principais fornecedores de aplicativos do setor. Os aplicativos de IA de parceiros são certificados para serem executados em SageMaker IA. Com o Partner AI Apps, os usuários podem acelerar e melhorar a forma como criam soluções com base em modelos básicos (FM) e modelos clássicos de ML sem comprometer a segurança de seus dados confidenciais, que permanecem completamente dentro de sua configuração de segurança confiável e nunca são compartilhados com terceiros.

Você pode conversar com o Amazon Q Developer no Amazon SageMaker Canvas usando linguagem natural para obter assistência generativa de IA na solução de seus problemas de aprendizado de máquina. Você pode conversar com o Q Developer para discutir as etapas de um fluxo de trabalho de aprendizado de máquina e aproveitar a funcionalidade do Canvas, como transformação de dados, criação de modelos e implantação.

Os planos SageMaker de treinamento da Amazon são um recurso de reserva computacional projetado para cargas de trabalho de treinamento de modelos de IA em grande escala executadas em trabalhos e clusters SageMaker de treinamento. HyperPod Eles fornecem acesso previsível a recursos de computação acelerada por GPU de alta demanda dentro de prazos especificados. Você pode especificar o cronograma, a duração e o máximo de recursos computacionais desejados, e os planos de SageMaker treinamento gerenciam automaticamente a configuração da infraestrutura, a execução da carga de trabalho e a recuperação de falhas. Isso permite planejar e executar com eficiência projetos de IA de missão crítica com um modelo de custo previsível.

Um serviço de ML automático que oferece às pessoas sem experiência em programação a capacidade de criar modelos e fazer predições com eles.

O Editor de Código estende o Studio para que você possa escrever, testar, depurar e executar seu código de analytics e machine learning em um ambiente baseado no Visual Studio Code - Open Source (“Code-OSS”).

Crie, treine e implante modelos de ML usando dados geoespaciais.

SageMaker HyperPod A Amazon é um recurso de SageMaker IA que fornece um ambiente de aprendizado de máquina sempre ativo em clusters resilientes, nos quais você pode executar qualquer carga de trabalho de aprendizado de máquina para desenvolver grandes modelos de aprendizado de máquina, como grandes modelos de linguagem () LLMs e modelos de difusão.

JupyterLab in Studio melhora a latência e a confiabilidade dos notebooks Studio

O Studio é a mais recente experiência baseada na web para executar fluxos de trabalho de ML. O Studio oferece um conjunto de IDEs, incluindo o Code Editor, um novo aplicativo Jupyterlab e o Studio RStudio Classic.

Um ambiente integrado de machine learning em que você pode compilar, treinar, implantar e analisar seus modelos, tudo no mesma aplicação.

Um serviço gratuito que dá aos clientes acesso a recursos AWS computacionais em um ambiente baseado em código aberto JupyterLab.

Um ambiente de desenvolvimento integrado para R, com console, um editor de destaque de sintaxe que oferece apoio à execução direta de códigos e ferramentas para plotagem, histórico, depuração e gerenciamento de workspace.

Crie os fluxos de trabalho necessários para a análise humana das predições de ML. O Amazon A2I leva a revisão humana a todos os desenvolvedores, eliminando o trabalho pesado e indiferenciado associado à compilação de sistemas de revisão humana ou ao gerenciamento de um grande número de revisores humanos.

Crie uma tarefa AutoML para treinar um modelo automaticamente nas Pipelines.

Os usuários sem conhecimento de machine learning podem criar rapidamente modelos de classificação e de regressão.

Execute o pré-processamento de conjuntos de dados, execute inferência quando você não precisa de um endpoint persistente e associe registros de entrada com inferências para auxiliar na interpretação dos resultados.

Melhore os modelos de machine learning ao detectar potenciais desvios e ajude a explicar as predições feitas pelos modelos.

Um espaço compartilhado consiste em um JupyterServer aplicativo compartilhado e um diretório compartilhado. Todos os perfis de usuário em um domínio do Amazon SageMaker AI têm acesso a todos os espaços compartilhados no domínio.

Importe, analise, prepare e destaque dados no SageMaker Studio. Você pode integrar o Data Wrangler aos seus fluxos de trabalho de machine learning para simplificar e agilizar o pré-processamento de dados e a engenharia de atributos usando pouco ou nenhum código. Você também pode adicionar seus próprios scripts e transformações em Python para personalizar os fluxos de trabalho.

Interaja com seus dados, obtenha visualizações, explore insights acionáveis e corrija problemas de qualidade de dados.

Inspecione parâmetros de treinamento e dados durante todo o processo de treinamento. Detecte e alerte automaticamente os usuários com relação a erros que costumam ocorrer, como valores de parâmetro que ficam muito grandes ou pequenos.

Otimize modelos personalizados para dispositivos de borda, crie e gerencie frotas e execute modelos com um runtime eficiente.

Gerenciamento e rastreamento de experiências. É possível usar os dados rastreados para reconstruir um experimento, para aprofundar-se de maneira incremental em experimentos conduzidos por colegas e rastrear a linhagem do modelo para verificações de auditoria e conformidade.

Um armazenamento centralizado de atributos e metadados associados para que os atributos possam ser facilmente descobertos e reutilizados. Você pode criar dois tipos de armazenamento, Online ou Offline. O armazenamento on-line é usado para casos de uso de inferência em tempo real de baixa latência, e o armazenamento offline é usado para treinamento e inferência em lote.

Conjuntos de dados de treinamento de alta qualidade usando operadores com machine learning para criar conjuntos de dados rotulados.

Um atributo de rotulagem de dados pronto para uso para criar conjuntos de dados de treinamento de alta qualidade sem precisar criar aplicações de rotulagem e gerenciar a força de trabalho de rotulagem por conta própria.

Obtenha recomendações sobre configurações e tipos de instância de inferência (por exemplo, contagem de instâncias, parâmetros de contêiner e otimizações de modelos) para usar suas workloads e seus modelos de ML.

Avalie qualquer alteração na sua infraestrutura de serviço de modelos comparando o desempenho dela com a infraestrutura atualmente implantada.

Saiba mais sobre os recursos e capacidades de SageMaker IA por meio de soluções selecionadas de 1 clique, exemplos de notebooks e modelos pré-treinados que você pode implantar. Você também pode ajustar os modelos e implantá-los.

Monitore a linhagem dos fluxos de trabalho de machine learning.

Crie e gerencie pipelines de aprendizado de máquina integrados diretamente às tarefas de SageMaker IA.

Documente as informações sobre seus modelos de ML em um único local para simplificar a governança e a geração de relatórios em todo o ciclo de vida do ML.

Uma visão geral visual pré-criada de todos os modelos na sua conta. O Model Dashboard integra informações do SageMaker Model Monitor, tarefas de transformação, endpoints, rastreamento de linhagem e, CloudWatch portanto, você pode acessar informações de alto nível do modelo e acompanhar o desempenho do modelo em uma visão unificada.

Monitore e analise modelos em produção (endpoints) para detectar desvio de dados e variações na qualidade do modelo.

Controle de versão, monitoramento de artefatos e linhagem, fluxo de trabalho de aprovação e compatibilidade entre contas para implantação de seus modelos de machine learning.

Treine modelos de machine learning uma vez e execute em qualquer lugar na nuvem e na borda.

Execute seu notebook SageMaker Studio como um trabalho programado e não interativo.

Analise e pré-processe dados, aborde a engenharia de atributos e avalie modelos.

Crie soluções end-to-end de ML com CI/CD usando SageMaker projetos.

Maximize o prêmio a longo prazo que um agente recebe como resultado de suas ações.

Os administradores podem definir permissões de privilégio mínimo para atividades de ML comuns usando funções personalizadas e pré-configuradas das funções do IAM.

Uma opção de endpoint sem servidor para hospedar seu modelo de ML. Ajuste de escala automático da capacidade para atender ao tráfego do seu endpoint. Elimina a necessidade de selecionar tipos de instância ou gerenciar políticas de escalabilidade em um endpoint.

Uma extensão do Git para você inserir a URL de um repositório Git, cloná-lo em seu ambiente, enviar alterações e exibir confirmações de histórico.

A próxima geração de SageMaker notebooks que inclui integração AWS IAM Identity Center (IAM Identity Center), tempos de inicialização rápidos e compartilhamento com um único clique.

Descubra, conecte-se, crie, encerre e gerencie facilmente clusters do Amazon EMR em configurações de conta única e entre contas diretamente do Studio. SageMaker

Treine modelos de aprendizado profundo com mais rapidez em instâncias de GPU escaláveis gerenciadas pela SageMaker IA.