Fonctionnalités d'Amazon SageMaker AI

Vous pouvez exécuter des recettes au sein d'Amazon SageMaker HyperPod ou en tant que tâches de SageMaker formation. Vous utilisez l'adaptateur de HyperPod formation comme cadre pour vous aider à exécuter les flux de travail de end-to-end formation. L'adaptateur de formation est basé sur le NVIDIA NeMo framework et le package Neuronx Distributed Training.

Dans Amazon SageMaker Studio, vous pouvez lancer des charges de travail de machine learning sur des HyperPod clusters et consulter les informations relatives aux HyperPod clusters. La visibilité accrue sur les détails du cluster et les indicateurs matériels peut aider votre équipe à identifier le bon candidat pour vos charges de travail préalables à la formation ou pour affiner les charges de travail.

Amazon SageMaker HyperPod Task Governance est un système de gestion robuste conçu pour rationaliser l'allocation des ressources et garantir une utilisation efficace des ressources informatiques au sein des équipes et des projets pour vos EKS clusters Amazon. HyperPod la gouvernance des tâches fournit également Amazon EKS Cluster Observability, offrant une visibilité en temps réel sur la capacité du cluster, la disponibilité et l'utilisation du calcul, l'allocation et l'utilisation des équipes, ainsi que les informations sur l'exécution des tâches et les temps d'attente.

Avec Amazon SageMaker Partner AI Apps, les utilisateurs ont accès à des applications de développement d'intelligence artificielle générative (IA) et d'apprentissage automatique (ML) conçues, publiées et distribuées par les principaux fournisseurs d'applications du secteur. Les applications d'IA partenaires sont certifiées pour fonctionner sur l' SageMaker IA. Avec les applications Partner AI, les utilisateurs peuvent accélérer et améliorer la façon dont ils créent des solutions basées sur des modèles de base (FM) et des modèles classiques de ML sans compromettre la sécurité de leurs données sensibles, qui restent totalement conformes à leur configuration de sécurité fiable et ne sont jamais partagées avec un tiers.

Vous pouvez discuter avec Amazon Q Developer dans Amazon SageMaker Canvas en utilisant le langage naturel pour vous aider à résoudre vos problèmes d'apprentissage automatique grâce à l'IA générative. Vous pouvez discuter avec Q Developer des étapes d'un flux de travail d'apprentissage automatique et tirer parti des fonctionnalités de Canvas telles que la transformation des données, la création de modèles et le déploiement.

Les plans de SageMaker formation Amazon sont une fonctionnalité de réservation informatique conçue pour les charges de travail de formation de modèles d'IA à grande échelle exécutées sur des tâches de SageMaker formation et des HyperPod clusters. Ils fournissent un accès prévisible à des ressources informatiques GPU accélérées à forte demande dans des délais précis. Vous pouvez définir le calendrier, la durée et les ressources de calcul maximales souhaités, et les plans de SageMaker formation gèrent automatiquement la configuration de l'infrastructure, l'exécution de la charge de travail et la reprise après panne. Cela permet de planifier et d'exécuter efficacement des projets d'IA critiques avec un modèle de coûts prévisible.

Un service de ML automatique qui offre aux utilisateurs sans expérience de codage la possibilité de créer des modèles et d'établir des prédictions grâce à ces derniers.

L'éditeur de code étend Studio afin que vous puissiez écrire, tester, déboguer et exécuter votre code d'analyse et d'apprentissage automatique dans un environnement basé sur Visual Studio Code - Open Source (« Code- OSS »).

Créez, entraînez et déployez des modèles de ML à l'aide de données géospatiales.

Amazon SageMaker HyperPod est une fonctionnalité d' SageMaker intelligence artificielle qui fournit un environnement d'apprentissage automatique permanent sur des clusters résilients dans lequel vous pouvez exécuter n'importe quelle charge de travail d'apprentissage automatique pour développer de grands modèles d'apprentissage automatique tels que de grands modèles de langage (LLMs) et des modèles de diffusion.

JupyterLab in Studio améliore la latence et la fiabilité des ordinateurs portables Studio

Studio est la toute dernière expérience Web pour exécuter des flux de travail ML. Studio propose une suite comprenant un éditeur de IDEs code, une nouvelle application Jupyterlab et Studio RStudio Classic.

Environnement de machine learning intégré qui vous permet de générer, entraîner, déployer et analyser vos modèles dans la même application.

Un service gratuit qui permet aux clients d'accéder à des ressources AWS informatiques dans un environnement basé sur l'open source JupyterLab.

Un environnement de développement intégré pour R avec une console, un éditeur de coloration syntaxique qui prend en charge l'exécution directe de code et des outils de traçage, d'historique, de débogage et de gestion de l'espace de travail.

Créez les flux requis pour la vérification humaine des prédictions ML. Amazon A2I offre à tous les développeurs une capacité de vérification humaine des prédictions ML, sans la charge lourde non différenciée associée à la création de systèmes de vérification humaine ou la gestion d'un grand nombre de vérificateurs humains.

Créez une tâche AutoML pour entraîner automatiquement un modèle dans Pipelines.

Les utilisateurs qui ne connaissent pas le machine learning peuvent rapidement construire des modèles de classification et de régression.

Prétraitez les jeux de données, exécutez l'inférence lorsque vous n'avez pas besoin d'un point de terminaison persistant et associez les enregistrements d'entrée à des inférences pour faciliter l'interprétation des résultats.

Améliorez vos modèles de machine learning en détectant le biais potentiel et en expliquant les prédictions réalisées par les modèles.

Un espace partagé se compose d'une JupyterServer application partagée et d'un répertoire partagé. Tous les profils utilisateur d'un domaine Amazon SageMaker AI ont accès à tous les espaces partagés du domaine.

Importez, analysez, préparez et présentez des données dans SageMaker Studio. Vous pouvez intégrer Data Wrangler à vos flux de machine learning afin de simplifier et rationaliser le prétraitement des données et l'ingénierie des fonctionnalités avec peu ou pas de codage. Vous pouvez également ajouter vos propres scripts et transformations Python afin de personnaliser votre flux de préparation des données.

Interagissez avec vos données, obtenez des visualisations, explorez des informations exploitables et résolvez les problèmes de qualité des données.

Inspecter les paramètres et les données d'entraînement tout au long du processus d'entraînement. Détectez et alertez automatiquement les utilisateurs en cas d'erreurs courantes telles que des valeurs de paramètres qui deviennent trop grandes ou trop petites.

Optimisez les modèles personnalisés pour les appareils en périphérie, créez et gérez des flottes, et exécutez des modèles avec un runtime efficace.

Gestion et suivi des expériences. Vous pouvez utiliser les données suivies pour reconstruire une expérience, construire progressivement sur des expériences menées par des pairs et suivre la lignée des modèles pour des vérifications de conformité et d'audit.

Une boutique centralisée pour les fonctions et les métadonnées associées, qui facilite la découverte et la réutilisation des fonctions. Vous pouvez créer deux types de boutiques, en ligne ou hors ligne. La boutique en ligne peut être utilisée pour les cas d'utilisation d'inférence en temps réel à faible latence, et la boutique hors ligne peut être utilisée pour les cas d'utilisation d'entraînement et d'inférence par lots.

Entraînement de haute qualité des jeux de données à l'aide de travailleurs et du machine learning dans le but de créer des jeux de données étiquetés.

Une fonction d'étiquetage de données clé en main pour créer des ensembles de données d'entraînement de haute qualité sans avoir à créer des applications d'étiquetage et à gérer vous-même la main-d'œuvre en charge de l'étiquetage.

Obtenez des recommandations sur les types et les configurations d'instances d'inférence (par exemple, le nombre d'instances, les paramètres de conteneur et les optimisations de modèle) pour utiliser vos modèles et charges de travail de ML.

Évaluez toute modification apportée à votre infrastructure de modèle en comparant ses performances à celles de son infrastructure actuellement déployée.

Découvrez les fonctionnalités et capacités de l' SageMaker IA grâce à des solutions en un clic sélectionnées, des exemples de blocs-notes et des modèles préentraînés que vous pouvez déployer. Vous pouvez également affiner les modèles et les déployer.

Suivez la lignée des flux de machine learning.

Créez et gérez des pipelines d'apprentissage automatique intégrés directement aux tâches liées à SageMaker l'IA.

Documentez les informations relatives à vos modèles de ML en un seul endroit pour une gouvernance et des rapports rationalisés tout au long du cycle de vie du ML.

Un aperçu visuel prédéfini de tous les modèles de votre compte. Model Dashboard intègre les informations de SageMaker Model Monitor, transforme les tâches, les points de terminaison, le suivi du lignage. Vous pouvez CloudWatch ainsi accéder à des informations de haut niveau sur le modèle et suivre les performances du modèle dans une vue unifiée.

Surveillez et analysez les modèles en production (points de terminaison) pour détecter une dérive des données et des écarts dans la qualité des modèles.

Gestion des versions, suivi des artefacts et de la lignée, flux d'approbation et prise en charge inter-compte pour le déploiement de vos modèles de machine learning.

Entraînez une fois des modèles Machine Learning, puis exécutez-les n'importe où dans le cloud et en périphérie.

Exécutez votre bloc-notes SageMaker Studio en tant que tâche planifiée et non interactive.

Analysez et prétraitez les données, embrassez l'ingénierie des fonctionnalités et évaluez les modèles.

Créez des solutions end-to-end ML avec CI/CD à l'aide SageMaker de Projects.

Augmentez au maximum la récompense à long terme qu'un agent reçoit en raison de ses actions.

Les administrateurs peuvent définir des autorisations de moindre privilège pour les activités de machine learning courantes à l'aide de rôles personnalisés et préconfigurés basés sur les personnes. IAM

Une option de point de terminaison sans serveur pour héberger votre modèle de ML. Met automatiquement à l'échelle la capacité pour servir le trafic de votre point de terminaison. Supprime la nécessité de sélectionner des types d'instances ou de gérer des politiques de mise à l'échelle sur un point de terminaison.

Une extension Git permettant URL d'accéder à un dépôt Git, de le cloner dans votre environnement, d'effectuer des modifications et de consulter l'historique des validations.

La prochaine génération de SageMaker blocs-notes qui inclut l'intégration AWS IAM Identity Center (IAMIdentity Center), des temps de démarrage rapides et le partage en un seul clic.

Découvrez, connectez-vous, créez, résiliez et gérez facilement des EMR clusters Amazon dans des configurations à compte unique ou multicompte, directement depuis SageMaker Studio.

Entraînez des modèles de deep learning plus rapidement sur GPU des instances évolutives gérées par SageMaker l'IA.