SageMaker Fonctionnalités d'Amazon

SageMaker Le chat Canvas pour la préparation des données vous aide à créer des flux de préparation des données à l'aide de LLM.

L'éditeur de code étend Studio afin que vous puissiez écrire, tester, déboguer et exécuter votre code d'analyse et d'apprentissage automatique dans un environnement basé sur Visual Studio Code - Open Source (« Code-OSS »).

SageMaker a remplacé les noyaux NCCL par défaut par des noyaux optimisés pour l'inférence afin d'améliorer l'utilisation du GPU et d'offrir des performances différenciées par rapport aux logiciels libres.

SageMaker Inference fournit une expérience de développeur et des abstractions d'interface utilisateur pour vous aider à démarrer plus rapidement le déploiement de modèles.

SageMaker les clients peuvent désormais améliorer l'utilisation de leurs instances de calcul accéléré en déployant jusqu'à des milliers de modèles sur un SageMaker terminal avec un débit garanti et une mise à l'échelle automatique pour chaque modèle.

SageMaker Distribution est une collection d'images Docker conçue pour l'apprentissage automatique, la science des données et l'analyse des données. Les images sont disponibles sur Studio, Studio Lab, les blocs-notes Studio et Github.

Une expérience d'intégration de SageMaker domaines Amazon simplifiée et guidée avec de nouvelles fonctionnalités pour les utilisateurs individuels et les administrateurs d'entreprise. Les fonctionnalités incluent l'intégration directe du centre d'identité IAM, la gestion précise des politiques d'accès, la gestion et les configurations fluides des SageMaker applications, ainsi que la configuration des VPC et du stockage.

Amazon S3 Express One Zone est une nouvelle classe de stockage qui fournit un accès à un chiffre en millisecondes aux applications les plus sensibles à la latence. Amazon S3 Express One Zone permet aux clients de regrouper leurs ressources de stockage d'objets et de calcul dans une seule zone de AWS disponibilité, optimisant à la fois les performances de calcul et les coûts grâce à une vitesse de traitement des données accrue.

Les évaluations du modèle de base (FMeval) vous aident à quantifier le risque de fournir un contenu inexact, toxique ou biaisé avec votre modèle linguistique afin que vous puissiez choisir celui qui convient le mieux à votre cas d'utilisation. Apportez votre propre jeu de données personnalisé ou utilisez un jeu de données intégré pour évaluer n'importe quel modèle de langage. FMeval intègre des dizaines de modèles de base basés sur du texte JumpStart ou apportez les vôtres. Vous pouvez également créer des évaluations personnalisées à l'aide de la bibliothèque FMeval.

SageMaker HyperPod est une fonctionnalité SageMaker qui fournit un environnement d'apprentissage automatique permanent sur des clusters résilients dans lequel vous pouvez exécuter n'importe quelle charge de travail d'apprentissage automatique pour développer de grands modèles d'apprentissage automatique tels que les grands modèles de langage (LLM) et les modèles de diffusion.

Jupyter AI et Code Whisperer ont été inclus dans la distribution. SageMaker Avec cette mise à jour, les utilisateurs de Studio ou de Code Editor peuvent facilement utiliser l'IA générative depuis leur ordinateur portable et tirer parti de la fonctionnalité de complétion de code de Code Whisperer.

JupyterLab in Studio améliore la latence et la fiabilité des ordinateurs portables Studio

SageMaker Notebook Jobs fournit un support SDK pour les tâches de bloc-notes afin que vous puissiez planifier vos tâches de bloc-notes par programmation.

SageMaker Pipelines vous offre la possibilité de convertir votre code d'apprentissage automatique local en une étape SageMaker Pipeline, à partir de laquelle vous pouvez créer et exécuter un pipeline.

SageMaker Le criblage intelligent est une fonctionnalité d' SageMaker entraînement qui améliore l'efficacité de vos ensembles de données d'entraînement et réduit le temps et le coût totaux de l'entraînement.

Studio est la toute dernière expérience Web pour exécuter des flux de travail ML. Studio propose une suite d'IDE, notamment un éditeur de code, une nouvelle application Jupyterlab, RStudio et Studio Classic.

Créez, entraînez et déployez des modèles de ML à l'aide de données géospatiales.

Un service de ML automatique qui offre aux utilisateurs sans expérience de codage la possibilité de créer des modèles et d'établir des prédictions grâce à ces derniers.

Environnement de machine learning intégré qui vous permet de générer, entraîner, déployer et analyser vos modèles dans la même application.

Un service gratuit qui permet aux clients d'accéder à des ressources AWS informatiques dans un environnement basé sur l'open source JupyterLab.

Un environnement de développement intégré pour R avec une console, un éditeur de coloration syntaxique qui prend en charge l'exécution directe de code et des outils de traçage, d'historique, de débogage et de gestion de l'espace de travail.

Créez les flux requis pour la vérification humaine des prédictions ML. Amazon A2I offre à tous les développeurs une capacité de vérification humaine des prédictions ML, sans la charge lourde non différenciée associée à la création de systèmes de vérification humaine ou la gestion d'un grand nombre de vérificateurs humains.

Créez une tâche AutoML pour entraîner automatiquement un modèle dans SageMaker Pipelines.

Les utilisateurs qui ne connaissent pas le machine learning peuvent rapidement construire des modèles de classification et de régression.

Prétraitez les jeux de données, exécutez l'inférence lorsque vous n'avez pas besoin d'un point de terminaison persistant et associez les enregistrements d'entrée à des inférences pour faciliter l'interprétation des résultats.

Améliorez vos modèles de machine learning en détectant le biais potentiel et en expliquant les prédictions réalisées par les modèles.

Un espace partagé se compose d'une JupyterServer application partagée et d'un répertoire partagé. Tous les profils utilisateur d'un SageMaker domaine Amazon ont accès à tous les espaces partagés du domaine.

Importez, analysez, préparez et présentez des données dans SageMaker Studio. Vous pouvez intégrer Data Wrangler à vos flux de machine learning afin de simplifier et rationaliser le prétraitement des données et l'ingénierie des fonctionnalités avec peu ou pas de codage. Vous pouvez également ajouter vos propres scripts et transformations Python afin de personnaliser votre flux de préparation des données.

Interagissez avec vos données, obtenez des visualisations, explorez des informations exploitables et résolvez les problèmes de qualité des données.

Inspecter les paramètres et les données d'entraînement tout au long du processus d'entraînement. Détectez et alertez automatiquement les utilisateurs en cas d'erreurs courantes telles que des valeurs de paramètres qui deviennent trop grandes ou trop petites.

Optimisez les modèles personnalisés pour les appareils en périphérie, créez et gérez des flottes, et exécutez des modèles avec un runtime efficace.

Accélérez le débit et réduisez la latence de l'obtention d'inférences en temps réel.

Gestion et suivi des expériences. Vous pouvez utiliser les données suivies pour reconstruire une expérience, construire progressivement sur des expériences menées par des pairs et suivre la lignée des modèles pour des vérifications de conformité et d'audit.

Une boutique centralisée pour les fonctions et les métadonnées associées, qui facilite la découverte et la réutilisation des fonctions. Vous pouvez créer deux types de boutiques, en ligne ou hors ligne. La boutique en ligne peut être utilisée pour les cas d'utilisation d'inférence en temps réel à faible latence, et la boutique hors ligne peut être utilisée pour les cas d'utilisation d'entraînement et d'inférence par lots.

Entraînement de haute qualité des jeux de données à l'aide de travailleurs et du machine learning dans le but de créer des jeux de données étiquetés.

Une fonction d'étiquetage de données clé en main pour créer des ensembles de données d'entraînement de haute qualité sans avoir à créer des applications d'étiquetage et à gérer vous-même la main-d'œuvre en charge de l'étiquetage.

Obtenez des recommandations sur les types et les configurations d'instances d'inférence (par exemple, le nombre d'instances, les paramètres de conteneur et les optimisations de modèle) pour utiliser vos modèles et charges de travail de ML.

Évaluez toute modification apportée à votre infrastructure de modèle en comparant ses performances à celles de son infrastructure actuellement déployée.

Découvrez les SageMaker fonctionnalités et les capacités grâce à des solutions en un clic sélectionnées, par exemple des blocs-notes et des modèles préentraînés que vous pouvez déployer. Vous pouvez également affiner les modèles et les déployer.

Suivez la lignée des flux de machine learning.

Créez et gérez des pipelines d'apprentissage automatique intégrés directement aux SageMaker tâches.

Documentez les informations relatives à vos modèles de ML en un seul endroit pour une gouvernance et des rapports rationalisés tout au long du cycle de vie du ML.

Un aperçu visuel prédéfini de tous les modèles de votre compte. Model Dashboard intègre les informations de SageMaker Model Monitor, transforme les tâches, les points de terminaison, le suivi du lignage. Vous pouvez CloudWatch ainsi accéder à des informations de haut niveau sur le modèle et suivre les performances du modèle dans une vue unifiée.

Surveillez et analysez les modèles en production (points de terminaison) pour détecter une dérive des données et des écarts dans la qualité des modèles.

Gestion des versions, suivi des artefacts et de la lignée, flux d'approbation et prise en charge inter-compte pour le déploiement de vos modèles de machine learning.

Entraînez une fois des modèles Machine Learning, puis exécutez-les n'importe où dans le cloud et en périphérie.

Exécutez votre bloc-notes SageMaker Studio en tant que tâche planifiée et non interactive.

Analysez et prétraitez les données, embrassez l'ingénierie des fonctionnalités et évaluez les modèles.

Créez des solutions end-to-end ML avec CI/CD à l'aide SageMaker de projets.

Augmentez au maximum la récompense à long terme qu'un agent reçoit en raison de ses actions.

Les administrateurs peuvent définir des autorisations de moindre privilège pour les activités de ML courantes à l'aide de rôles IAM personnalisés et préconfigurés.

Une option de point de terminaison sans serveur pour héberger votre modèle de ML. Met automatiquement à l'échelle la capacité pour servir le trafic de votre point de terminaison. Supprime la nécessité de sélectionner des types d'instances ou de gérer des politiques de mise à l'échelle sur un point de terminaison.

Une extension Git permettant de saisir l'URL d'un référentiel Git, de le cloner dans votre environnement, de publier des modifications et de consulter l'historique des validations.

La prochaine génération de SageMaker blocs-notes qui inclut l'intégration AWS IAM Identity Center (IAM Identity Center), des temps de démarrage rapides et le partage en un seul clic.

Découvrez, connectez-vous, créez, résiliez et gérez facilement des clusters Amazon EMR dans des configurations à compte unique ou multicompte, directement depuis SageMaker Studio.

Entraînez des modèles de deep learning plus rapidement sur des instances de GPU évolutives gérées par SageMaker.