Blogs et études de cas Exemples de blocs-notes Ressources supplémentaires

Blogs, exemples de blocs-notes et ressources supplémentaires

Les sections suivantes contiennent des exemples et des ressources supplémentaires qui vous permettront d'en savoir plus sur Amazon SageMaker AI.

Blogs et études de cas

Consultez le tableau suivant pour obtenir des listes de blogs et d'études de cas sur les différentes fonctionnalités d' SageMaker AI Inference. Vous pouvez utiliser les blogs pour vous aider à élaborer des solutions qui fonctionnent pour votre cas d'utilisation.

Fonctionnalité	Ressources
Inférence en temps réel	Commencer à déployer des modèles en temps réel sur Amazon SageMaker AI Déployez BLOOM-176B et OPT-30B sur Amazon SageMaker AI avec des Deep Learning Containers à inférence de grands modèles et DeepSpeed Création d'une API REST basée sur le machine learning avec les modèles de mappage Amazon API Gateway et Amazon AI SageMaker
Autoscaling	Configuration des points de terminaison d'inférence à dimensionnement automatique dans Amazon AI SageMaker
Serverless Inference	Amazon SageMaker Serverless Inference — Inférence basée sur le Machine Learning sans vous soucier des serveurs Modèles de transformateurs Host Hugging Face à l'aide d' SageMaker Amazon Serverless Inference Présentation de la boîte à outils d' SageMaker analyse comparative d'inférence sans serveur Amazon
Inférence asynchrone	Exécutez une inférence de vision par ordinateur sur de grandes vidéos avec les points de terminaison asynchrones Amazon SageMaker AI Créez une solution de maintenance prédictive avec Amazon Kinesis et AWS Glue Amazon AI SageMaker Améliorez les recherches à forte valeur ajoutée avec les points de terminaison Hugging Face et Amazon Asynchronous Inference SageMaker
Transformation par lots	Associer les résultats de prédiction aux données d'entrée à l'aide d'Amazon SageMaker AI Batch Transform
Points de terminaison multimodèles	Réalisez des économies sur les coûts d'inférence en utilisant les points de terminaison SageMaker multimodèles Amazon AI Exécutez plusieurs modèles de deep learning sur GPU avec les points de terminaison multimodèles Amazon SageMaker AI How to scale machine learning inference for multi-tenant SaaS use cases (Comment mettre à l'échelle l'inférence de machine learning pour les cas d'utilisation SaaS à locataires multiples) Exécutez et optimisez l'inférence multimodèle avec les points de terminaison multimodèles Amazon SageMaker AI
Pipelines d'inférence en série	Modèles de conception pour l'inférence en série sur Amazon AI SageMaker
Points de terminaison multi-conteneurs	Inférence ML rentable avec des modèles multi-frameworks sur Amazon AI SageMaker
Exécution d'ensembles de modèles	Exécutez des modèles d'ensemble ML sur Amazon SageMaker AI
Inference Recommender	SageMaker Exemple de bloc-notes Inference Recommender SageMaker Exemple de bloc-notes de recommandation d'inférence pour l'analyse des sentiments HuggingFace BERT Obtenez des performances à très grande échelle pour le service de modèles à l'aide du serveur d'inférence NVIDIA Triton sur Amazon AI SageMaker
Série de blogs sur l'hébergement de modèles avancés	Partie 1 : Modèles de conception courants pour créer une application ML sur Amazon SageMaker AI Partie 2 : Commencer à déployer des modèles en temps réel sur l' SageMaker IA Partie 3 : Exécuter et optimiser l'inférence multimodèle avec les points de terminaison multimodèles Amazon SageMaker AI Partie 4 : Modèles de conception pour l'inférence en série sur Amazon AI SageMaker Partie 5 : Inférence ML rentable avec des modèles multi-frameworks sur Amazon AI SageMaker Partie 6 : Bonnes pratiques en matière de test et de mise à jour de modèles sur l' SageMaker IA Partie 7 : Exécuter des modèles d'ensemble ML sur Amazon SageMaker AI

Exemples de blocs-notes

Consultez le tableau suivant pour découvrir des exemples de blocs-notes qui peuvent vous aider à en savoir plus sur SageMaker AI Inference.

Fonctionnalité	Exemples de blocs-notes
Inference Recommender	SageMaker Exemple de bloc-notes Inference Recommender SageMaker Exemple de bloc-notes de recommandation d'inférence pour l'analyse des sentiments HuggingFace BERT
Optimisation de grands modèles linguistiques (LLMs) pour l' SageMaker IA	LLMs Atelier sur l'IA générative

Ressources supplémentaires

Pour plus d'informations sur chaque option d' SageMaker IA Inference en détail, vous pouvez regarder la vidéo suivante.

Avertissement JavaScript est désactivé ou n'est pas disponible dans votre navigateur.

Pour que vous puissiez utiliser la documentation AWS, Javascript doit être activé. Vous trouverez des instructions sur les pages d'aide de votre navigateur.

Conventions de rédaction

Ressources

Résolution des problèmes et référence