Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Déploiement de modèles de fondation et de modèles personnalisés et peaufinés
Que vous déployiez des poids libres de base préentraînés ou des modèles sécurisés d'Amazon SageMaker JumpStart ou vos propres modèles personnalisés ou affinés stockés dans Amazon S3 ou Amazon FSx, vous SageMaker HyperPod bénéficiez de l'infrastructure flexible et évolutive dont vous avez besoin pour les charges de travail d'inférence de production.
| Déployez des modèles à poids ouverts et à fondations fermées à partir de JumpStart | Déploiement de modèles personnalisés et peaufinés depuis Amazon S3 et Amazon FSx | Déployez des modèles à partir d'un stockage NVMe local | |
|---|---|---|---|
| Description |
Déployez à partir d’un catalogue complet de modèles de fondation pré-entraînés avec des politiques d’optimisation et de mise à l’échelle automatiques adaptées à chaque famille de modèles. |
Apportez vos propres modèles personnalisés et affinés et utilisez l'infrastructure d'entreprise pour SageMaker HyperPod l'inférence à l'échelle de la production. Choisissez entre un stockage rentable avec Amazon S3 ou un système de fichiers hautes performances avec Amazon FSx. | Chargez les poids des modèles à partir du stockage NVMe local d'un nœud afin d'éliminer la latence du réseau lors du démarrage du pod. Utile pour les événements de dimensionnement automatique, les charges de travail à partir de zéro et les basculements sensibles à la latence. |
| Principaux avantages |
|
|
|
| Options de déploiement |
|
|
|
Les sections suivantes vous expliquent comment déployer des modèles depuis Amazon SageMaker JumpStart, depuis Amazon S3 et Amazon FSx, et depuis le stockage NVMe local.
Rubriques
