Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Résolution des erreurs associées aux points de terminaison multi-conteneurs

Les sections suivantes peuvent vous aider à résoudre les erreurs associées aux points de terminaison multi-conteneurs.

Erreurs de surveillance de l'état du ping

Avec des conteneurs multiples, la mémoire et l'UC du point de terminaison subissent une pression plus élevée lors de la création des points de terminaison. Plus précisément, les métriques MemoryUtilization et CPUUtilization sont plus élevées que pour les points de terminaison à conteneur unique, car la pression d'utilisation est proportionnelle au nombre de conteneurs. Voilà pourquoi nous vous recommandons de choisir des types d'instance disposant d'une capacité de mémoire et d'UC suffisante pour qu'il y ait suffisamment de mémoire sur l'instance pour que tous les modèles soient chargés (c'est la même chose pour le déploiement d'un pipeline d'inférence). Sinon, la création de votre point de terminaison peut ne pas aboutir, avec une erreur telle que XXX did not pass the ping health check.

Étiquette Docker accept-bind-to-port =true manquante

Les conteneurs présents dans des points de terminaison multi-conteneurs sont à l'écoute sur le port spécifié dans la variable d'environnement SAGEMAKER_BIND_TO_PORT (au lieu du port 8080). Lorsqu'un conteneur s'exécute sur un point de terminaison multi-conteneurs, l' SageMaker IA fournit automatiquement cette variable d'environnement au conteneur. Si cette variable d'environnement n'est pas présente, les conteneurs utilisent par défaut le port 8080. Pour indiquer que votre conteneur répond à cette exigence, utilisez la commande suivante pour ajouter une étiquette à votre fichier Dockerfile :

LABEL com.amazonaws.sagemaker.capabilities.accept-bind-to-port=true

Sinon, un message d'erreur s'affichera, tel que Your Ecr Image XXX does not contain required com.amazonaws.sagemaker.capabilities.accept-bind-to-port=true Docker label(s).

Si votre conteneur doit être à l'écoute sur un second port, choisissez un port dans la plage spécifiée par la variable d'environnement SAGEMAKER_SAFE_PORT_RANGE. Spécifiez la valeur sous forme de plage inclusive au format XXXX -YYYY, où XXXX et YYYY sont des entiers à plusieurs chiffres. SageMaker L'IA fournit cette valeur automatiquement lorsque vous exécutez le conteneur dans un point de terminaison multi-conteneurs.