Problembehandlung bei Endpunkten mit mehreren Containern - Amazon SageMaker

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Problembehandlung bei Endpunkten mit mehreren Containern

Die folgenden Abschnitte können zum Beheben von Fehlern bei Endpunkten mit mehreren Containern helfen.

Fehler bei der Ping-Integritätsprüfung

Bei mehreren Containern CPU stehen der Endpunkt-Speicher und die Endgeräte bei der Endpunkterstellung unter erhöhtem Druck. Insbesondere die Metriken MemoryUtilization und CPUUtilization sind höher als bei Einzelcontainer-Endpunkten, da der Nutzungsdruck proportional zur Anzahl der Container ist. Aus diesem Grund empfehlen wir, Instance-Typen mit ausreichend Arbeitsspeicher CPU zu wählen und sicherzustellen, dass auf der Instance genügend Speicher vorhanden ist, damit alle Modelle geladen werden können (die gleichen Richtlinien gelten für die Bereitstellung einer Inferenzpipeline). Andernfalls schlägt Ihre Endpunkterstellung möglicherweise fehl und es wird ein Fehler wie XXX did not pass the ping health check angezeigt.

Das accept-bind-to-port Docker-Label =true fehlt

Die Container in einem Multi-Container-Endpunkt lauschen auf dem in der SAGEMAKER_BIND_TO_PORT Umgebungsvariablen angegebenen Port anstelle von Port 8080. Wenn ein Container auf einem Endpunkt mit mehreren Containern ausgeführt SageMaker wird, stellt er dem Container automatisch diese Umgebungsvariable zur Verfügung. Wenn diese Umgebungsvariable nicht vorhanden ist, verwenden Container standardmäßig Port 8080. Verwenden Sie den folgenden Befehl zum Hinzufügen einer Kennzeichnung zu Ihrem Dockerfile, um anzuzeigen, dass Ihr Container diese Anforderung erfüllt.

LABEL com.amazonaws.sagemaker.capabilities.accept-bind-to-port=true

Andernfalls erhalten Sie eine Fehlermeldung wie Your Ecr Image XXX does not contain required com.amazonaws.sagemaker.capabilities.accept-bind-to-port=true Docker label(s).

Wenn Ihr Container einen zweiten Port überwachen muss, wählen Sie einen Port im von der Umgebungsvariable SAGEMAKER_SAFE_PORT_RANGE angegebenen Bereich. Geben Sie den Wert als inklusiven Bereich im Format an XXXX-YYYY, wobei XXXX und mehrstellige Ganzzahlen YYYY sind. SageMaker stellt diesen Wert automatisch bereit, wenn Sie den Container auf einem Endpunkt mit mehreren Containern ausführen.