Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Problembehandlung bei Endpunkten mit mehreren Containern
Die folgenden Abschnitte können zum Beheben von Fehlern bei Endpunkten mit mehreren Containern helfen.
Fehler bei der Ping-Integritätsprüfung
Bei mehreren Containern CPU stehen der Endpunkt-Speicher und die Endgeräte bei der Endpunkterstellung unter erhöhtem Druck. Insbesondere die Metriken MemoryUtilization
und CPUUtilization
sind höher als bei Einzelcontainer-Endpunkten, da der Nutzungsdruck proportional zur Anzahl der Container ist. Aus diesem Grund empfehlen wir, Instance-Typen mit ausreichend Arbeitsspeicher CPU zu wählen und sicherzustellen, dass auf der Instance genügend Speicher vorhanden ist, damit alle Modelle geladen werden können (die gleichen Richtlinien gelten für die Bereitstellung einer Inferenzpipeline). Andernfalls schlägt Ihre Endpunkterstellung möglicherweise fehl und es wird ein Fehler wie XXX did not pass the
ping health check
angezeigt.
Das accept-bind-to-port Docker-Label =true fehlt
Die Container in einem Multi-Container-Endpunkt lauschen auf dem in der SAGEMAKER_BIND_TO_PORT
Umgebungsvariablen angegebenen Port anstelle von Port 8080. Wenn ein Container auf einem Endpunkt mit mehreren Containern ausgeführt SageMaker wird, stellt er dem Container automatisch diese Umgebungsvariable zur Verfügung. Wenn diese Umgebungsvariable nicht vorhanden ist, verwenden Container standardmäßig Port 8080. Verwenden Sie den folgenden Befehl zum Hinzufügen einer Kennzeichnung zu Ihrem Dockerfile, um anzuzeigen, dass Ihr Container diese Anforderung erfüllt.
LABEL com.amazonaws.sagemaker.capabilities.accept-bind-to-port=true
Andernfalls erhalten Sie eine Fehlermeldung wie Your Ecr Image XXX does
not contain required
com.amazonaws.sagemaker.capabilities.accept-bind-to-port=true Docker
label(s).
Wenn Ihr Container einen zweiten Port überwachen muss, wählen Sie einen Port im von der Umgebungsvariable SAGEMAKER_SAFE_PORT_RANGE
angegebenen Bereich. Geben Sie den Wert als inklusiven Bereich im Format an XXXX
-YYYY
, wobei XXXX und mehrstellige Ganzzahlen YYYY sind. SageMaker stellt diesen Wert automatisch bereit, wenn Sie den Container auf einem Endpunkt mit mehreren Containern ausführen.