Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Beschleunigen Sie den Container-Start mit SOCI
Die SOCI-Indizierung (Seekable Open Container Initiative) ermöglicht das verzögerte Laden von benutzerdefinierten Container-Images in Amazon Studio SageMaker oder Amazon SageMaker Unified Studio. SOCI reduziert die Startzeiten für Ihre benutzerdefinierten Container erheblich um etwa 30-70%. Bring Your Own Image (BYOI) Die Verbesserung der Latenz hängt von der Größe des Images, der Verfügbarkeit der Hosting-Instance und anderen Anwendungsabhängigkeiten ab. SOCI erstellt einen Index, der es Containern ermöglicht, nur mit den erforderlichen Komponenten zu starten und bei Bedarf zusätzliche Dateien abzurufen.
SOCI behebt langsame Container-Startzeiten, die die iterativen Entwicklungsworkflows für maschinelles Lernen (ML) für benutzerdefinierte Images unterbrechen. Da ML-Workloads immer komplexer werden, sind die Container-Images größer geworden, was zu Startverzögerungen führt, die die Entwicklungszyklen behindern.
Themen
Wichtigste Vorteile
-
Schnellere Iterationszyklen: Reduzieren Sie den Start von Containern, je nach Image- und Instanztyp
-
Universelle Optimierung: Erweitern Sie die Leistungsvorteile auf alle benutzerdefinierten BYOI-Container in Studio
Wie funktioniert die SOCI-Indizierung
SOCI erstellt einen speziellen Metadatenindex, der die interne Dateistruktur Ihres Container-Images abbildet. Dieser Index ermöglicht den Zugriff auf einzelne Dateien, ohne das gesamte Bild herunterladen zu müssen. Der SOCI-Index wird als OCI-konformes Artefakt (Open Container Initiative) in Amazon ECR gespeichert und mit Ihrem ursprünglichen Container-Image verknüpft, sodass Bildübersichten und Signaturgültigkeit erhalten bleiben.
Wenn Sie einen Container in Studio starten, verwendet das System den SOCI-Index, um nur wichtige Dateien zu identifizieren und herunterzuladen, die für den Start benötigt werden. Zusätzliche Komponenten werden parallel abgerufen, wenn Ihre Anwendung sie benötigt.
Architekturkomponenten
-
Ursprüngliches Container-Image: Ihr in Amazon ECR gespeicherter Basiscontainer
-
SOCI-Index-Artefakt: Metadaten, die die Dateistruktur Ihres Bildes abbilden
-
OCI-Bildindex-Manifest: Verknüpft Ihr Originalbild und Ihren SOCI-Index
-
Finch Container Runtime: Ermöglicht die Lazy-Loading-Integration mit Studio
Unterstützte Tools
| Tool | Integration |
|---|---|
| nerdctl | Erfordert ein Container-Setup |
| Finch CLI | Native SOCI-Unterstützung |
| Docker + SOCI CLI | Zusätzliche Werkzeuge erforderlich |
Themen
