Ein Modell kompilieren (Amazon SageMaker Console)

Sie können einen Amazon SageMaker Neo-Kompilierungsauftrag in der SageMaker Amazon-Konsole erstellen.

Wählen Sie in der SageMakerAmazon-Konsole Compilation Jobs und dann Create Compilation Job aus.
Geben Sie auf der Seite Create compilation job unter Job name einen Namen ein. Wählen Sie dann eine IAMRolle aus.
Wenn Sie noch keine IAM Rolle haben, wählen Sie Neue Rolle erstellen.
Wählen Sie auf der Seite „IAMRolle erstellen“ die Option Beliebiger S3-Bucket und anschließend Rolle erstellen aus.
Non PyTorch Frameworks

Geben Sie im Abschnitt Eingabekonfiguration den vollständigen Pfad des Amazon S3 S3-BucketsURI, der Ihre Modellartefakte enthält, in das Eingabefeld Speicherort der Modellartefakte ein. Ihre Modellartefakte müssen in einem komprimierten Tarball-Dateiformat (.tar.gz) vorliegen.

Geben Sie für das Feld Konfiguration der Dateneingabe die JSON Zeichenfolge ein, die die Form der Eingabedaten angibt.

Unter Machine Learning Framework wählen Sie das Framework aus.

Beispiele für JSON Zeichenketten von Eingabedatenformen je nach Framework finden Sie unter Welche Eingabedatenformen Neo erwartet.

PyTorch Framework
Ähnliche Anweisungen gelten für das Kompilieren von PyTorch Modellen. Wenn Sie jedoch mit Target trainiert haben PyTorch und versuchen, das Modell für ml_* (außerml_inf) Target zu kompilieren, können Sie optional die Version angeben, die PyTorch Sie verwendet haben.

Die JSON Zeichenkettenbeispiele für Eingabedatenformen, die von den Frameworks abhängen, finden Sie unter Welche Eingabedatenformen, die Neo erwartet.
Hinweise

Wenn Sie Ihr Modell mit PyTorch Version 2.0 oder höher gespeichert haben, ist das Konfigurationsfeld für die Dateneingabe optional. SageMaker Neo ruft die Eingabekonfiguration aus der Modelldefinitionsdatei ab, mit der Sie sie erstellen PyTorch. Weitere Informationen zum Erstellen der Definitionsdatei finden Sie im PyTorch Abschnitt Modelle für SageMaker Neo speichern.

Verwenden Sie beim Kompilieren für ml_* Instanzen mithilfe PyTorch des Frameworks das Feld Compiler-Optionen in der Ausgabekonfiguration, um den richtigen Datentyp (dtype) der Modelleingabe anzugeben. Der Standard ist auf "float32" gesetzt.
Warnung
Wenn Sie einen Amazon S3 URI S3-Bucket-Pfad angeben, der zu einer .pth Datei führt, erhalten Sie nach dem Start der Kompilierung die folgende Fehlermeldung: ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
Gehen Sie zum Abschnitt Ausgabekonfiguration. Wählen Sie aus, wo Sie Ihr Modell bereitstellen möchten. Sie können Ihr Modell auf einem Target-device oder einer Target platform bereitstellen. Zu den Zielgeräten gehören Cloud- und Edge-Geräte. Zielplattformen beziehen sich auf bestimmte Betriebssysteme, Architekturen und Beschleuniger, auf denen Ihr Modell ausgeführt werden soll.

Geben Sie für S3 Output location den Pfad zum S3 bucket, in dem das kompilierte Modell gespeichert werden soll. Sie können optional Compiler-Optionen im JSON Format im Abschnitt Compiler-Optionen hinzufügen.
Überprüfen Sie den Status des Kompilierungsauftrags, wenn er gestartet wurde. Dieser Status des Job befindet sich oben auf der Seite mit dem Compilation Job, wie im folgenden Screenshot gezeigt. Sie können den Status auch in der Status Spalte überprüfen.
Überprüfen Sie den Status des Kompilierungsauftrags, wenn er abgeschlossen wurde. Sie können den Status in der Status Spalte überprüfen, wie im folgenden Bildschirmfoto gezeigt.