Compilar un modelo (Consola de Amazon SageMaker)

Puede crear un trabajo de compilación de Amazon SageMaker Neo en la consola de Amazon SageMaker.

En la consola de Amazon SageMaker, seleccione Trabajos de compilación y, a continuación, seleccione Crear trabajo de compilación.
En la página Crear trabajo de compilación, en Nombre de trabajo, escriba un nombre. Después seleccione un rol de IAM.
Si no tiene un rol de IAM, elija Crear nuevo rol.
En la página Crear un rol de IAM, elija Cualquier bucket de S3 y elija Crear rol.
Non PyTorch Frameworks

En la sección de Configuración de entrada, escriba la ruta del URI del bucket de Amazon S3 que contiene los artefactos del modelo en el campo Ubicación de artefactos del modelo. Los artefactos del modelo deben estar en un formato de archivo tar comprimido (.tar.gz).

En el campo de Configuración de entrada de datos, introduzca la cadena JSON que especifica la forma de los datos de entrada.

Para Marco de machine learning, elija el marco que prefiera.

Para ver ejemplos de cadenas JSON de datos de entrada que dependen de marcos, consulte Qué formas de datos de entrada espera Neo.

PyTorch Framework
Se aplican instrucciones similares para compilar modelos de PyTorch. Sin embargo, si entrenó con PyTorch y está intentando compilar el modelo para el objetivo ml_* para (excepto ml_inf), puede especificar opcionalmente la versión de PyTorch que haya utilizado.

Para ver ejemplos de cadenas JSON de datos de entrada que dependen de marcos, consulte Qué formas de datos de entrada espera Neo.
Notas

Si guardó el modelo con PyTorch versión 2.0 o posterior, el Campo de configuración de datos de entrada es opcional. Sagemaker Neo obtiene la configuración de entrada del archivo de definición del modelo (.pt o .pth) que cree con PyTorch. Para obtener más información sobre cómo crear el archivo de definición, consulte la sección PyTorch en Guardar modelos para SageMaker Neo.

Al compilar instancias ml_* con el marco PyTorch, use el campo de Opciones del compilador en Configuración de salida para proporcionar el tipo de datos correcto (dtype) de la entrada del modelo. El valor predeterminado se establece en "float32".
aviso
Si especifica una ruta del URI del bucket de Amazon S3 que lleva al archivo .pth, aparecerá el siguiente error después de iniciar la compilación: ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
Vaya a la sección de Configuración de salida. Elija dónde desea implementar su modelo. Puede implementar su modelo en un Dispositivo de destino o en una Plataforma de destino. Los dispositivos de destino incluyen dispositivos periféricos y en la nube. Las plataformas de destino hacen referencia a sistemas operativos, arquitectura y aceleradores específicos en los que desea que se ejecute su modelo.

En Ubicación de salida de S3, escriba la ruta o al bucket de S3 o donde desee almacenar el modelo. Si lo desea, puede añadir opciones del compilador en formato JSON en la sección Opciones del compilador.
Compruebe el estado del trabajo de compilación cuando se inicie. Este estado del trabajo se encuentra en la parte superior de la página del Trabajo de compilación, como se muestra en la siguiente captura de pantalla. También puede comprobar su estado en la columna Estado.
Compruebe el estado del trabajo de compilación cuando se haya completado. Puede comprobar el estado en la columna Estado, como se muestra en la siguiente captura de pantalla.