Opcional: Configuración del dispositivo para la cualificación ML

SSH en su dispositivo.

Ejecute los siguientes scripts para comprobar que las dependencias están instaladas correctamente.

sudo python3.7 -c "import mxnet; print(mxnet.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

El resultado imprime el número de versión y el script debe salir sin errores.

Asegúrese de que device.json esté configurado para la cualificación de ML. Para obtener más información, consulte Configurar device.json para cualificación de ML.

Ejecute la prueba de dependencias para el marco.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id mxnet_dependency_check

El resumen de la prueba muestra un resultado PASSED para mldependencies.

SSH en su dispositivo.

Ejecute el siguiente script para comprobar que la dependencia está instalada correctamente.

sudo python3.7 -c "import tensorflow; print(tensorflow.__version__)"

El resultado imprime el número de versión y el script debe salir sin errores.

Asegúrese de que device.json esté configurado para la cualificación de ML. Para obtener más información, consulte Configurar device.json para cualificación de ML.

Ejecute la prueba de dependencias para el marco.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id tensorflow_dependency_check

El resumen de la prueba muestra un resultado PASSED para mldependencies.

SSH en su dispositivo.

Ejecute los siguientes scripts para comprobar que las dependencias están instaladas correctamente.

sudo python3.7 -c "import dlr; print(dlr.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

El resultado imprime el número de versión y el script debe salir sin errores.

Asegúrese de que device.json esté configurado para la cualificación de ML. Para obtener más información, consulte Configurar device.json para cualificación de ML.

Ejecute la prueba de dependencias para el marco.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id dlr_dependency_check

El resumen de la prueba muestra un resultado PASSED para mldependencies.

Compruebe que su tipo de dispositivo sea compatible con la SageMaker IA. Para obtener más información, consulta las opciones del dispositivo de destino en la referencia de la API de Amazon SageMaker AI. Si tu tipo de dispositivo no es compatible actualmente con la SageMaker IA, sigue los pasos que se indicanOpción 2: Utilice TVM para compilar el modelo DLR.

Descargue el archivo tarball que contiene el modelo de DLR sin compilar y previamente entrenado MXNet :

Descomprima el tarball. Este comando genera la siguiente estructura de directorios.

Saque synset.txt del directorio resnet18. Anote la nueva ubicación. Copie este archivo en el directorio del modelo compilado más adelante.

Comprima el contenido del directorio resnet18.

tar cvfz model.tar.gz resnet18v1-symbol.json resnet18v1-0000.params

Suba el archivo comprimido a un bucket de Amazon S3 de su cuenta y Cuenta de AWS, a continuación, siga los pasos de Compilar un modelo (consola) para crear un trabajo de compilación.

1. En Configuración de entrada, utilice los siguientes valores:

   • En Configuración de entrada de datos, escriba {"data": [1, 3, 224, 224]}.

   • En Marco de machine learning, elija MXNet.

2. En Configuración de salida, utilice los siguientes valores:

   • En Ubicación de salida de S3, escriba la ruta de acceso al bucket de Amazon S3 o carpeta donde desea almacenar el modelo compilado.

   • En Dispositivo de destino, elija el tipo de dispositivo.

Descargue el modelo compilado desde la ubicación de salida especificada y, a continuación, descomprima el archivo.

Copie synset.txt en el directorio del modelo compilado.

Cambie el nombre del directorio del modelo compilado a resnet18.

El directorio del modelo compilado debe tener la siguiente estructura de directorios.

Descargue el archivo tarball que contiene el MXNet modelo de DLR sin compilar y previamente entrenado:

Descomprima el tarball. Este comando genera la siguiente estructura de directorios.

Siga las instrucciones de la documentación de TVM para compilar e instalar TVM desde el origen para su plataforma.

Una vez compilado TVM, ejecute la compilación TVM para el modelo resnet18. Los siguientes pasos se basan en la explicación de inicio rápido para compilar modelos de aprendizaje profundo en la documentación de TVM.

1. Abra el archivo relay_quick_start.py desde el repositorio de TVM clonado.

2. Actualice el código que define una red neuronal en relé. Puede utilizar una de las siguientes opciones:

   • Opción 1: Utilice mxnet.gluon.model_zoo.vision.get_model para obtener el módulo de relé y los parámetros:

     from mxnet.gluon.model_zoo.vision import get_model
     block = get_model('resnet18_v1', pretrained=True)
     mod, params = relay.frontend.from_mxnet(block, {"data": data_shape})

   • Opción 2: Desde el modelo no compilado que descargó en el paso 1, copie los siguientes archivos en el mismo directorio que el archivo relay_quick_start.py. Estos archivos contienen el módulo de relé y los parámetros.

     • resnet18v1-symbol.json

     • resnet18v1-0000.params

3. Actualice el código que guarda y carga el módulo compilado para utilizar el siguiente código.

   from tvm.contrib import util
   path_lib = "deploy_lib.so"
   #  Export the model library based on your device architecture
   lib.export_library("deploy_lib.so", cc="aarch64-linux-gnu-g++")
   with open("deploy_graph.json", "w") as fo:
       fo.write(graph)
   with open("deploy_param.params", "wb") as fo:
       fo.write(relay.save_param_dict(params))

4. Compile el modelo:

   python3 tutorials/relay_quick_start.py --build-dir ./model

   Este comando genera los archivos siguientes.

   • deploy_graph.json

   • deploy_lib.so

   • deploy_param.params

Copie los archivos de modelo generados en un directorio denominado resnet18. Este es su directorio de modelo compilado.

Copie el directorio del modelo compilado en el equipo host. A continuación, copie synset.txt del modelo sin compilar que descargó en el paso 1 en el directorio del modelo compilado.

El directorio del modelo compilado debe tener la siguiente estructura de directorios.