Asociación de EI a una instancia con bloc de notas - Amazon SageMaker
Configuración para usar Elastic Inference Uso de EI en modo local en SageMaker

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Asociación de EI a una instancia con bloc de notas

Para probar y evaluar el rendimiento de la inferencia con EI, puede asociar EI a una instancia con bloc de notas al crear o actualizar una instancia con bloc de notas. A continuación, puede usar EI en modo local para alojar un modelo en un punto de conexión alojado en la instancia con bloc de notas. Debe probar diversos tamaños de instancias con bloc de notas y aceleradores de EI para evaluar la configuración que mejor funcione para su caso de uso.

Configuración para usar EI

Para usar EI localmente en una instancia con bloc de notas, cree una instancia con bloc de notas con una instancia de EI.

Para crear una instancia de bloc de notas con una instancia de EI

  1. Abre la SageMaker consola de Amazon en https://console.aws.amazon.com/sagemaker/.

  2. En el panel de navegación, elija Instancias de bloc de notas.

  3. Elija Crear instancia de bloc de notas.

  4. En Nombre de instancia de bloc de notas, proporcione un nombre único para su instancia con bloc de notas.

  5. En Tipo de instancia de bloc de notas, elija una instancia de CPU como ml.t2.medium.

  6. En Elastic Inference (EI), elija una instancia de la lista; por ejemplo, ml.eia2.medium.

  7. Para el rol de IAM, elija un rol de IAM que tenga los permisos necesarios para usar SageMaker la IE.

  8. (Opcional) En VPC: opcional, si desea que la instancia de bloc de notas use una VPC, elija una de la lista disponible. De lo contrario, déjela como Sin VPC. Si usa una VPC, siga las instrucciones en Uso de una VPC personalizada para conectarse a EI.

  9. (Opcional) En Configuración de ciclo de vida: opcional, déjela como Sin configuración o elija una configuración de ciclo de vida. Para obtener más información, consulte Personalice una instancia de SageMaker bloc de notas mediante un script de LCC.

  10. (Opcional) Para la clave de cifrado: opcional, opcional) Si desea utilizar una clave AWS Key Management Service (AWS KMS) SageMaker para cifrar los datos del volumen de almacenamiento de aprendizaje automático adjunto a la instancia del bloc de notas, especifique la clave.

  11. (Opcional) En Tamaño del volumen en GB: opcional, deje el valor predeterminado de 5.

  12. (Opcional) En Etiquetas, agregue etiquetas a la instancia con bloc de notas. Una etiqueta es una etiqueta que asigna para ayudar a administrar sus instancias con bloc de notas. Una etiqueta consta de una clave y un valor, ambos definidos por el usuario.

  13. Elija Crear instancia de bloc de notas.

Después de crear su instancia con bloc de notas con EI asociada, puede crear un cuaderno de Jupyter y configurar un punto de conexión de EI que se aloja localmente en la instancia con bloc de notas.

Utilice EI en modo local en SageMaker

Para utilizar la IE de forma local en un punto final alojado en una instancia de notebook, utilice el modo local con las versiones del SDK de Amazon SageMaker Python de MXNet o de los TensorFlow PyTorch estimadores o modelos. Para obtener más información sobre la compatibilidad con el modo local en el SDK de SageMaker Python, consulte https://github.com/aws/sagemaker-python-sdk#sagemaker-python-sdk-overview.

Utilice EI en modo local con SageMaker TensorFlow estimadores y modelos

Para usar la IE TensorFlow en modo local, especifique local para instance_type y local_sagemaker_notebook para accelerator_type cuando llame al deploy método de un estimador o un objeto modelo. Para obtener más información sobre los TensorFlow estimadores y modelos del SDK de Amazon SageMaker Python, consulte https://sagemaker.readthedocs.io/en/stable/frameworks/tensorflow/index.html.

El código siguiente muestra cómo usar el modo local con un objeto de estimador. Para llamar al método deploy, anteriormente debe haber:

  • Entrenado el modelo llamando al método fit de un estimador.

  • Pasado un artefacto de modelo al inicializar el objeto de modelo.

# Deploys the model to a local endpoint
tf_predictor = tf_model.deploy(initial_instance_count=1,
                               instance_type='local',
                               accelerator_type='local_sagemaker_notebook')

Utilice EI en modo local con los estimadores y modelos MXNet de SageMaker Apache

Para usar EI con MXNet en modo local, especifique local para instance_type y local_sagemaker_notebook para accelerator_type al llamar al método deploy de un estimador o un objeto de modelo. Para obtener más información sobre los estimadores y modelos MXNet del SDK de Amazon SageMaker Python, consulte https://sagemaker.readthedocs.io/en/stable/frameworks/mxnet/index.html.

El código siguiente muestra cómo usar el modo local con un objeto de estimador. Debe haber llamado anteriormente al método fit del estimador para entrenar el modelo.

# Deploys the model to a local endpoint
mxnet_predictor = mxnet_estimator.deploy(initial_instance_count=1,
                                         instance_type='local',
                                         accelerator_type='local_sagemaker_notebook')

Para ver un ejemplo completo del uso de IE en modo local con MXNet, consulte el cuaderno de muestra en https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-python-sdk/mxnet_mnist/mxnet_mnist_elastic_inference_local.html.

Utilice la IE en modo local con SageMaker PyTorch estimadores y modelos

Para usar la IE PyTorch en modo local, cuando llame al deploy método de un estimador o un objeto modelo, especifique local para y para. instance_type local_sagemaker_notebook accelerator_type Para obtener más información sobre los PyTorch estimadores y modelos del SDK de Amazon SageMaker Python, consulte SageMaker PyTorch Estimadores y modelos.

El código siguiente muestra cómo usar el modo local con un objeto de estimador. Debe haber llamado anteriormente al método fit del estimador para entrenar el modelo.

# Deploys the model to a local endpoint
pytorch_predictor = pytorch_estimator.deploy(initial_instance_count=1,
                                             instance_type='local',
                                             accelerator_type='local_sagemaker_notebook')