Directives de création de modèles pour le conteneur d'inférence - AWS Clean Rooms

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Directives de création de modèles pour le conteneur d'inférence

Cette section détaille les directives que les fournisseurs de modèles doivent suivre lors de la création d'un algorithme d'inférence pour Clean Rooms ML.

  • Utilisez l'image de base de conteneur appropriée prise en charge par l'inférence par SageMaker IA, comme décrit dans le Guide du développeur d'SageMaker IA. Le code suivant vous permet d'extraire les images de base de conteneurs prises en charge à partir de points de terminaison d' SageMaker IA publics.

    ecr_registry_endpoint='763104351884.dkr.ecr.$REGION.amazonaws.com'
base_image='pytorch-inference:2.3.0-cpu-py311-ubuntu20.04-sagemaker'
aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ecr_registry_endpoint
docker pull $ecr_registry_endpoint/$base_image

  • Lorsque vous créez le modèle localement, assurez-vous de ce qui suit afin de pouvoir le tester localement, sur une instance de développement, sur SageMaker AI Batch Transform dans votre entreprise Compte AWS et sur Clean Rooms ML.

    • Clean Rooms ML met les artefacts de votre modèle issus de l'inférence à la disposition de votre code d'inférence via le /opt/ml/model répertoire du conteneur docker.

    • Clean Rooms ML divise les entrées par ligne, utilise une stratégie par MultiRecord lots et ajoute un caractère de nouvelle ligne à la fin de chaque enregistrement transformé.

    • Assurez-vous de pouvoir générer un jeu de données synthétique ou d'inférence de test basé sur le schéma des collaborateurs qui sera utilisé dans le code de votre modèle.

    • Assurez-vous de pouvoir exécuter vous-même une tâche de transformation par lots basée sur l' SageMaker IA Compte AWS avant d'associer l'algorithme du modèle à une AWS Clean Rooms collaboration.

      Le code suivant contient un exemple de fichier Docker compatible avec les tests locaux, les tests d'environnement SageMaker AI Transform et Clean Rooms ML

      FROM 763104351884.dkr.ecr.us-east-1.amazonaws.com/pytorch-inference:1.12.1-cpu-py38-ubuntu20.04-sagemaker

ENV PYTHONUNBUFFERED=1

COPY serve.py /opt/ml/code/serve.py
COPY inference_handler.py /opt/ml/code/inference_handler.py
COPY handler_service.py /opt/ml/code/handler_service.py
COPY model.py /opt/ml/code/model.py

RUN chmod +x /opt/ml/code/serve.py

ENTRYPOINT ["/opt/ml/code/serve.py"]

  • Une fois que vous avez effectué les modifications du modèle et que vous êtes prêt à le tester dans l'environnement d' SageMaker IA, exécutez les commandes suivantes dans l'ordre indiqué.

    export ACCOUNT_ID=xxx
export REPO_NAME=xxx
export REPO_TAG=xxx
export REGION=xxx

docker build -t $ACCOUNT_ID.dkr.ecr.us-west-2.amazonaws.com/$REPO_NAME:$REPO_TAG

# Sign into AWS $ACCOUNT_ID/ Run aws configure
# Check the account and make sure it is the correct role/credentials
aws sts get-caller-identity
aws ecr create-repository --repository-name $REPO_NAME --region $REGION
aws ecr describe-repositories --repository-name $REPO_NAME --region $REGION

# Authenticate Docker
aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com

# Push To ECR Repository
docker push $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com$REPO_NAME:$REPO_TAG

# Create Sagemaker Model
# Configure the create_model.json with
# 1. Primary container - 
    # a. ModelDataUrl - S3 Uri of the model.tar from your training job
aws sagemaker create-model --cli-input-json file://create_model.json --region $REGION

# Create Sagemaker Transform Job
# Configure the transform_job.json with
# 1. Model created in the step above 
# 2. MultiRecord batch strategy
# 3. Line SplitType for TransformInput
# 4. AssembleWith Line for TransformOutput
aws sagemaker create-transform-job --cli-input-json file://transform_job.json --region $REGION

    Une fois que le travail d' SageMaker intelligence artificielle est terminé et que vous êtes satisfait de votre transformation par lots, vous pouvez enregistrer le ECR registre Amazon auprès de AWS Clean Rooms ML. Utilisez cette CreateConfiguredModelAlgorithm action pour enregistrer l'algorithme du modèle et CreateConfiguredModelAlgorithmAssociation pour l'associer à une collaboration.