Linee guida per la creazione di modelli per il contenitore di inferenza - AWS Clean Rooms

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Linee guida per la creazione di modelli per il contenitore di inferenza

Questa sezione descrive in dettaglio le linee guida che i fornitori di modelli devono seguire durante la creazione di un algoritmo di inferenza per Clean Rooms ML.

  • Utilizza l'immagine di base del contenitore appropriata supportata dall'inferenza SageMaker AI, come descritto nella Guida per sviluppatori AISageMaker . Il codice seguente consente di estrarre le immagini di base del contenitore supportate dagli endpoint AI pubblici SageMaker .

    ecr_registry_endpoint='763104351884.dkr.ecr.$REGION.amazonaws.com'
base_image='pytorch-inference:2.3.0-cpu-py311-ubuntu20.04-sagemaker'
aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ecr_registry_endpoint
docker pull $ecr_registry_endpoint/$base_image

  • Quando crei il modello localmente, assicurati quanto segue in modo da poter testare il modello localmente, su un'istanza di sviluppo, su SageMaker AI Batch Transform nel tuo Account AWS e su Clean Rooms ML.

    • Clean Rooms ML rende gli artefatti del modello derivanti dall'inferenza disponibili per l'uso da parte del codice di inferenza tramite la directory /opt/ml/model nel contenitore docker.

    • Clean Rooms ML divide l'input per riga, utilizza una strategia MultiRecord batch e aggiunge un carattere di nuova riga alla fine di ogni record trasformato.

    • Assicurati di essere in grado di generare un set di dati di inferenza sintetico o di test basato sullo schema dei collaboratori che verrà utilizzato nel codice del modello.

    • Assicurati di poter eseguire autonomamente un processo di trasformazione in batch basato sull' SageMaker intelligenza artificiale Account AWS prima di associare l'algoritmo del modello a una collaborazione. AWS Clean Rooms

      Il codice seguente contiene un file Docker di esempio compatibile con i test locali, i test dell'ambiente di trasformazione SageMaker AI e Clean Rooms ML

      FROM 763104351884.dkr.ecr.us-east-1.amazonaws.com/pytorch-inference:1.12.1-cpu-py38-ubuntu20.04-sagemaker

ENV PYTHONUNBUFFERED=1

COPY serve.py /opt/ml/code/serve.py
COPY inference_handler.py /opt/ml/code/inference_handler.py
COPY handler_service.py /opt/ml/code/handler_service.py
COPY model.py /opt/ml/code/model.py

RUN chmod +x /opt/ml/code/serve.py

ENTRYPOINT ["/opt/ml/code/serve.py"]

  • Dopo aver completato le modifiche al modello e essere pronto per testarlo nell'ambiente SageMaker AI, esegui i seguenti comandi nell'ordine fornito.

    export ACCOUNT_ID=xxx
export REPO_NAME=xxx
export REPO_TAG=xxx
export REGION=xxx

docker build -t $ACCOUNT_ID.dkr.ecr.us-west-2.amazonaws.com/$REPO_NAME:$REPO_TAG

# Sign into AWS $ACCOUNT_ID/ Run aws configure
# Check the account and make sure it is the correct role/credentials
aws sts get-caller-identity
aws ecr create-repository --repository-name $REPO_NAME --region $REGION
aws ecr describe-repositories --repository-name $REPO_NAME --region $REGION

# Authenticate Docker
aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com

# Push To ECR Repository
docker push $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com$REPO_NAME:$REPO_TAG

# Create Sagemaker Model
# Configure the create_model.json with
# 1. Primary container - 
    # a. ModelDataUrl - S3 Uri of the model.tar from your training job
aws sagemaker create-model --cli-input-json file://create_model.json --region $REGION

# Create Sagemaker Transform Job
# Configure the transform_job.json with
# 1. Model created in the step above 
# 2. MultiRecord batch strategy
# 3. Line SplitType for TransformInput
# 4. AssembleWith Line for TransformOutput
aws sagemaker create-transform-job --cli-input-json file://transform_job.json --region $REGION

    Dopo aver completato il processo di SageMaker intelligenza artificiale e aver soddisfatto la trasformazione in batch, puoi registrare il registro Amazon ECR con AWS Clean Rooms ML. Usa l'CreateConfiguredModelAlgorithmazione per registrare l'algoritmo del modello e poi CreateConfiguredModelAlgorithmAssociation per associarlo a una collaborazione.