Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Linee guida per la creazione di modelli per il contenitore di inferenza
Questa sezione descrive in dettaglio le linee guida che i fornitori di modelli devono seguire durante la creazione di un algoritmo di inferenza per Clean Rooms ML.
-
Utilizza l'immagine di base del contenitore appropriata supportata dall'inferenza SageMaker AI, come descritto nella Guida per sviluppatori AISageMaker . Il codice seguente consente di estrarre le immagini di base del contenitore supportate dagli endpoint AI pubblici SageMaker .
ecr_registry_endpoint='
763104351884
.dkr.ecr.$REGION.amazonaws.com' base_image='pytorch-inference:2.3.0-cpu-py311-ubuntu20.04-sagemaker' aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ecr_registry_endpoint docker pull $ecr_registry_endpoint/$base_image -
Quando crei il modello localmente, assicurati quanto segue in modo da poter testare il modello localmente, su un'istanza di sviluppo, su SageMaker AI Batch Transform nel tuo Account AWS e su Clean Rooms ML.
-
Clean Rooms ML rende gli artefatti del modello derivanti dall'inferenza disponibili per l'uso da parte del codice di inferenza tramite la directory
/opt/ml/model
nel contenitore docker. -
Clean Rooms ML divide l'input per riga, utilizza una strategia
MultiRecord
batch e aggiunge un carattere di nuova riga alla fine di ogni record trasformato. -
Assicurati di essere in grado di generare un set di dati di inferenza sintetico o di test basato sullo schema dei collaboratori che verrà utilizzato nel codice del modello.
-
Assicurati di poter eseguire autonomamente un processo di trasformazione in batch basato sull' SageMaker intelligenza artificiale Account AWS prima di associare l'algoritmo del modello a una collaborazione. AWS Clean Rooms
Il codice seguente contiene un file Docker di esempio compatibile con i test locali, i test dell'ambiente di trasformazione SageMaker AI e Clean Rooms ML
FROM
763104351884
.dkr.ecr.us-east-1.amazonaws.com/pytorch-inference:1.12.1-cpu-py38-ubuntu20.04-sagemaker ENV PYTHONUNBUFFERED=1 COPY serve.py /opt/ml/code/serve.py COPY inference_handler.py /opt/ml/code/inference_handler.py COPY handler_service.py /opt/ml/code/handler_service.py COPY model.py /opt/ml/code/model.py RUN chmod +x /opt/ml/code/serve.py ENTRYPOINT ["/opt/ml/code/serve.py"]
-
-
Dopo aver completato le modifiche al modello e essere pronto per testarlo nell'ambiente SageMaker AI, esegui i seguenti comandi nell'ordine fornito.
export ACCOUNT_ID=xxx export REPO_NAME=xxx export REPO_TAG=xxx export REGION=xxx docker build -t $ACCOUNT_ID.dkr.ecr.us-west-2.amazonaws.com/$REPO_NAME:$REPO_TAG # Sign into AWS $ACCOUNT_ID/ Run aws configure # Check the account and make sure it is the correct role/credentials aws sts get-caller-identity aws ecr create-repository --repository-name $REPO_NAME --region $REGION aws ecr describe-repositories --repository-name $REPO_NAME --region $REGION # Authenticate Docker aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com # Push To ECR Repository docker push $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com$REPO_NAME:$REPO_TAG # Create Sagemaker Model # Configure the create_model.json with # 1. Primary container - # a. ModelDataUrl - S3 Uri of the model.tar from your training job aws sagemaker create-model --cli-input-json file://create_model.json --region $REGION # Create Sagemaker Transform Job # Configure the transform_job.json with # 1. Model created in the step above # 2. MultiRecord batch strategy # 3. Line SplitType for TransformInput # 4. AssembleWith Line for TransformOutput aws sagemaker create-transform-job --cli-input-json file://transform_job.json --region $REGION
Dopo aver completato il processo di SageMaker intelligenza artificiale e aver soddisfatto la trasformazione in batch, puoi registrare il registro Amazon ECR con AWS Clean Rooms ML. Usa l'
CreateConfiguredModelAlgorithm
azione per registrare l'algoritmo del modello e poiCreateConfiguredModelAlgorithmAssociation
per associarlo a una collaborazione.