View a markdown version of this page

Pedoman pembuatan model untuk wadah inferensi - AWS Clean Rooms

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Pedoman pembuatan model untuk wadah inferensi

Bagian ini merinci pedoman yang harus diikuti oleh penyedia model saat membuat algoritma inferensi untuk Clean Rooms ML.

  • Gunakan gambar basis kontainer yang didukung inferensi SageMaker AI yang sesuai, seperti yang dijelaskan dalam Panduan Pengembang SageMaker AI. Kode berikut memungkinkan Anda untuk menarik gambar basis kontainer yang didukung dari titik akhir SageMaker AI publik.

    ecr_registry_endpoint='763104351884.dkr.ecr.$REGION.amazonaws.com'
base_image='pytorch-inference:2.3.0-cpu-py311-ubuntu20.04-sagemaker'
aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ecr_registry_endpoint
docker pull $ecr_registry_endpoint/$base_image

  • Saat membuat model secara lokal, pastikan hal berikut sehingga Anda dapat menguji model secara lokal, pada instance pengembangan, pada SageMaker AI Batch Transform di Akun AWS, dan di Clean Rooms ML.

    • Clean Rooms ML membuat artefak model Anda dari inferensi tersedia untuk digunakan oleh kode inferensi Anda melalui /opt/ml/model direktori di wadah docker.

    • Clean Rooms ML membagi input demi baris, menggunakan strategi MultiRecord batch, dan menambahkan karakter baris baru di akhir setiap catatan yang diubah.

    • Anda mengatur ukuran permintaan maksimum di maxPayloadInMB bawahcontainerExecutionParameters. Jika Anda tidak menentukan nilai, Clean Rooms ML menggunakan 6 MB. Ketika file CSV input lebih besar dari nilai itu, SageMaker AI membagi file menjadi beberapa permintaan ke wadah inferensi Anda. Baris header CSV hanya muncul di permintaan pertama untuk file tersebut, dan permintaan berikutnya dimulai dengan baris data. Konfigurasikan wadah inferensi Anda dengan skema kolom yang telah ditentukan sehingga menerima permintaan dengan atau tanpa baris header. Jika ada baris header, abaikan alih-alih memperlakukannya sebagai catatan data. Untuk informasi selengkap maxPayloadInMB nya, lihat InferenceContainerExecutionParameters Referensi API AWS Clean Rooms ML.

    • Pastikan Anda dapat menghasilkan dataset inferensi sintetis atau pengujian berdasarkan skema kolaborator yang akan digunakan dalam kode model Anda.

    • Pastikan Anda dapat menjalankan tugas transformasi batch SageMaker AI sendiri Akun AWS sebelum mengaitkan algoritma model dengan AWS Clean Rooms kolaborasi.

      Kode berikut berisi contoh file Docker yang kompatibel dengan pengujian lokal, pengujian lingkungan transformasi SageMaker AI, dan Clean Rooms ML

      FROM 763104351884.dkr.ecr.us-east-1.amazonaws.com/pytorch-inference:1.12.1-cpu-py38-ubuntu20.04-sagemaker

ENV PYTHONUNBUFFERED=1

COPY serve.py /opt/ml/code/serve.py
COPY inference_handler.py /opt/ml/code/inference_handler.py
COPY handler_service.py /opt/ml/code/handler_service.py
COPY model.py /opt/ml/code/model.py

RUN chmod +x /opt/ml/code/serve.py

ENTRYPOINT ["/opt/ml/code/serve.py"]

  • Setelah Anda menyelesaikan perubahan model apa pun dan Anda siap untuk mengujinya di lingkungan SageMaker AI, jalankan perintah berikut dalam urutan yang disediakan.

    export ACCOUNT_ID=xxx
export REPO_NAME=xxx
export REPO_TAG=xxx
export REGION=xxx

docker build -t $ACCOUNT_ID.dkr.ecr.us-west-2.amazonaws.com/$REPO_NAME:$REPO_TAG

# Sign into AWS $ACCOUNT_ID/ Run aws configure
# Check the account and make sure it is the correct role/credentials
aws sts get-caller-identity
aws ecr create-repository --repository-name $REPO_NAME --region $REGION
aws ecr describe-repositories --repository-name $REPO_NAME --region $REGION

# Authenticate Docker
aws ecr get-login-password --region $REGION | docker login --username AWS --password-stdin $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com

# Push To ECR Repository
docker push $ACCOUNT_ID.dkr.ecr.$REGION.amazonaws.com$REPO_NAME:$REPO_TAG

# Create Sagemaker Model
# Configure the create_model.json with
# 1. Primary container - 
    # a. ModelDataUrl - S3 Uri of the model.tar from your training job
aws sagemaker create-model --cli-input-json file://create_model.json --region $REGION

# Create Sagemaker Transform Job
# Configure the transform_job.json with
# 1. Model created in the step above 
# 2. MultiRecord batch strategy
# 3. Line SplitType for TransformInput
# 4. AssembleWith Line for TransformOutput
aws sagemaker create-transform-job --cli-input-json file://transform_job.json --region $REGION

    Setelah pekerjaan SageMaker AI selesai dan Anda puas dengan transformasi batch Anda, Anda dapat mendaftarkan Amazon ECR Registry dengan AWS Clean Rooms ML. Gunakan CreateConfiguredModelAlgorithm tindakan untuk mendaftarkan algoritma model dan CreateConfiguredModelAlgorithmAssociation mengaitkannya ke kolaborasi.