Jalankan Pekerjaan TensorFlow Pelatihan dengan Kompiler SageMaker Pelatihan

Anda dapat menggunakan salah satu SageMaker antarmuka untuk menjalankan pekerjaan pelatihan dengan SageMaker Training Compiler: Amazon SageMaker Studio Classic, instans SageMaker notebook Amazon, AWS SDK for Python (Boto3) dan. AWS Command Line Interface

Menggunakan SageMaker Python SDK

Untuk mengaktifkan SageMaker Training Compiler, tambahkan compiler_config parameter ke estimator SageMaker TensorFlow atau Hugging Face. Impor TrainingCompilerConfig kelas dan berikan instance ke compiler_config parameter. Contoh kode berikut menunjukkan struktur kelas SageMaker estimator dengan SageMaker Training Compiler diaktifkan.

Untuk informasi yang sesuai dengan kasus penggunaan Anda, lihat salah satu opsi berikut.

Daftar berikut adalah set minimal parameter yang diperlukan untuk menjalankan pekerjaan SageMaker pelatihan dengan compiler.

disable_profiler=True,
debugger_hook_config=False

Jika pekerjaan pelatihan dengan kompiler berhasil diluncurkan, Anda menerima log berikut selama fase inisialisasi pekerjaan:

Menggunakan SageMaker Python SDK dan Extending SageMaker Framework Deep Learning Containers

AWS Deep Learning Containers (DLC) untuk TensorFlow menggunakan versi adaptasi TensorFlow yang menyertakan perubahan di atas kerangka open source TensorFlow . SageMaker Framework Deep Learning Containers dioptimalkan untuk AWS infrastruktur dasar dan Amazon SageMaker. Dengan keuntungan menggunakan DLC, integrasi SageMaker Training Compiler menambahkan lebih banyak peningkatan kinerja dibandingkan yang asli. TensorFlow Selanjutnya, Anda dapat membuat wadah pelatihan khusus dengan memperluas gambar DLC.

Untuk memperluas dan menyesuaikan SageMaker TensorFlow DLC untuk kasus penggunaan Anda, gunakan petunjuk berikut.

Buat Dockerfile

Gunakan template Dockerfile berikut untuk memperluas DLC. SageMaker TensorFlow Anda harus menggunakan gambar SageMaker TensorFlow DLC sebagai gambar dasar wadah Docker Anda. Untuk menemukan URI image SageMaker TensorFlow DLC, lihat Kerangka Kerja yang Didukung.

# SageMaker TensorFlow Deep Learning Container image
FROM 763104351884.dkr.ecr.<aws-region>.amazonaws.com/tensorflow-training:<image-tag>

ENV PATH="/opt/ml/code:${PATH}"

# This environment variable is used by the SageMaker container 
# to determine user code directory.
ENV SAGEMAKER_SUBMIT_DIRECTORY /opt/ml/code

# Add more code lines to customize for your use-case
...

Untuk informasi selengkapnya, lihat Langkah 2: Membuat dan mengunggah skrip pelatihan Dockerfile dan Python.

Pertimbangkan jebakan berikut saat memperluas SageMaker Framework DLC:

Misalnya, ada masalah yang diketahui bahwa pustaka tensorflow/models dan tensorflow/text selalu mencoba menginstal ulang open source. TensorFlow Jika Anda perlu menginstal pustaka ini untuk memilih versi tertentu untuk kasus penggunaan Anda, kami sarankan Anda melihat ke SageMaker TensorFlow DLC Dockerfiles untuk v2.9 atau yang lebih baru. Jalur ke Dockerfiles biasanya dalam format berikut:. tensorflow/training/docker/<tensorflow-version>/py3/<cuda-version>/Dockerfile.gpu Di Dockerfiles, Anda harus menemukan baris kode untuk menginstal ulang TensorFlow biner AWS terkelola (ditentukan ke variabel TF_URL lingkungan) dan dependensi lainnya secara berurutan. Bagian instalasi ulang akan terlihat seperti contoh berikut:

# tf-models does not respect existing installations of TensorFlow 
# and always installs open source TensorFlow

RUN pip3 install --no-cache-dir -U \
    tf-models-official==x.y.z

RUN pip3 uninstall -y tensorflow tensorflow-gpu \
  ; pip3 install --no-cache-dir -U \
    ${TF_URL} \
    tensorflow-io==x.y.z \
    tensorflow-datasets==x.y.z

Bangun dan dorong ke ECR

Untuk membangun dan mendorong container Docker Anda ke Amazon ECR, ikuti petunjuk di tautan berikut:

Jalankan menggunakan SageMaker Python SDK Estimator

Gunakan estimator SageMaker TensorFlow kerangka kerja seperti biasa. Anda harus menentukan image_uri untuk menggunakan wadah baru yang Anda host di Amazon ECR.

import sagemaker, boto3
from sagemaker import get_execution_role
from sagemaker.tensorflow import TensorFlow, TrainingCompilerConfig

account_id = boto3.client('sts').get_caller_identity().get('Account')
ecr_repository = 'tf-custom-container-test'
tag = ':latest'

region = boto3.session.Session().region_name

uri_suffix = 'amazonaws.com'

byoc_image_uri = '{}.dkr.ecr.{}.{}/{}'.format(
    account_id, region, uri_suffix, ecr_repository + tag
)

byoc_image_uri
# This should return something like
# 111122223333.dkr.ecr.us-east-2.amazonaws.com/tf-custom-container-test:latest

estimator = TensorFlow(
    image_uri=image_uri,
    role=get_execution_role(),
    base_job_name='tf-custom-container-test-job',
    instance_count=1,
    instance_type='ml.p3.8xlarge'
    compiler_config=TrainingCompilerConfig(),
    disable_profiler=True,
    debugger_hook_config=False
)

# Start training
estimator.fit()

Aktifkan Kompiler SageMaker Pelatihan Menggunakan Operasi SageMaker CreateTrainingJob API

SageMaker Opsi konfigurasi Training Compiler harus ditentukan melalui HyperParameters kolom AlgorithmSpecification and dalam sintaks permintaan untuk operasi CreateTrainingJobAPI.

"AlgorithmSpecification": {
    "TrainingImage": "<sagemaker-training-compiler-enabled-dlc-image>"
},

"HyperParameters": {
    "sagemaker_training_compiler_enabled": "true",
    "sagemaker_training_compiler_debug_mode": "false"
}

Untuk menemukan daftar lengkap URI image container pembelajaran mendalam yang telah diimplementasikan SageMaker Training Compiler, lihat. Kerangka Kerja yang Didukung