Jalan TensorFlow kan Pekerjaan Pelatihan dengan Tra SageMaker ining Compiler

Anda dapat menggunakan antarmuka SageMaker AI apa pun untuk menjalankan pekerjaan pelatihan dengan Tra SageMaker ining Compiler: Amazon SageMaker Studio Classic, instans SageMaker notebook Amazon, AWS SDK for Python (Boto3), dan AWS Command Line Interface.

Menggunakan SageMaker Python SDK

Untuk mengaktifkan Tra SageMaker ining Compiler, tambahkan compiler_config parameter ke estimator SageMaker AI TensorFlow atau Hugging Face. Imp TrainingCompilerConfig or kelas dan berikan instance ke compiler_config parameter. Contoh kode berikut menunjukkan struktur kelas estimator SageMaker AI dengan Tra SageMaker ining Compiler diaktifkan.

Untuk informasi yang sesuai dengan kasus penggunaan Anda, lihat salah satu opsi berikut.

Daftar berikut adalah kumpulan parameter minimal yang diperlukan untuk menjalankan pekerjaan SageMaker pelatihan dengan kompiler.

disable_profiler=True,
debugger_hook_config=False

Jika pekerjaan pelatihan dengan kompiler berhasil diluncurkan, Anda menerima log berikut selama fase inisialisasi pekerjaan:

Menggunakan SageMaker AI Python SDK dan Memperluas Kontainer Pem SageMaker belajaran Mendalam Kerangka AI

AWS Deep Learning Containers (DLC) untuk TensorFlow penggunaan versi adaptasi TensorFlow yang mencakup perubahan di atas kerangka kerja sumber terbuka TensorFlow . Kontainer SageMaker Pembelajaran Mendalam Kerangka AI dioptimalkan untuk AWS infrastruktur yang mendasarinya dan Amazon SageMaker AI. Dengan keuntungan menggunakan DLC, integrasi Tra SageMaker ining Compiler menambahkan lebih banyak peningkatan kinerja dibandingkan native. TensorFlow Selanjutnya, Anda dapat membuat wadah pelatihan khusus dengan memperluas gambar DLC.

Untuk memperluas dan menyesuaikan TensorFlow DLC SageMaker AI untuk kasus penggunaan Anda, gunakan petunjuk berikut.

Buat Dockerfile

Gunakan template Dockerfile berikut untuk memperluas DLC SageMaker AI TensorFlow . Anda harus menggunakan gambar TensorFlow DLC SageMaker AI sebagai gambar dasar wadah Docker Anda. Untuk menemukan URI gambar TensorFlow DLC SageMaker AI, lihat Kerangka Kerja yang Di dukung.

# SageMaker AI TensorFlow Deep Learning Container image
FROM 763104351884.dkr.ecr.<aws-region>.amazonaws.com/tensorflow-training:<image-tag>

ENV PATH="/opt/ml/code:${PATH}"

# This environment variable is used by the SageMaker AI container 
# to determine user code directory.
ENV SAGEMAKER_SUBMIT_DIRECTORY /opt/ml/code

# Add more code lines to customize for your use-case
...

Untuk informasi selengkapnya, lihat Langkah 2: Membuat dan mengunggah skrip pelatihan Dockerfile dan Python.

Pertimbangkan jebakan berikut saat memperluas DLC SageMaker Kerangka AI:

Misalnya, ada masalah yang diketahui bahwa per tensorflow/text pustakaan tensorflow/models dan selalu mencoba menginstal ulang sumber terbuka TensorFlow. Jika Anda perlu menginstal pustaka ini untuk memilih versi tertentu untuk kasus penggunaan Anda, kami sarankan Anda melihat ke dalam SageMaker AI TensorFlow DLC Dockerfiles untuk v2.9 atau yang lebih baru. Jalur ke Dockerfiles biasanya dalam format berikut:. tensorflow/training/docker/<tensorflow-version>/py3/<cuda-version>/Dockerfile.gpu Di Dockerfiles, Anda harus menemukan baris kode untuk menginstal ulang TensorFlow biner terkel AWS ola (ditentukan ke variabel TF_URL lingkungan) dan dependensi lainnya secara berurutan. Bagian instalasi ulang akan terlihat seperti contoh berikut:

# tf-models does not respect existing installations of TensorFlow 
# and always installs open source TensorFlow

RUN pip3 install --no-cache-dir -U \
    tf-models-official==x.y.z

RUN pip3 uninstall -y tensorflow tensorflow-gpu \
  ; pip3 install --no-cache-dir -U \
    ${TF_URL} \
    tensorflow-io==x.y.z \
    tensorflow-datasets==x.y.z

Bangun dan dorong ke ECR

Untuk membangun dan mendorong wadah Docker Anda ke Amazon ECR, ikuti petunjuk di tautan berikut:

Jalankan menggunakan SageMaker Python SDK Estimator

Gunakan estimator TensorFlow kerangka kerja SageMaker AI seperti biasa. Anda harus menentukan image_uri untuk menggunakan wadah baru yang Anda hosting di Amazon ECR.

import sagemaker, boto3
from sagemaker import get_execution_role
from sagemaker.tensorflow import TensorFlow, TrainingCompilerConfig

account_id = boto3.client('sts').get_caller_identity().get('Account')
ecr_repository = 'tf-custom-container-test'
tag = ':latest'

region = boto3.session.Session().region_name

uri_suffix = 'amazonaws.com'

byoc_image_uri = '{}.dkr.ecr.{}.{}/{}'.format(
    account_id, region, uri_suffix, ecr_repository + tag
)

byoc_image_uri
# This should return something like
# 111122223333.dkr.ecr.us-east-2.amazonaws.com/tf-custom-container-test:latest

estimator = TensorFlow(
    image_uri=image_uri,
    role=get_execution_role(),
    base_job_name='tf-custom-container-test-job',
    instance_count=1,
    instance_type='ml.p3.8xlarge'
    compiler_config=TrainingCompilerConfig(),
    disable_profiler=True,
    debugger_hook_config=False
)

# Start training
estimator.fit()

Aktif SageMaker kan Kompiler Pelatihan Menggunakan Oper SageMaker asi CreateTrainingJob API AI

SageMaker Opsi konfigurasi Kompiler Pelatihan harus ditentukan melalui HyperParameters bidang AlgorithmSpecification dan dalam sintaks permintaan untuk operasi CreateTrainingJob API.

"AlgorithmSpecification": {
    "TrainingImage": "<sagemaker-training-compiler-enabled-dlc-image>"
},

"HyperParameters": {
    "sagemaker_training_compiler_enabled": "true",
    "sagemaker_training_compiler_debug_mode": "false"
}

Untuk menemukan daftar lengkap URI gambar wadah pembelajaran mendalam yang telah menerapkan Tra SageMaker ining Compiler, lihat. Kerangka Kerja yang Didukung