Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# Tutorial debugger
Topik berikut memandu Anda melalui tutorial dari dasar-dasar hingga kasus penggunaan lanjutan dari pemantauan, pembuatan profil, dan pekerjaan SageMaker pelatihan debugging menggunakan Debugger. Jelajahi fitur Debugger dan pelajari cara men-debug dan meningkatkan model pembelajaran mesin Anda secara efisien dengan menggunakan Debugger.
**Topics**
+ [Video tutorial debugger](debugger-videos.md)
+ [Notebook contoh debugger](debugger-notebooks.md)
+ [Debugger demo dan visualisasi tingkat lanjut](debugger-visualization.md)
# Video tutorial debugger
Video berikut menyediakan tur kemampuan Amazon SageMaker Debugger menggunakan instans notebook SageMaker Studio dan SageMaker AI.
**Topics**
+ [Model debugging dengan Amazon SageMaker Debugger di Studio Classic](#debugger-video-get-started)
+ [Menyelam jauh di Amazon SageMaker Debugger dan monitor model SageMaker AI](#debugger-video-dive-deep)
## Model debugging dengan Amazon SageMaker Debugger di Studio Classic
*Julien Simon, Penginjil AWS Teknis \$1 Durasi: 14 menit 17 detik*
Video tutorial ini menunjukkan cara menggunakan Amazon SageMaker Debugger untuk menangkap dan memeriksa informasi debugging dari model pelatihan. Contoh model pelatihan yang digunakan dalam video ini adalah jaringan saraf konvolusional sederhana (CNN) berdasarkan Keras dengan backend. TensorFlow SageMaker AI dalam TensorFlow kerangka kerja dan Debugger memungkinkan Anda membangun estimator secara langsung menggunakan skrip pelatihan dan men-debug pekerjaan pelatihan.
[](http://www.youtube.com/watch?v=https://www.youtube.com/embed/MqPdTj0Znwg)
Anda dapat menemukan contoh buku catatan dalam video di [repositori Demo Studio ini](https://gitlab.com/juliensimon/amazon-studio-demos/-/tree/master) yang disediakan oleh penulis. Anda perlu mengkloning file `debugger.ipynb` notebook dan skrip `mnist_keras_tf.py` pelatihan ke SageMaker Studio atau instance SageMaker notebook Anda. Setelah Anda mengkloning dua file, tentukan path `keras_script_path` ke `mnist_keras_tf.py` file di dalam `debugger.ipynb` notebook. Misalnya, jika Anda mengkloning dua file di direktori yang sama, atur sebagai`keras_script_path = "mnist_keras_tf.py"`.
## Menyelam jauh di Amazon SageMaker Debugger dan monitor model SageMaker AI
*Julien Simon, Penginjil AWS Teknis \$1 Durasi: 44 menit 34 detik*
Sesi video ini mengeksplorasi fitur-fitur canggih Debugger dan SageMaker Model Monitor yang membantu meningkatkan produktivitas dan kualitas model Anda. Pertama, video ini menunjukkan cara mendeteksi dan memperbaiki masalah pelatihan, memvisualisasikan tensor, dan meningkatkan model dengan Debugger. Selanjutnya, pada 22:41, video menunjukkan cara memantau model dalam produksi dan mengidentifikasi masalah prediksi seperti fitur yang hilang atau penyimpangan data menggunakan AI Model Monitor. SageMaker Akhirnya, ia menawarkan kiat pengoptimalan biaya untuk membantu Anda memaksimalkan anggaran pembelajaran mesin Anda.
[](http://www.youtube.com/watch?v=https://www.youtube.com/embed/0zqoeZxakOI)
Anda dapat menemukan contoh buku catatan dalam video di [repositori AWS Dev Days 2020](https://gitlab.com/juliensimon/awsdevdays2020/-/tree/master/mls1) yang ditawarkan oleh penulis.
# Notebook contoh debugger
[SageMaker Notebook contoh debugger](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/) [disediakan di aws/ repositori. amazon-sagemaker-examples](https://github.com/aws/amazon-sagemaker-examples) Notebook contoh Debugger memandu Anda melalui kasus penggunaan dasar hingga lanjutan dari pekerjaan pelatihan debugging dan pembuatan profil.
Kami menyarankan Anda menjalankan contoh notebook di SageMaker Studio atau instance SageMaker Notebook karena sebagian besar contoh dirancang untuk melatih pekerjaan di ekosistem SageMaker AI, termasuk Amazon EC2, Amazon S3, dan Amazon SageMaker Python SDK.
Untuk mengkloning repositori contoh ke SageMaker Studio, ikuti petunjuk di [Amazon SageMaker ](https://docs.aws.amazon.com/sagemaker/latest/dg/gs-studio-end-to-end.html) Studio Tour.
**penting**
Untuk menggunakan fitur Debugger baru, Anda perlu memutakhirkan SageMaker Python SDK dan pustaka klien. `SMDebug` Di kernel IPython Anda, Jupyter Notebook, JupyterLab atau lingkungan, jalankan kode berikut untuk menginstal versi terbaru dari pustaka dan restart kernel.
```
import sys
import IPython
!{sys.executable} -m pip install -U sagemaker smdebug
IPython.Application.instance().kernel.do_shutdown(True)
```
## Notebook contoh debugger untuk membuat profil pekerjaan pelatihan
Daftar berikut menunjukkan contoh buku catatan Debugger yang memperkenalkan kemampuan beradaptasi Debugger untuk memantau dan memprofilkan pekerjaan pelatihan untuk berbagai model pembelajaran mesin, kumpulan data, dan kerangka kerja.
| Judul Notebook | Kerangka Kerja | Model | Set data | Deskripsi |
| --- | --- | --- | --- | --- |
| [Analisis Data Profil Amazon SageMaker Debugger](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/debugger_interactive_analysis_profiling/interactive_analysis_profiling_data.html) | TensorFlow | Keras ResNet 50 | Cifar-10 | Notebook ini memberikan pengantar analisis interaktif data profil yang ditangkap oleh SageMaker Debugger. Jelajahi fungsionalitas penuh dari alat analisis `SMDebug` interaktif. |
| [Pelatihan pembelajaran mesin profil dengan Amazon SageMaker Debugger](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/tensorflow_nlp_sentiment_analysis/sentiment-analysis-tf-distributed-training-bringyourownscript.html) | TensorFlow | Jaringan Saraf Konvolusi 1-D | Dataset IMDB | Buat profil CNN TensorFlow 1-D untuk analisis sentimen data IMDB yang terdiri dari ulasan film yang diberi label memiliki sentimen positif atau negatif. Jelajahi wawasan Studio Debugger dan laporan pembuatan profil Debugger. |
| [Pelatihan TensorFlow ResNet model pembuatan profil dengan berbagai pengaturan pelatihan terdistribusi](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/tensorflow_profiling) | TensorFlow | ResNet50 | Cifar-10 | Jalankan pekerjaan TensorFlow pelatihan dengan berbagai pengaturan pelatihan terdistribusi, pantau pemanfaatan sumber daya sistem, dan kinerja model profil menggunakan Debugger. |
| [Pelatihan PyTorch ResNet model pembuatan profil dengan berbagai pengaturan pelatihan terdistribusi](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/pytorch_profiling) | PyTorch | ResNet50 | Cifar-10 | Jalankan pekerjaan PyTorch pelatihan dengan berbagai pengaturan pelatihan terdistribusi, pantau pemanfaatan sumber daya sistem, dan kinerja model profil menggunakan Debugger. |
## Notebook contoh debugger untuk menganalisis parameter model
Daftar berikut menunjukkan contoh buku catatan Debugger yang memperkenalkan kemampuan beradaptasi Debugger untuk men-debug pekerjaan pelatihan untuk berbagai model pembelajaran mesin, kumpulan data, dan kerangka kerja.
| Judul Notebook | Kerangka Kerja | Model | Set data | Deskripsi |
| --- | --- | --- | --- | --- |
| [Amazon SageMaker Debugger - Gunakan aturan bawaan](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/tensorflow_builtin_rule) | TensorFlow | Jaringan Saraf Konvolusional | MNIST | Gunakan aturan bawaan Amazon SageMaker Debugger untuk men-debug model. TensorFlow |
| [Amazon SageMaker Debugger - Tensorflow 2.1](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/tensorflow2) | TensorFlow | ResNet50 | Cifar-10 | Gunakan konfigurasi kait Amazon SageMaker Debugger dan aturan bawaan untuk men-debug model dengan framework Tensorflow 2.1. |
| [Memvisualisasikan Debugging Tensor pelatihan MXNet](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/mnist_tensor_plot) | MXNet | Jaringan Saraf Konvolusi Gluon | Mode MNIST | Jalankan pekerjaan pelatihan dan konfigurasikan SageMaker Debugger untuk menyimpan semua tensor dari pekerjaan ini, lalu visualisasikan tensor tersebut di notebook. |
| [Aktifkan Pelatihan Spot dengan Amazon SageMaker Debugger](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-debugger/mxnet_spot_training) | MXNet | Jaringan Saraf Konvolusi Gluon | Mode MNIST | Pelajari cara Debugger mengumpulkan data tensor dari pekerjaan pelatihan pada instance spot, dan cara menggunakan aturan bawaan Debugger dengan pelatihan spot terkelola. |
| [Jelaskan XGBoost model yang memprediksi pendapatan individu dengan Amazon SageMaker Debugger](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/xgboost_census_explanations/xgboost-census-debugger-rules.html) | XGBoost | XGBoost Regresi | [Dataset Sensus Dewasa](https://archive.ics.uci.edu/ml/datasets/adult) | Pelajari cara menggunakan kait Debugger dan aturan bawaan untuk mengumpulkan dan memvisualisasikan data tensor dari model XGBoost regresi, seperti nilai kerugian, fitur, dan nilai SHAP. |
Untuk menemukan visualisasi lanjutan dari parameter model dan kasus penggunaan, lihat topik berikutnya di. [Debugger demo dan visualisasi tingkat lanjut](debugger-visualization.md)
# Debugger demo dan visualisasi tingkat lanjut
Demo berikut memandu Anda melalui kasus penggunaan lanjutan dan skrip visualisasi menggunakan Debugger.
**Topics**
+ [Model pelatihan dan pemangkasan dengan Amazon SageMaker Experiments and Debugger](#debugger-visualization-video-model-pruning)
+ [[Menggunakan SageMaker Debugger untuk memantau pelatihan model autoencoder convolutional](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/model_specific_realtime_analysis/autoencoder_mnist/autoencoder_mnist.html)](#debugger-visualization-autoencoder_mnist)
+ [[Menggunakan SageMaker Debugger untuk memantau perhatian dalam pelatihan model BERT](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/model_specific_realtime_analysis/bert_attention_head_view/bert_attention_head_view.html)](#debugger-visualization-bert_attention_head_view)
+ [[Menggunakan SageMaker Debugger untuk memvisualisasikan peta aktivasi kelas di jaringan saraf convolutional () CNNs](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/model_specific_realtime_analysis/cnn_class_activation_maps/cnn_class_activation_maps.html)](#debugger-visualization-cnn_class_activation_maps)
## Model pelatihan dan pemangkasan dengan Amazon SageMaker Experiments and Debugger
*Dr. Nathalie Rauschmayr, Ilmuwan AWS Terapan \$1 Durasi: 49 menit 26 detik*
[](http://www.youtube.com/watch?v=https://www.youtube.com/embed/Tnv6HsT1r4I)
Cari tahu bagaimana Amazon SageMaker Experiments and Debugger dapat menyederhanakan pengelolaan pekerjaan pelatihan Anda. Amazon SageMaker Debugger memberikan visibilitas transparan ke dalam pekerjaan pelatihan dan menyimpan metrik pelatihan ke dalam bucket Amazon S3 Anda. SageMaker Eksperimen memungkinkan Anda menyebut informasi pelatihan sebagai *uji coba* melalui SageMaker Studio dan mendukung visualisasi pekerjaan pelatihan. Ini membantu Anda menjaga kualitas model tetap tinggi sekaligus mengurangi parameter yang kurang penting berdasarkan peringkat kepentingan.
Video ini menunjukkan teknik *pemangkasan model* yang membuat ResNet 50 yang telah dilatih sebelumnya dan AlexNet model lebih ringan dan terjangkau sambil mempertahankan standar tinggi untuk akurasi model.
SageMaker AI Estimator melatih algoritme yang dipasok dari kebun binatang PyTorch model dalam AWS Deep Learning Containers dengan PyTorch kerangka kerja, dan Debugger mengekstrak metrik pelatihan dari proses pelatihan.
Video ini juga menunjukkan cara menyiapkan aturan khusus Debugger untuk menonton keakuratan model yang dipangkas, untuk memicu CloudWatch peristiwa Amazon dan AWS Lambda fungsi saat akurasi mencapai ambang batas, dan untuk secara otomatis menghentikan proses pemangkasan untuk menghindari iterasi yang berlebihan.
Tujuan pembelajaran adalah sebagai berikut:
+ Pelajari cara menggunakan SageMaker AI untuk mempercepat pelatihan model ML dan meningkatkan kualitas model.
+ Pahami cara mengelola iterasi pelatihan dengan SageMaker Eksperimen dengan menangkap parameter input, konfigurasi, dan hasil secara otomatis.
+ Temukan cara Debugger membuat proses pelatihan transparan dengan secara otomatis menangkap data tensor real-time dari metrik seperti bobot, gradien, dan keluaran aktivasi jaringan saraf convolutional.
+ Gunakan CloudWatch untuk memicu Lambda saat Debugger menangkap masalah.
+ Kuasai proses SageMaker pelatihan menggunakan SageMaker Eksperimen dan Debugger.
Anda dapat menemukan buku catatan dan skrip pelatihan yang digunakan dalam video ini dari Pemangkasan Model Iteratif [SageMaker Debugger PyTorch ](https://github.com/awslabs/amazon-sagemaker-examples/tree/master/sagemaker-debugger/pytorch_iterative_model_pruning).
Gambar berikut menunjukkan bagaimana proses pemangkasan model berulang mengurangi ukuran AlexNet dengan memotong 100 filter paling tidak signifikan berdasarkan peringkat kepentingan yang dievaluasi oleh keluaran aktivasi dan gradien.
Proses pemangkasan mengurangi 50 juta parameter awal menjadi 18 juta. Ini juga mengurangi perkiraan ukuran model dari 201 MB menjadi 73 MB.
![\[Gambar yang berisi visualisasi keluaran hasil pemangkasan model\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/debugger/debugger-model-pruning-results-alexnet.gif)
Anda juga perlu melacak akurasi model, dan gambar berikut menunjukkan bagaimana Anda dapat memplot proses pemangkasan model untuk memvisualisasikan perubahan akurasi model berdasarkan jumlah parameter di SageMaker Studio.
![\[Gambar visualisasi tensor menggunakan Debugger di Studio SageMaker\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/debugger/debugger-model-pruning-studio.png)
**Di SageMaker Studio, pilih tab **Eksperimen**, pilih daftar tensor yang disimpan oleh Debugger dari proses pemangkasan, lalu buat panel Daftar Komponen Uji Coba.** Pilih semua sepuluh iterasi dan kemudian pilih **Tambahkan bagan untuk membuat Bagan** **Komponen Uji Coba**. Setelah Anda memutuskan model yang akan diterapkan, pilih komponen uji coba dan pilih menu untuk melakukan tindakan atau pilih Model **Deploy**.
**catatan**
Untuk menerapkan model melalui SageMaker Studio menggunakan contoh notebook berikut, tambahkan baris di akhir `train` fungsi dalam `train.py` skrip.
```
# In the train.py script, look for the train function in line 58.
def train(epochs, batch_size, learning_rate):
...
print('acc:{:.4f}'.format(correct/total))
hook.save_scalar("accuracy", correct/total, sm_metric=True)
# Add the following code to line 128 of the train.py script to save the pruned models
# under the current SageMaker Studio model directory
torch.save(model.state_dict(), os.environ['SM_MODEL_DIR'] + '/model.pt')
```
## [Menggunakan SageMaker Debugger untuk memantau pelatihan model autoencoder convolutional](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/model_specific_realtime_analysis/autoencoder_mnist/autoencoder_mnist.html)
Notebook ini menunjukkan bagaimana SageMaker Debugger memvisualisasikan tensor dari proses pembelajaran tanpa pengawasan (atau diawasi sendiri) pada kumpulan data gambar MNIST dari angka tulisan tangan.
Model pelatihan dalam notebook ini adalah autoencoder convolutional dengan kerangka kerja. MXNet Autoencoder convolutional memiliki jaringan saraf convolutional berbentuk bottleneck yang terdiri dari bagian encoder dan bagian decoder.
Encoder dalam contoh ini memiliki dua lapisan konvolusi untuk menghasilkan representasi terkompresi (variabel laten) dari gambar input. Dalam hal ini, encoder menghasilkan variabel ukuran laten (1, 20) dari gambar input asli ukuran (28, 28) dan secara signifikan mengurangi ukuran data untuk pelatihan sebanyak 40 kali.
Decoder memiliki dua lapisan *dekonvolusional dan memastikan bahwa variabel laten mempertahankan informasi kunci dengan merekonstruksi* gambar keluaran.
Encoder convolutional memberdayakan algoritma pengelompokan dengan ukuran data input yang lebih kecil dan kinerja algoritma pengelompokan seperti k-means, k-NN, dan T-distributed Stochastic Neighbor Embedding (t-SNE).
Contoh notebook ini menunjukkan bagaimana memvisualisasikan variabel laten menggunakan Debugger, seperti yang ditunjukkan dalam animasi berikut. Ini juga menunjukkan bagaimana algoritma t-SNE mengklasifikasikan variabel laten menjadi sepuluh cluster dan memproyeksikannya ke dalam ruang dua dimensi. Skema warna plot sebar di sisi kanan gambar mencerminkan nilai sebenarnya untuk menunjukkan seberapa baik model BERT dan algoritma t-SNE mengatur variabel laten ke dalam cluster.
![\[Gambar konseptual dari autoencoder convolutional\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/debugger/debugger-cnn-autoencoder-plot.gif)
## [Menggunakan SageMaker Debugger untuk memantau perhatian dalam pelatihan model BERT](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/model_specific_realtime_analysis/bert_attention_head_view/bert_attention_head_view.html)
Representasi Encode Dua Arah dari Transformers (BERT) adalah model representasi bahasa. Seperti yang dicerminkan oleh nama model, model BERT dibangun di atas *pembelajaran transfer* dan *model Transformer* untuk pemrosesan bahasa alami (NLP).
Model BERT dilatih sebelumnya pada tugas-tugas tanpa pengawasan seperti memprediksi kata-kata yang hilang dalam kalimat atau memprediksi kalimat berikutnya yang secara alami mengikuti kalimat sebelumnya. Data pelatihan berisi 3,3 miliar kata (token) teks bahasa Inggris, dari sumber seperti Wikipedia dan buku elektronik. Sebagai contoh sederhana, model BERT dapat memberikan *perhatian tinggi pada* token kata kerja yang sesuai atau token kata ganti dari token subjek.
Model BERT yang telah dilatih sebelumnya dapat disetel dengan lapisan keluaran tambahan untuk mencapai pelatihan state-of-the-art model dalam tugas NLP, seperti respons otomatis terhadap pertanyaan, klasifikasi teks, dan banyak lainnya.
Debugger mengumpulkan tensor dari proses fine-tuning. *Dalam konteks NLP, berat neuron disebut perhatian.*
Notebook ini menunjukkan cara menggunakan [model BERT yang telah dilatih sebelumnya dari kebun binatang model GluonNLP](https://gluon-nlp.mxnet.io/model_zoo/bert/index.html) pada dataset Pertanyaan dan Jawaban Stanford dan cara mengatur Debugger untuk memantau pekerjaan pelatihan. SageMaker
Merencanakan *skor perhatian* dan neuron individu dalam kueri dan vektor kunci dapat membantu mengidentifikasi penyebab prediksi model yang salah. Dengan SageMaker AI Debugger, Anda dapat mengambil tensor dan memplot *tampilan perhatian-kepala secara* real time saat pelatihan berlangsung dan memahami apa yang sedang dipelajari model.
Animasi berikut menunjukkan skor perhatian dari 20 token input pertama untuk sepuluh iterasi dalam pekerjaan pelatihan yang disediakan dalam contoh notebook.
![\[Animasi skor perhatian\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/debugger/debugger-attention_scores.gif)
## [Menggunakan SageMaker Debugger untuk memvisualisasikan peta aktivasi kelas di jaringan saraf convolutional () CNNs](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-debugger/model_specific_realtime_analysis/cnn_class_activation_maps/cnn_class_activation_maps.html)
Notebook ini menunjukkan cara menggunakan SageMaker Debugger untuk memplot peta aktivasi kelas untuk deteksi dan klasifikasi gambar dalam jaringan saraf convolutional (). CNNs Dalam pembelajaran mendalam, *jaringan saraf konvolusional (CNN atau ConvNet)* adalah kelas jaringan saraf dalam, paling sering diterapkan untuk menganalisis citra visual. Salah satu aplikasi yang mengadopsi peta aktivasi kelas adalah mobil self-driving, yang memerlukan deteksi instan dan klasifikasi gambar seperti rambu lalu lintas, jalan, dan rintangan.
Dalam buku catatan ini, PyTorch ResNet model ini dilatih pada [Dataset Tanda Lalu Lintas Jerman](http://benchmark.ini.rub.de/), yang berisi lebih dari 40 kelas objek terkait lalu lintas dan lebih dari 50.000 gambar secara total.
![\[Animasi peta aktivasi kelas CNN\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/debugger/debugger-cnn-class-activation-maps.gif)
Selama proses pelatihan, SageMaker Debugger mengumpulkan tensor untuk memplot peta aktivasi kelas secara real time. Seperti yang ditunjukkan pada gambar animasi, peta aktivasi kelas (juga disebut sebagai *peta arti-penting*) menyoroti daerah dengan aktivasi tinggi dalam warna merah.
Menggunakan tensor yang ditangkap oleh Debugger, Anda dapat memvisualisasikan bagaimana peta aktivasi berkembang selama pelatihan model. Model dimulai dengan mendeteksi tepi di sudut kiri bawah di awal pekerjaan pelatihan. Saat pelatihan berlangsung, fokus bergeser ke pusat dan mendeteksi tanda batas kecepatan, dan model berhasil memprediksi gambar input sebagai Kelas 3, yang merupakan kelas tanda batas kecepatan 60km/jam, dengan tingkat kepercayaan 97%.