Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
PERF02-BP06 Gunakan akselerator komputasi berbasis perangkat keras yang dioptimalkan
Gunakan akselerator perangkat keras untuk melakukan fungsi tertentu secara lebih efisien daripada alternatif CPU berbasis.
Anti-pola umum:
-
Dalam beban kerja Anda, Anda belum melakukan uji tolok ukur instans tujuan umum dengan instans yang dibuat khusus yang dapat memberikan kinerja lebih tinggi dan biaya yang lebih rendah.
-
Anda menggunakan akselerator komputasi berbasis perangkat keras untuk tugas-tugas yang dapat lebih efisien menggunakan alternatif berbasis. CPU
-
Anda tidak memantau GPU penggunaan.
Manfaat membangun praktik terbaik ini: Dengan menggunakan akselerator berbasis perangkat keras, seperti unit pemrosesan grafis (GPUs) dan array gerbang yang dapat diprogram lapangan (FPGAs), Anda dapat melakukan fungsi pemrosesan tertentu dengan lebih efisien.
Tingkat risiko yang terjadi jika praktik terbaik ini tidak diterapkan: Sedang
Panduan implementasi
Instans komputasi yang dipercepat menyediakan akses ke akselerator komputasi berbasis perangkat keras seperti dan. GPUs FPGAs Akselerator perangkat keras ini melakukan fungsi tertentu seperti pemrosesan grafis atau pencocokan pola data lebih efisien daripada alternatif CPU berbasis. Banyak beban kerja terakselerasi, seperti perenderan, transkode, dan machine learning, yang memiliki variabel tinggi sehubungan dengan penggunaan sumber daya. Jalankan perangkat keras ini hanya ketika diperlukan, dan non-aktifkan instans GPU secara otomatis saat tidak diperlukan untuk meningkatkan efisiensi kinerja secara keseluruhan.
Langkah-langkah implementasi
-
Identifikasi instans komputasi terakselerasi yang dapat memenuhi kebutuhan Anda.
-
Untuk beban kerja pembelajaran mesin, manfaatkan perangkat keras yang dibuat khusus untuk beban kerja Anda, seperti AWS Trainium
, Inferentia, dan Amazon.AWS EC2 DL1 AWS Instans Inferentia seperti instans Inf2 menawarkan kinerja/watt hingga 50% lebih baik dibandingkan instans Amazon yang sebanding. EC2 -
Kumpulkan metrik-metrik penggunaan untuk instans komputasi terakselerasi Anda. Misalnya, Anda dapat menggunakan CloudWatch agen untuk mengumpulkan metrik seperti
utilization_gpudanutilization_memoryuntuk Anda GPUs seperti yang ditunjukkan dalam Kumpulkan NVIDIA GPU metrik dengan Amazon. CloudWatch -
Optimalkan kode, operasi jaringan, dan pengaturan akselerator perangkat keras untuk memastikan perangkat keras yang mendasarinya dimanfaatkan sepenuhnya.
-
Gunakan pustaka dan driver berkinerja tinggi terbaru. GPU
-
Gunakan otomatisasi untuk merilis GPU instance saat tidak digunakan.
Sumber daya
Dokumen terkait:
Video terkait:
Contoh terkait:
