內建演算法的執行個體類型 - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

內建演算法的執行個體類型

對於訓練和託管 Amazon SageMaker 演算法,建議使用下列 Amazon EC2執行個體類型:

  • ml.m5.xlarge, ml.m5.4xlarge, 和 ml.m5.12xlarge

  • ml.c5.xlarge, ml.c5.2xlarge, 和 ml.c5.8xlarge

  • ml.p3.xlarge, ml.p3.8xlarge, 和 ml.p3.16xlarge

大多數 Amazon SageMaker 演算法都經過設計,以利用GPU運算進行訓練。對於大多數演算法訓練,我們支援 P2, P3, G4dn和 G5 GPU執行個體。儘管每個執行個體的成本較高,但GPUs訓練速度更快,使它們更具成本效益。例外有註明在本教學中。

何種硬體組態最能發揮效率,資料的大小和類型有很大的影響。當相同的模型要不斷循環訓練時,最初在多種執行個體類型上進行測試,可找出長程下來最具成本效益的組態。此外,在 上進行最高效訓練GPUs的演算法GPUs可能不需要有效率的推論。請進行實驗,找出最具效率的解決方案。若要取得自動執行個體建議或執行自訂負載測試,請使用 Amazon SageMaker Inference Recommender

如需 SageMaker 硬體規格的詳細資訊,請參閱 Amazon SageMaker ML 執行個體類型