最佳化

若要充分利用您的 GPUs，您可以最佳化資料管道並調整深度學習網路。如下列圖表所述，神經網路的原始或基本實作可能會使用GPU不一致的，而不會發揮其最大潛力。當您最佳化預先處理和資料載入時，您可以將瓶頸從減少CPU為 GPU。您可以使用雜合 (當架構支援時)、調整批次大小和同步化呼叫，以調整神經網路本身。您在大多數架構中也可以使用多精確度 (float16 或 int8) 培訓，這可以大幅影響提高輸送量。

下列圖表顯示套用不同的最佳化時累積的效能提升。您的結果將取決於您處理的資料和您最佳化的網路。