最適化

を最大限に活用するためにGPUs、データパイプラインを最適化し、深層学習ネットワークをチューニングできます。次の表で説明するように、ニューラルネットワークのナイーブ実装または基本的な実装では、GPU一貫性のないが使用され、最大限の可能性は得られない可能性があります。前処理とデータのロードを最適化すると、ボトルネックをから CPUに減らすことができますGPU。ハイブリダイゼーションを使用し (フレームワークでサポートされている場合)、バッチサイズを調整してコールを同期することで、ニューラルネットワーク自体を調整することができます。ほとんどのフレームワークでは、多精度 (float16 または int8) トレーニングを使用することもできます。スループットの向上に劇的な効果が及ぶ可能性があります。

以下の図は、さまざまな最適化を適用した場合の累積的なパフォーマンス向上を示しています。結果は、処理するデータと最適化するネットワークによって異なります。