优化

要充分利用您的数据GPUs，您可以优化数据管道并调整深度学习网络。如下图所述，神经网络的天真或基本实现可能会使用不GPU一致的东西，也无法充分发挥其潜力。当你优化预处理和数据加载时，你可以减少瓶颈从你的CPU到你的。GPU您可以通过使用混合化（该框架支持时）、调整批大小并同步调用来调整神经网络本身。您也可以在大多数框架中使用多精度（float16 或 int8）训练，从而可以显著提高吞吐量。

以下图表显示应用不同优化时的累积性能提升。您的结果将取决于要处理的数据和要优化的网络。