SageMaker 模型并行度库 v2 的核心功能

Amazon SageMaker AI 模型并行库 v2 (SMP v2) 提供了分发策略和节省内存的技术，例如分片数据并行性、张量并行性和检查点。SMP v2 提供的模型并行性策略和技术有助于将大型模型分布在多个设备上，同时优化训练速度和内存使用。SMP v2 还提供了一个 Python 软件包 torch.sagemaker，只需修改几行代码就能帮助您调整训练脚本。

本指南遵循 使用 SageMaker 模型并行度库 v2 中介绍的两步基本流。要深入了解 SMP v2 的核心功能以及如何使用这些功能，请参阅以下主题。