分布式数据并行 (DDP) 训练

重要

此功能在 Beta 版中。

本页包含用于在无服务器 GPU 计算上使用分布式数据并行(DDP)训练的笔记本示例。 这些示例演示如何跨多个 GPU 和节点缩放训练以提高性能。

使用 DDP 在综合数据集上训练简单的多层感知器(MLP)神经网络。

以下笔记本演示使用具有无服务器 GPU 资源的 Azure Databricks 上的 PyTorch 分布式数据并行 (DDP)模块对简单的多层感知器(MLP)神经网络进行分布式训练。

Notebook

获取笔记本