[组合替代实现]torch.distributed.Backend

torch.distributed.Backend

torch.distributed.Backend(name)

Paddle 无此 API,需要组合实现。

转写示例

# PyTorch 写法
torch.distributed.Backend("GLOO")

# Paddle 写法
"gloo"
# PyTorch 写法
torch.distributed.Backend("NCCL")

# Paddle 写法
"nccl"
# PyTorch 写法
torch.distributed.Backend("UCC")

# Paddle 写法
"ucc"
# PyTorch 写法
torch.distributed.Backend("MPI")

# Paddle 写法
"mpi"
# PyTorch 写法
torch.distributed.Backend("XCCL")

# Paddle 写法
"xccl"