new_group¶

new_group ( ranks=None, backend=None ) ¶

创建分布式通信组。

参数¶

ranks (list) - 用于新建通信组的全局 rank 列表

backend (str) - 用于新建通信组的后端支持，目前仅支持 nccl

返回¶

Group：新建的通信组对象

代码示例¶

          >>> import paddle

>>> paddle.distributed.init_parallel_env()
>>> tindata = paddle.randn(shape=[2, 3])
>>> gp = paddle.distributed.new_group([2, 4, 6])
>>> paddle.distributed.all_reduce(tindata, group=gp, sync_op=False)

         