new_group

new_group ( ranks=None, backend=None )

创建分布式通信组。

参数

  • ranks (list) - 用于新建通信组的全局 rank 列表

  • backend (str) - 用于新建通信组的后端支持，目前仅支持 nccl

返回

Group：新建的通信组对象

代码示例

import paddle

paddle.distributed.init_parallel_env()
tindata = paddle.randn(shape=[2, 3])
gp = paddle.distributed.new_group([2,4,6])
paddle.distributed.all_reduce(tindata, group=gp, sync_op=False)