wait¶
- wait ( tensor, group=None, use_calc_stream=True ) ¶
同步通信组
参数¶
tensor (Tensor) - 指定同步时的 tensor 对象
group (Group) - 同步的通信组
use_calc_stream (bool) - 同步计算流(True),或同步通信流(False),默认为 True
返回¶
None
代码示例¶
import paddle
paddle.distributed.init_parallel_env()
tindata = paddle.randn(shape=[2, 3])
paddle.distributed.all_reduce(tindata, sync_op=True)
paddle.distributed.wait(tindata)