megengine.functional.distributed.all_gather

all_gather(inp, group=<megengine.distributed.group.Group object>, device='')

创建用于聚合通信的 all_gather 算子。

参数

• inp (Tensor) – 输入张量。

• group (Optional[Group]) – 通信组。

• device (Optional[str]) – 执行设备。

返回类型

Tensor

megengine.functional.distributed.remote_recv megengine.functional.distributed.all_to_all