分散式通訊

MLX 提供使用 MPI 的分散式通訊軟體包。MPI 程式庫會在執行時載入；若 MPI 可用，則分散式通訊也可用。

Group	mlx.core.distributed.Group 代表一組可互相通訊的獨立 mlx 程序。
is_available([backend])	檢查通訊後端是否可用。
init([strict, backend])	初始化通訊後端並建立全域通訊群組。
all_sum(x, *[, group, stream])	全體歸約求和。
all_gather(x, *[, group, stream])	從所有程序收集陣列。
send(x, dst, *[, group, stream])	將陣列從目前程序傳送至群組中排名為 dst 的程序。
recv(shape, dtype, src, *[, group, stream])	從排名為 src 的程序接收形狀為 shape 且 dtype 為 dtype 的陣列。
recv_like(x, src, *[, group, stream])	從排名為 src 的程序接收形狀與型別如 x 的陣列。