使用 MPI_Scatter 向所有其他进程发送一个数组索引的进程的错误输出

如何解决使用 MPI_Scatter 向所有其他进程发送一个数组索引的进程的错误输出

我只是想了解 MPI，但似乎无法理解为什么以下程序的输出与我预期的不同。

int rank,size;
  
MPI_Comm_rank(MPI_COMM_WORLD,&rank);
MPI_Comm_size(MPI_COMM_WORLD,&size);

int *sendbuf,*recvbuf;
sendbuf = (int *) malloc(sizeof(int) * size);
recvbuf = (int *) malloc(sizeof(int) * size);

for(int i = 0; i < size; i++) {
  sendbuf[i] = rank;
}
for(int i = 0; i < size; i++) {
  printf("sendbuf[%d] = %d,rank: %d\n",i,sendbuf[i],rank);
}

MPI_Scatter(sendbuf,1,MPI_INT,recvbuf,rank,MPI_COMM_WORLD);

for(int i = 0; i < size; i++) {
  printf("recvbuf[%d] = %d,recvbuf[i],rank);
}

据我所知，MPI_Scatter 将 sendcount 值从数组发送到所有进程。 在我的示例中，我为每个进程提供了一个填充了自己的等级编号的数组。 然后每个进程将其数组中的一个索引发送给所有其他进程。有两个进程，第一个进程有一个 sendbuf 数组：

sendbuf[0] = 0
sendbuf[1] = 0

第二个进程（等级 1）有一个大小为 MPI_Comm_size 的数组，其中填充了 1。 预期的输出应该是：

recvbuf[0] = 0,rank: 0
recvbuf[1] = 1,rank: 0
recvbuf[0] = 0,rank: 1
revcbuf[1] = 1,rank: 1

但我得到以下输出（对于两个进程）：

sendbuf[0] = 0,rank: 0
sendbuf[1] = 0,rank: 0
sendbuf[0] = 1,rank: 1
sendbuf[1] = 1,rank: 1
recvbuf[0] = 0,rank: 0
recvbuf[1] = 32690,rank: 0
recvbuf[0] = 1,rank: 1
recvbuf[1] = 32530,rank: 1

非常感谢任何指出我错误的帮助。

解决方法

我只是想了解 MPI，但似乎无法理解 明白了，为什么下面的程序输出和我的不一样 期待。

问题在于使用 MPI_Scatter 来实现您的目标：

将数据从一个进程发送到通信器中的所有其他进程 概要

int MPI_Scatter(const void *sendbuf,int sendcount,MPI_Datatype sendtype,void *recvbuf,int recvcount,MPI_Datatype recvtype,int root,MPI_Comm comm) 输入参数

sendbuf 发送缓冲区地址（选择，仅在 root 处有效）
sendcount 发送到每个进程的元素数（整数，仅在 root 处有效） sendtype 发送缓冲区元素的数据类型（仅在 root 处有效）（句柄）
recvcount 接收缓冲区中的元素数（整数）
recvtype 接收缓冲区元素的数据类型（句柄）
root 发送进程的等级（整数）
comm 通讯器（手柄）

每个进程都应该调用 MPI_Scatter 具有相同的根，而不是像您所做的那样使用不同的根（即进程的等级）：

MPI_Scatter(sendbuf,1,MPI_INT,recvbuf,rank,MPI_COMM_WORLD);
                                                       ^^^^

因此，您误用了 MPI_Scatter，该例程的目的是“将数据从一个进程发送到通信器中的所有其他进程”。 下图（取自source) 最好地说明了这一点：

只有一个根进程，它将数据分散到不同的进程中。例如，当一个进程有一个数据块（例如，一个数组）并且代码对这些数据执行一些操作时，就会使用这个例程。您可以通过在进程之间拆分数据来并行化代码，其中每个进程对其分配的数据块并行执行上述操作。之后，您可以调用 MPI_Gather 将所有进程的数据收集回原始数据来自的进程。

然后每个进程将其数组中的一个索引发送给所有其他进程 过程。

为此，您可以改用 MPI_Allgather，它“从所有任务收集数据并将组合数据分发给所有任务”。下图（取自 source）最能说明这一点：

如您所见，每个进程都会收集所有进程（包括其自身）发送的数据。

运行示例：

#include <stdio.h>
#include <stdlib.h>
#include <mpi.h>


int main(int argc,char **argv){
        int rank,size;
        MPI_Init(&argc,&argv);
        MPI_Comm_rank(MPI_COMM_WORLD,&rank);
        MPI_Comm_size(MPI_COMM_WORLD,&size);

        int *sendbuf = malloc(sizeof(int) * size);
        int *recvbuf = malloc(sizeof(int) * size);

        for(int i = 0; i < size; i++)
            sendbuf[i] = rank;      
        MPI_Allgather(sendbuf,MPI_COMM_WORLD);

        for(int i = 0; i < size; i++)
           printf("recvbuf[%d] = %d,rank: %d\n",i,recvbuf[i],rank);
        MPI_Finalize();
        return 0;
}

OUTPUT 用于两个进程：

recvbuf[0] = 0,rank: 0
recvbuf[1] = 1,rank: 0
recvbuf[0] = 0,rank: 1
recvbuf[1] = 1,rank: 1

对于您的特定情况（具有相同的输入大小），MPI_Alltoall 也可以使用，以了解 MPI_Allgather 与 MPI_Alltoall 之间的差异，我建议你检查这个SO thread。