MPI全局执行时间

Question

我正在研究一个将矩阵与一个数组相乘的小应用程序。它工作没有任何问题。我正在调侃用于衡量应用程序的执行时间。我可以找到每个进程（它的开始和结束）的执行时间，但我需要全球时间。

这是我的代码：

int main(int argc, char **argv){ 
    int rang, procesus; 
    MPI_Status statut; 
    double start, end, max_end = 0, min_start = 10000; 

    MPI_Init(&argc, &argv); 
    MPI_Comm_rank(MPI_COMM_WORLD, &rang); 
    MPI_Comm_size(MPI_COMM_WORLD, &procesus); 
    MPI_Barrier(MPI_COMM_WORLD); 

    start = MPI_Wtime(); 
    printf("Starting time of process n. %d %f\n",rang, start); 
    if(rang==0){ 
     //Master work 
    }else{ 
     //slaves work 
    } 
    MPI_Barrier(MPI_COMM_WORLD); 
    end = MPI_Wtime(); 
    printf("Ending time of process n.%d %f\n\n\n",rang, end); 

    MPI_Finalize(); 
//Out of the Parallelized task 

    if(min_start > start){ 
     min_start = start; 
     printf("New minumum starting time %f\n", min_start); 
    } 

    if(max_end < end){ 
     max_end = end; 
     printf("New maximum ending time %f\n", max_end); 
    } 

    if(rang == 0){ 
     printf("Start %f\n", min_start); 
     printf("End %f\n", max_end); 
    } 
    return 0; 
} 

我使用varables min_start和max_end为“全局”变量，试图赶上max和所有进程的最小的临时工，但我总是在开始和结束要执行的最后一个进程的tme，结束时间是可以的，但开始时间是错误的，因为最后一个进程是第一个开始。我究竟做错了什么？我可以在MPI中为所有进程使用一个真正的全局变量吗？如果我可以怎么做？

这就是我作为输出

Starting time of process n.2. 0.101562 
Ending time of process n.2. 0.105469 
New minumum starting time 0.101562 
New maximum ending time 0.105469 

Starting time of process n.3. 0.058594 
Ending time of process n.3. 0.062500 
New minumum starting time 0.058594 
New maximum ending time 0.062500 

Starting time of process n. 4. 0.007812 
Ending time of process n. 4. 0.011719 
New minumum starting time 0.007812 
New maximum ending time 0.011719 

Starting time of process n.1. 0.148438 
Ending time of process n.1. 0.152344 
New minumum starting time 0.148438 
New maximum ending time 0.152344 

Starting time of process n.0. 0.207031 
Ending time of process n.0. 0.210938 
New minumum starting time 0.207031 
New maximum ending time 0.210938 

Start 0.207031 
End 0.210938 

Answer 1

MPI_Init()和MPI_Finalize()不标记开始和并行执行的结束，只是一个开始和地方MPI允许呼叫的结束。在MPI中，您的所有流程始终并行运行，并且不分享任何全局数据。

您可以使用MPI_Reduce()来查找进程的最小开始时间和最大结束时间。

Answer 2

在大多数情况下，只需跟踪主节点上的开始和结束时间并且仅在主节点上派生全局运行时间就足够了。

有一两件事值得一提的是，你必须结束时间之前将收集的开始时间（以确保所有节点已准备好进入）之前障碍，（以确保所有节点都完成） 。

double start, end; 

MPI_Init(&argc, &argv); 
MPI_Comm_rank(MPI_COMM_WORLD, &rank); 

MPI_Barrier(MPI_COMM_WORLD); /* IMPORTANT */ 
start = MPI_Wtime(); 

/* ... do work ... */ 

MPI_Barrier(MPI_COMM_WORLD); /* IMPORTANT */ 
end = MPI_Wtime(); 

MPI_Finalize(); 

if (rank == 0) { /* use time on master node */ 
    printf("Runtime = %f\n", end-start); 
} 

否则所有节点在同一会给几乎与小偏差相同的结果，这取决于如何迅速从MPI_Barrier调用每个节点的回报。与大多数实际运行相比，这通常是非常小的值，可以打折。

如果MPI_Wtime未使用global synchronised clock，试图从不同节点获取使用开始/结束时间的时间是不值得的，可以给出错误的答案。请注意，某些MPI实现中不支持同步的Wtime（请参阅MPI_WTIME_IS_GLOBAL）。