内核中的CUDA流ID

Question

如何找出内核函数中的当前执行流ID？我期望一个类似于blockIdx或threadIdx的预定义变量，但是找不到任何提及的“streamId”。有另一种方法吗？

Answer 1

在CUDA中，流是主机驱动程序工具 - 实际上只是一系列命令管道，驱动程序从中选择要在GPU上启动的任务。在“基本”CUDA架构中，GPU具有用于PCI Express总线上内存传输的“DMA引擎”，以及用于执行内核代码的“执行引擎”，就是这样。在费米，最多可以有两个“DMA引擎”，“执行引擎”似乎是主机驱动程序可配置的，以允许多个内核执行。该驱动程序将工作从一个或多个FIFO缓冲区（通过流API公开）推送到这些引擎上。但GPU本身并不知道任何有关流的信息，它们就是主机端设备。

Answer 2

如果您需要在内核中的流ID，你总是可以在把它作为参数传递给内核：

__global___ 
void kernel(int streamId) { 
    //... 
} 

void callKernel() { 
    cudaStream_t stream; 
    cudaStreamCreate(&stream); 

    kernel<<<1,1,0,stream>>>((int)stream); 
}