0
cudaMalloc
似乎在被调用时产生了一个线程,即使它是异步的。这在使用cuda-gdb
的调试期间被观察到。 由cudaMalloc产生的新线程行为?
它也需要一段时间才能返回。
在程序结束时退出了相同的线程,但是作为不同的LWP。
有人可以解释这种行为吗?
cudaMalloc
似乎在被调用时产生了一个线程,即使它是异步的。这在使用cuda-gdb
的调试期间被观察到。 由cudaMalloc产生的新线程行为?
它也需要一段时间才能返回。
在程序结束时退出了相同的线程,但是作为不同的LWP。
有人可以解释这种行为吗?
线程并不是由cudaMalloc
特别产生的。用户端CUDA驱动程序API库似乎在具有CUDA上下文生存期的惰性上下文设置期间的某个阶段产生线程。确切的过程没有公开记录。
你看到这与cudaMalloc
相关联,因为我猜想这是第一个触发无论设置/回调需要做什么,以使用户空间驱动程序支持工作的API。你应该注意到只有第一次调用产生一个线程。后续的通话不会。线程在CUDA上下文的整个生命周期中保持活动状态,之后它们被终止。您可以在程序执行过程中的任何时刻通过调用cudaDeviceReset
来触发显式线程销毁。
这里是演示了cudaMemcpyToSymbol
触发线从驱动程序API库产卵,而不是cudaMalloc
一个简单的例子:
__device__ float someconstant;
int main()
{
cudaSetDevice(0);
const float x = 3.14159f;
cudaMemcpyToSymbol(someconstant, &x, sizeof(float));
for(int i=0; i<10; i++) {
int *x;
cudaMalloc((void **)&x, size_t(1024));
cudaMemset(x, 0, 1024);
cudaFree(x);
}
return int(cudaDeviceReset());
}
在gdb中我看到这一点:
(gdb) tbreak main
Temporary breakpoint 1 at 0x40254f: file gdb_threads.cu, line 5.
(gdb) run
Starting program: /home/talonmies/SO/a.out
[Thread debugging using libthread_db enabled]
Using host libthread_db library "/lib/x86_64-linux-gnu/libthread_db.so.1".
Temporary breakpoint 1, main() at gdb_threads.cu:5
5 cudaSetDevice(0);
(gdb) next
6 const float x = 3.14159f;
(gdb) next
7 cudaMemcpyToSymbol(someconstant, &x, sizeof(float));
(gdb) next
[New Thread 0x7ffff5eb5700 (LWP 14282)]
[New Thread 0x7fffed3ff700 (LWP 14283)]
8 for(int i=0; i<10; i++) {
(gdb) info threads
Id Target Id Frame
3 Thread 0x7fffed3ff700 (LWP 14283) "a.out" [email protected]@GLIBC_2.3.2()
at ../nptl/sysdeps/unix/sysv/linux/x86_64/pthread_cond_timedwait.S:238
2 Thread 0x7ffff5eb5700 (LWP 14282) "a.out" 0x00007ffff74d812d in poll() at ../sysdeps/unix/syscall-template.S:81
* 1 Thread 0x7ffff7fd1740 (LWP 14259) "a.out" main() at gdb_threads.cu:8
(gdb) thread apply all bt
Thread 3 (Thread 0x7fffed3ff700 (LWP 14283)):
#0 [email protected]@GLIBC_2.3.2() at ../nptl/sysdeps/unix/sysv/linux/x86_64/pthread_cond_timedwait.S:238
#1 0x00007ffff65cad97 in ??() from /usr/lib/x86_64-linux-gnu/libcuda.so.1
#2 0x00007ffff659582d in ??() from /usr/lib/x86_64-linux-gnu/libcuda.so.1
#3 0x00007ffff65ca4d8 in ??() from /usr/lib/x86_64-linux-gnu/libcuda.so.1
#4 0x00007ffff79bc182 in start_thread (arg=0x7fffed3ff700) at pthread_create.c:312
#5 0x00007ffff74e547d in clone() at ../sysdeps/unix/sysv/linux/x86_64/clone.S:111
Thread 2 (Thread 0x7ffff5eb5700 (LWP 14282)):
#0 0x00007ffff74d812d in poll() at ../sysdeps/unix/syscall-template.S:81
#1 0x00007ffff65c9953 in ??() from /usr/lib/x86_64-linux-gnu/libcuda.so.1
#2 0x00007ffff66571ae in ??() from /usr/lib/x86_64-linux-gnu/libcuda.so.1
#3 0x00007ffff65ca4d8 in ??() from /usr/lib/x86_64-linux-gnu/libcuda.so.1
#4 0x00007ffff79bc182 in start_thread (arg=0x7ffff5eb5700) at pthread_create.c:312
#5 0x00007ffff74e547d in clone() at ../sysdeps/unix/sysv/linux/x86_64/clone.S:111
Thread 1 (Thread 0x7ffff7fd1740 (LWP 14259)):
#0 main() at gdb_threads.cu:8
它是如何一个_lazy_建立 ?线程是不是立即产生? – kesari
为什么这是一个社区维基? – kesari
@kesari:这是懒惰的,因为上下文创建('cudaSetDevice'调用)不会产生线程,即使上下文在该点处处于活动状态。只有当需要线程的操作被调用时才会产生它们。而我最近的答案是社区wiki的答案。这就是我选择贡献的方式 – talonmies