交换CUDA无记忆移动的推力设备向量

Question

如果我有两个cudaMalloc ed数组，我可以通过交换相关指针来交换它们而无需记忆移动。

如果我有两个CUDA推力device_vectors，说d_a和d_b，我可以通过使用第三temorary向量交换他们，说d_c，但这将需要记忆的动作。

我的问题是：有没有办法将CUDA Thrust device_vectors交换为无内存移动？

Answer 1

不是我所知道的。

没有公开的构造函数需要现有的device_ptr，并且device_vector中的底层基向量是私有的，所以无法潜入并自己执行指针交换。这些将是我能想到的唯一方法，使其在不触发标准拷贝构造函数的情况下进行这项工作。

---

编辑补充说它看起来这个答案是错误的。看来最近（可能在推力1.6左右）的变化已经实现了一个内部指针交换交换机制，可以通过device_vector.swap()调用。这绕开了通常的swap()的复制构造函数成语，并且不会触发内存传输 。

Answer 2

看起来device_vector.swap()可以避免内存移动。使用

d_b.swap(d_a); 

#include "cuda_runtime.h" 
#include "device_launch_parameters.h" 

#include <stdio.h> 

#include <thrust\device_vector.h> 

void printDeviceVector(thrust::device_vector<int> &d_a) { 

    for (int k = 0; k < d_a.size(); k++) { 

     int temp = d_a[k]; 
     printf("%i\n", temp); 

    } 

} 

int main() 
{ 
    const int N = 10; 

    thrust::device_vector<int> d_a(N, 1); 
    thrust::device_vector<int> d_b(N, 2); 

    // --- Original 
    printf("Original device vector d_a\n"); 
    printDeviceVector(d_a); 
    printf("Original device vector d_b\n"); 
    printDeviceVector(d_b); 

    d_b.swap(d_a); 

    // --- Original 
    printf("Final device vector d_a\n"); 
    printDeviceVector(d_a); 
    printf("Final device vector d_b\n"); 
    printDeviceVector(d_b); 

    d_a.clear(); 
    thrust::device_vector<int>().swap(d_a); 
    d_b.clear(); 
    thrust::device_vector<int>().swap(d_b); 

    cudaDeviceReset(); 

    return 0; 
} 

如果我们描述文件时，我们看到在时间轴上没有设备到设备内存运动：

事实上，考虑下面的代码

如果在另一方面我们更改d_b.swap(d_a)到

d_b = d_a; 

然后设备到设备的运动出现在时间轴：

最后，定时是显著赞成d_b.swap(d_a)，而不是d_b = d_a。对于N = 33554432，定时是

d_b.swap(d_a)  0.001152ms 
d_b = d_a   3.181824ms