我可以将压缩数据传输到GPU然后在GPU上解压缩吗？

Question

我正在尝试将大型稀疏矩阵发送给GPU，并且大部分计算时间都用于将数据从CPU传输到GPU。但是，我的数据实际上非常稀少（大量零值），所以我有了大量预压缩的想法，以帮助缓解带宽瓶颈。这在Tensorflow中可行吗？

Answer 1

当然。 SparseTensor类或cuSPARSE库是否满足您的需求？完全可以转换为COO，CSR或CSC等格式。