Spark：将RDD [（Long，Array [Double]）]转换为RDD [（Long，Long，Double）]

Question

我有一个RDD格式的每个条目（Long，Array [Double]）。例如：

val A = sc.parallelize([(0, [5.0, 8.3]), (1, [4.2, 1.2])]) 

我想变换到窗体：

[(0, 0, 5.0), (0, 1, 8.3), (1, 0, 4.2), (1, 1, 1.2)], 

其中在元组中的第二个元素是从数组的值的索引。

Answer 1

试试这个：

A.flatMap { case (first, dbls) => dbls.zipWithIndex.map { case (dbl, ix) => (first, ix.toLong, dbl) } } 

Answer 2

你可以这样来做：

A.flatMap {case (v, arr) => arr.zipWithIndex.map {case (a, i) => (v, i, a)}}