我想保存一个数据框作为表使用saveAsTable以及它的工作原理,但我想保存表不是默认数据库,有谁知道是否有方法来设置要使用的数据库?我试着用hiveContext.sql(“use db_name”),这似乎没有做到这一点。有一个saveAsTable需要一些选项。有没有办法,我可以做到这一点与选择?Apache Spark 1.3数据帧SaveAsTable数据库其他然后默认
2
A
回答
3
它看起来并不像您可以设置数据库的名字呢?如果你看过HiveContext.scala代码,你看到很多评论像...
// TODO: Database support...
所以我猜测它还不支持。
更新:
在火花1.5.1这个作品,这没有早期版本。在早期的版本中,你不得不使用像deformitysnot answer这样的使用语句。
df.write.format("parquet").mode(SaveMode.Append).saveAsTable("databaseName.tablename")
3
这是固定在星火1.5,你可以用做:
hiveContext.sql("USE sparkTables");
dataFrame.saveAsTable("tab3", "orc", SaveMode.Overwrite);
通过星火1.5,你可以读星火的方式保存从蜂巢命令行dataframes(直线,...) ,这在早期版本中是不可能的。
相关问题
- 1. Spark数据帧saveAsTable vs保存
- 2. Spark数据帧saveAsTable不截断Hive表中的数据
- 3. 在Apache Spark中分割数据帧
- 4. 数据帧由其他
- 5. phpMyAdmin:FROM后忽略默认数据库
- 6. PHP:从数据库中,然后在其他页面显示计数数据
- 7. 我怎么能存储或Android其它获得SQLite数据库,然后数据库默认位置
- 8. Mongoose的默认数据库数据
- 9. 创建数据库和默认数据
- 10. Spark数据帧数据聚合
- 11. 数据库默认列
- 12. MySQL的默认数据库
- 13. 加载默认数据库
- 14. Oracle ODBC默认数据库
- 15. 熊猫:从其他数据帧信息创建数据帧行
- 16. 从其他数据帧的功能创建新的数据帧
- 17. 使用Apache-Spark-SQL访问数据库
- 18. 只向数据库添加1行然后跳过其他数据
- 19. 分析Spark中数据帧
- 20. spark saveAsTable权限
- 21. Spark read.jdbc saveAsTable
- 22. 如何过滤包含任何其他数据帧/集的任何值的数组列的Spark数据帧
- 23. Spark默认分区数
- 24. 从其他数据库获取数据
- 25. 如何将dataminder连接到其他数据库,然后通过默认的sql连接提供?
- 26. Apache Spark是否从目标数据库加载整个数据?
- 27. 数据帧排序依据Spark中
- 28. 查询其他数据库
- 29. GAE的其他数据库
- 30. 数据帧包含其他载体
谢谢amarouni。你的帖子也解决了我的问题。 –