用户登录
用户注册

分享至

spark读取本地文件

  • 作者: 当时-我就懵B了
  • 来源: 51数据库
  • 2020-09-26
默认是从hdfs读取文件,也可以指定sc.textFile("路径").在路径前面加上hdfs://表示从hdfs文件系统上读
本地文件读取 sc.textFile("路径").在路径前面加上file:// 表示从本地文件系统读,如file:///home/user/spark/README.md



  spark加载本地文件是val rdd = sc.textfile( "file://opt/aaa.txt" ),其中/opt/aaa.txt可以替换成你的路径
软件
前端设计
程序设计
Java相关