Spark API编程中spark文件操作和debug是怎样的

云计算

本篇文章为大家展示了Spark API编程中spark文件操作和debug是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

这次 我们以指定executor-memory参数的方式来启动spark-shell:

从hdfs上读取文件:

可以看出MappedRDD是从HadoopRDD转换而来的

再看下textFile的源代码:

下面进行一个简单的wordcount操作:

再次使用toDebugString,查看下依赖关系:

HadoopRDD -> MappedRDD -> FlatMappedRDD ->  MappedRDD -> ShuffledRDD 

上述内容就是Spark API编程中spark文件操作和debug是怎样的,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注箭头云行业资讯频道。

更多关于云服务器域名注册虚拟主机的问题,请访问西部数码官网:www.west.cn

赞(0)
声明:本网站发布的内容(图片、视频和文字)以原创、转载和分享网络内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-62778877-8306;邮箱:fanjiao@west.cn。本站原创内容未经允许不得转载,或转载时需注明出处:西部数码知识库 » Spark API编程中spark文件操作和debug是怎样的

登录

找回密码

注册