spark厦门大学

时间:2019-11-01 11:21:51   收藏:0   阅读:76

---恢复内容开始---

https://study.163.com/course/courseMain.htm?courseId=1209408816&_trace_c_p_k2_=be708555d46e4f39828eda1e25189113

Spark:基于内存的计算框架

技术分享图片

 

 

 技术分享图片

 

 

 技术分享图片

 

 

 技术分享图片

 

 

 spark生态系统

技术分享图片

 

 

 技术分享图片

 

spark基本架构:

RDD: Resilient Distributed Dataset(弹性分布式数据集)

数据可大可小 弹性分配分区 分布式在内存中

DAG:Directed Acyclic Graph(有向无环图)

Executor 进程(process)和线程(thread)的区别 Process means any program is in execution   process 里有好几个thread(状态:running,ready,blocked)

技术分享图片

 

 

 

 技术分享图片

Cluster Manager可以是yarn

 

技术分享图片

 

 

原文:https://www.cnblogs.com/cschen588/p/11775627.html

评论(0
© 2014 bubuko.com 版权所有 - 联系我们:wmxa8@hotmail.com
打开技术之扣,分享程序人生!