本篇文章为大家展示了火花中单独的模式下火花应用的整个启动过程是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。
一,Standalone模式下的spark角色
大家都知道在Standalone模式下,spark一共有以下五种角色:
sparksubmit,master,Worker,Driver,Executor。具体这五种角色在我们提交应用的时候起到哪些作用呢,我们下面就来详细讲解
1,SparkSubmit
加载一个火花应用程序的入口。这个类处理设置发动相关依赖的类路径(足见其重要性),同时屏蔽了不同集群管理器和不同部署模式的细节,为用户提供统一接口。
2,Master
主要功能:
a),接受工人的注册并管理工人
b),接受迷你图提交提交的申请,并调度启动驱动程序(发送LaunchDriver给工人).
c),接受驾驶员端AppClient发送的注册应用程序(应用程序描述,自身),然后调度,发送启动执行程序消息给工人。
3,Worker
a),向掌握注册,并维持心跳。
b),接受掌握的LaunchDriver消息,并启动司机。
c),接受掌握的启动执行程序消息,并启动执行者
4,Driver
a),通过AppClient向掌握注册App,此时携带者CoraseGrainedExecutorBackend后端后端信息。
b),接受执行者注册,维护执行者信息。
c),划分舞台,封装任务,并调度任务。
5,Executor
a),向驾驶员注册自己并维护心跳
b),接受驾驶员的启动任务信息,并执行任务。
c),将工作执行结果返回给司机。
二独立的提交一个应用源码过程
1,启动Driver的过程
Org.apache.spark.launcher.Main
组织。阿帕奇。火花。部署。迷你提交
组织。阿帕奇。火花。部署。休息。restsubmissionclient
组织。阿帕奇。火花。部署。休息。standalonerserver
组织。阿帕奇。火花。部署。主人。掌握
组织。阿帕奇。火花。部署。工人。工人
组织。阿帕奇。火花。部署。工人。驱动跑步者
组织。阿帕奇。火花。部署。工人。司机说唱歌手
用户自定义程序~~~
2,启动Executor的过程
org.apache.spark.SparkContext
组织。阿帕奇。火花。调度程序。集群。sparkdeploysschedulerbackand
组织。阿帕奇。火花。部署。客户。appclient
组织。阿帕奇。火花。部署。主人。掌握
组织。阿帕奇。火花。部署。工人。工人
组织。阿帕奇。火花。部署。工人。执行者跑者
组织。阿帕奇。火花。执行者。grossgrainedeexecutorbacknd
组织。阿帕奇。火花。执行者。执行者
3,执行task的过程
组织。阿帕奇。火花。调度程序。集群。粗糙粒度调度rBackend
组织。阿帕奇。火花。执行者。grossgrainedeexecutorbacknd
组织。阿帕奇。火花。执行者。执行者
组织。阿帕奇。火花。执行者。TaskRunner
三,结合具体流程图讲解
上述内容就是火花中单独的模式下火花应用的整个启动过程是怎样的,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注行业资讯频道。
内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/149261.html