spark的standalone模式采用的是(spark集群时配置什么环境变量)

技术Spark中Standalone模式下Spark应用的整个启动过程是怎样的本篇文章为大家展示了Spark中Standalone模式下Spark应用的整个启动过程是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,

本篇文章为大家展示了火花中单独的模式下火花应用的整个启动过程是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

一,Standalone模式下的spark角色

大家都知道在Standalone模式下,spark一共有以下五种角色:

sparksubmit,master,Worker,Driver,Executor。具体这五种角色在我们提交应用的时候起到哪些作用呢,我们下面就来详细讲解

1,SparkSubmit

加载一个火花应用程序的入口。这个类处理设置发动相关依赖的类路径(足见其重要性),同时屏蔽了不同集群管理器和不同部署模式的细节,为用户提供统一接口。

2,Master

主要功能:

a),接受工人的注册并管理工人

b),接受迷你图提交提交的申请,并调度启动驱动程序(发送LaunchDriver给工人).

c),接受驾驶员端AppClient发送的注册应用程序(应用程序描述,自身),然后调度,发送启动执行程序消息给工人。

3,Worker

a),向掌握注册,并维持心跳。

b),接受掌握的LaunchDriver消息,并启动司机。

c),接受掌握的启动执行程序消息,并启动执行者

4,Driver

a),通过AppClient向掌握注册App,此时携带者CoraseGrainedExecutorBackend后端后端信息。

b),接受执行者注册,维护执行者信息。

c),划分舞台,封装任务,并调度任务。

5,Executor

a),向驾驶员注册自己并维护心跳

b),接受驾驶员的启动任务信息,并执行任务。

c),将工作执行结果返回给司机。

二独立的提交一个应用源码过程

1,启动Driver的过程

Org.apache.spark.launcher.Main

组织。阿帕奇。火花。部署。迷你提交

组织。阿帕奇。火花。部署。休息。restsubmissionclient

组织。阿帕奇。火花。部署。休息。standalonerserver

组织。阿帕奇。火花。部署。主人。掌握

组织。阿帕奇。火花。部署。工人。工人

组织。阿帕奇。火花。部署。工人。驱动跑步者

组织。阿帕奇。火花。部署。工人。司机说唱歌手

用户自定义程序~~~

2,启动Executor的过程

org.apache.spark.SparkContext

组织。阿帕奇。火花。调度程序。集群。sparkdeploysschedulerbackand

组织。阿帕奇。火花。部署。客户。appclient

组织。阿帕奇。火花。部署。主人。掌握

组织。阿帕奇。火花。部署。工人。工人

组织。阿帕奇。火花。部署。工人。执行者跑者

组织。阿帕奇。火花。执行者。grossgrainedeexecutorbacknd

组织。阿帕奇。火花。执行者。执行者

3,执行task的过程

组织。阿帕奇。火花。调度程序。集群。粗糙粒度调度rBackend

组织。阿帕奇。火花。执行者。grossgrainedeexecutorbacknd

组织。阿帕奇。火花。执行者。执行者

组织。阿帕奇。火花。执行者。TaskRunner

三,结合具体流程图讲解

Spark中Standalone模式下Spark应用的整个启动过程是怎样的

上述内容就是火花中单独的模式下火花应用的整个启动过程是怎样的,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注行业资讯频道。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/149261.html

(0)

相关推荐

  • 如何进行JavaScript数据扁平化分析

    技术如何进行JavaScript数据扁平化分析如何进行JavaScript数据扁平化分析,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。什么是

    攻略 2021年12月4日
  • Locust:简介和基本用法

    技术Locust:简介和基本用法 Locust:简介和基本用法我个人在性能测试工作中,负载生成工具使用的大多都是jmeter,现在来看看locust,因为可以用python编写脚本,进行定制化,而我自己

    礼包 2021年11月29日
  • CF1148H Holy Diver

    技术CF1148H Holy Diver CF1148H Holy Diver一、题目
    点此看题
    二、解法
    输入特性要求的做法就应该是移动右端点 \(r\) 然后维护一些东西。
    首先考虑怎么维护 \([

    礼包 2021年10月28日
  • 风的笔顺是,风的第二笔的笔画名称是什么

    技术风的笔顺是,风的第二笔的笔画名称是什么撇、横折弯钩/横斜钩、撇、点风的笔顺是。 风字详解: 一、详细信息:
    拼音:fēng、fěng  
    部首:风
    笔画:4
    二、笔顺图: 三、基本释义:
    (1)读作:fēn

    生活 2021年10月25日
  • 正则化 Regularization

    技术正则化 Regularization 正则化 Regularization什么是正则化
    凡是减少泛化误差(而不是训练误差)的方法都可以称作正则化
    换句话说,也就是减小过拟合的方法
    范数 Norm
    L

    礼包 2021年10月28日
  • C++怎么结合使用泛型和面向对象技术

    技术C++怎么结合使用泛型和面向对象技术本篇内容介绍了“C++怎么结合使用泛型和面向对象技术”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅

    攻略 2021年11月24日