zookeeper存在什么问题(zookeeper的作用是怎么实现的)

技术ZooKeeper的问题都有哪些这期内容当中小编将会给大家带来有关ZooKeeper的问题都有哪些,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。1. 面试官:工作中使用过Zooke

本期,边肖将给大家带来关于动物园管理员的问题。文章内容丰富,从专业角度进行分析和描述。希望你看完这篇文章能有所收获。

1. 面试官:工作中使用过Zookeeper嘛?你知道它是什么,有什么用途呢?

“我是带配菜的鸡:”

如果是这样,用ZooKeeper作为“dubbo的注册中心”,用ZooKeeper实现“分布式锁”。

ZooKeeper是一个开源的“分布式协调服务”,它是一个集群的管理者,为用户提供易于使用的界面。

基于Zookeeper,可以实现数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master选举、分布式锁和分布式队列等功能。

Zookeeper的用途:命名服务、配置管理、集群管理、分布式锁、队列管理。

用途和功能不一样?给我看看,让我自己知道。

2. 面试官:说下什么是命名服务,什么是配置管理,又什么是集群管理吧

「小菜鸡的我(幸好我刷过面试题),无所畏惧」

「命名服务就是」:

命名服务是指通过“指定名称”获取资源或服务地址。Zookeeper可以创建一个全局唯一的路径,并且这个路径可以用作名称。命名实体可以是“集群中的机器、服务地址或远程对象”等。一些分布式服务框架(RPC、RMI)中的服务地址列表,通过使用命名服务,客户端应用程序可以根据特定的名称获取资源的实体、服务地址和提供者信息。

「配置管理」 :

在实际的项目开发中,我们经常使用。属性或xml,而我们需要配置很多信息,比如数据库连接信息、fps地址端口等等。因为你的程序一般分布在不同的机器上(如果你是单机应用,我没那么说),如果程序的配置信息是“保存在zk的znode节点”,当你想修改配置的时候,也就是znode会发生变化的时候,你可以通过改变zk中一个目录节点的内容,使用“观察者通知所有客户端”来改变配置。

「集群管理」

集群管理包括集群监控和集群控制,实际上就是监控集群机器的状态,淘汰机器,加入机器。Zookeeper可以方便集群机器的管理。它可以实时监控节点的变化。一旦发现一台机器死亡,它将与zk断开连接,使用的临时目录节点将被删除,所有其他机器将被通知。新增机器类似酱紫色,通知所有机器新增了兄弟目录。

3. 面试官:你提到了znode节点,那你知道znode有几种类型呢?zookeeper的数据模型是怎样的呢?

「小菜鸡的我(我先想想):」

zookeeper的数据模型

ZooKeeper的视图数据结构很像Unix文件系统,也是树状的,可以保证每个路径都是唯一的。Zookeeper的节点统一称为“znode”,可以用“路径”来标识。结构图如下:

ZooKeeper的问题都有哪些

znode的4种类型

根据节点的生命周期,znode可以分为四种类型:持久节点、持久顺序节点、临时节点和短暂顺序节点。

持久节点(PERSISTENT)

这种节点创建后,将一直存在于Zk服务器上。直到被手动删除。

持久顺序节点(PERSISTENT_SEQUENTIAL)

它的基本特征与持久节点相同,但不同的是它增加了顺序。父节点保持一个自增数,用于子节点的创建顺序。

临时节点(EPHEMERAL)

临时节点的生命周期绑定到客户端的会话。一旦客户端的会话失败(非TCP连接断开),该节点将被自动清理。Zk规定临时节点只能作为叶节点使用。

临时顺序节点(EPHEMERAL_SEQUENTIAL)

基本功能与临时节点相同,但增加了顺序功能。

4、面试官:你知道znode节点里面存储的是什么吗?每个节点的数据最大不能超过多少呢?

「小菜鸡的我:」

znode节点中存储了什么?

氧化锌数据编码

如下

public class DataNode implements Record {     byte data[];                         Long acl;                            public StatPersisted stat;            private Set<String> children = null;  }

哈哈,Znode包含了「存储数据、访问权限、子节点引用、节点状态信息」,如图:

ZooKeeper的问题都有哪些

  • 「data:」 znode存储的业务数据信息

  • 「ACL:」 记录客户端对znode节点的访问权限,如IP等。

  • 「child:」 当前节点的子节点引用

  • 「stat:」 包含Znode节点的状态信息,比如「事务id、版本号、时间戳」等等。

每个节点的数据最大不能超过多少呢

为了保证高吞吐和低延迟,以及数据的一致性,znode只适合存储非常小的数据,不能超过1M,最好都小于1K。

5、面试官:你知道znode节点上的监听机制嘛?讲下Zookeeper watch机制吧。

「小菜鸡的我:」

  • Watcher机制

  • 监听机制的工作原理

  • Watcher特性总结

Watcher监听机制

Zookeeper  允许客户端向服务端的某个Znode注册一个Watcher监听,当服务端的一些指定事件触发了这个Watcher,服务端会向指定客户端发送一个事件通知来实现分布式的通知功能,然后客户端根据  Watcher通知状态和事件类型做出业务上的改变。

可以把Watcher理解成客户端注册在某个Znode上的触发器,当这个Znode节点发生变化时(增删改查),就会触发Znode对应的注册事件,注册的客户端就会收到异步通知,然后做出业务的改变。

Watcher监听机制的工作原理

ZooKeeper的问题都有哪些

ZooKeeper的Watcher机制主要包括客户端线程、客户端 WatcherManager、Zookeeper服务器三部分。

客户端向ZooKeeper服务器注册Watcher的同时,会将Watcher对象存储在客户端的WatchManager中。

当zookeeper服务器触发watcher事件后,会向客户端发送通知, 客户端线程从 WatcherManager 中取出对应的 Watcher  对象来执行回调逻辑。

Watcher特性总结

  • 「一次性:」 一个Watch事件是一个一次性的触发器。一次性触发,客户端只会收到一次这样的信息。

  • 「异步的:」  Zookeeper服务器发送watcher的通知事件到客户端是异步的,不能期望能够监控到节点每次的变化,Zookeeper只能保证最终的一致性,而无法保证强一致性。

  • 「轻量级:」 Watcher 通知非常简单,它只是通知发生了事件,而不会传递事件对象内容。

  • 「客户端串行:」 执行客户端 Watcher 回调的过程是一个串行同步的过程。

  • 注册 watcher用getData、exists、getChildren方法

  • 触发 watcher用create、delete、setData方法

6、面试官:你对Zookeeper的数据结构都有一定了解,那你讲下Zookeeper的特性吧

「小菜鸡的我:(我背过书,啊哈哈)」

Zookeeper 保证了如下分布式一致性特性:

  • 「顺序一致性」:从同一客户端发起的事务请求,最终将会严格地按照顺序被应用到 ZooKeeper 中去。

  • 「原子性」:所有事务请求的处理结果在整个集群中所有机器上的应用情况是一致的,也就是说,要么整个集群中所有的机器都成功应用了某一个事务,要么都没有应用。

  • 「单一视图」:无论客户端连到哪一个 ZooKeeper 服务器上,其看到的服务端数据模型都是一致的。

  • 「可靠性:」 一旦服务端成功地应用了一个事务,并完成对客户端的响应,那么该事务所引起的服务端状态变更将会被一直保留下来。

  • 「实时性(最终一致性):」 Zookeeper 仅仅能保证在一定的时间段内,客户端最终一定能够从服务端上读取到最新的数据状态。

7、面试官:你刚提到顺序一致性,那zookeeper是如何保证事务的顺序一致性的呢?

「小菜鸡的我:(完蛋了这题不会)」

这道题可以看下这篇文章(本题答案来自该文章):聊一聊ZooKeeper的顺序一致性[1]  https://time.geekbang.org/column/article/239261

需要了解事务ID,即zxid。ZooKeeper的在选举时通过比较各结点的zxid和机器ID选出新的主结点的。zxid由Leader节点生成,有新写入事件时,Leader生成新zxid并随提案一起广播,每个结点本地都保存了当前最近一次事务的zxid,zxid是递增的,所以谁的zxid越大,就表示谁的数据是最新的。

ZXID的生成规则如下:

ZooKeeper的问题都有哪些

ZXID有两部分组成:

  • 任期:完成本次选举后,直到下次选举前,由同一Leader负责协调写入;

  • 事务计数器:单调递增,每生效一次写入,计数器加一。

ZXID的低32位是计数器,所以同一任期内,ZXID是连续的,每个结点又都保存着自身最新生效的ZXID,通过对比新提案的ZXID与自身最新ZXID是否相差“1”,来保证事务严格按照顺序生效的。

8、面试官:你提到了Leader,你知道Zookeeper的服务器有几种角色嘛?Zookeeper下Server工作状态又有几种呢?

「小菜鸡的我:」

Zookeeper 服务器角色

Zookeeper集群中,有Leader、Follower和Observer三种角色

「Leader」

Leader服务器是整个ZooKeeper集群工作机制中的核心,其主要工作:

事务请求的唯一调度和处理者,保证集群事务处理的顺序性

集群内部各服务的调度者

「Follower」

Follower服务器是ZooKeeper集群状态的跟随者,其主要工作:

  • 处理客户端非事务请求,转发事务请求给Leader服务器

  • 参与事务请求Proposal的投票

  • 参与Leader选举投票

「Observer」

Observer是3.3.0  版本开始引入的一个服务器角色,它充当一个观察者角色&mdash;&mdash;观察ZooKeeper集群的最新状态变化并将这些状态变更同步过来。其工作:

  • 处理客户端的非事务请求,转发事务请求给 Leader 服务器

  • 不参与任何形式的投票

Zookeeper下Server工作状态

服务器具有四种状态,分别是 LOOKING、FOLLOWING、LEADING、OBSERVING。

  • 1.LOOKING:寻找Leader状态。当服务器处于该状态时,它会认为当前集群中没有 Leader,因此需要进入 Leader 选举状态。

  • 2.FOLLOWING:跟随者状态。表明当前服务器角色是Follower。

  • 3.LEADING:领导者状态。表明当前服务器角色是Leader。

  • 4.OBSERVING:观察者状态。表明当前服务器角色是Observer。

9、面试官:你说到服务器角色是基于ZooKeeper集群的,那你画一下ZooKeeper集群部署图吧?ZooKeeper是如何保证主从节点数据一致性的呢?

「小菜鸡的我:」

ZooKeeper集群部署图

ZooKeeper的问题都有哪些

ZooKeeper集群是一主多从的结构:

  • 如果是写入数据,先写入主服务器(主节点),再通知从服务器。

  • 如果是读取数据,既读主服务器的,也可以读从服务器的。

ZooKeeper如何保证主从节点数据一致性

我们知道集群是主从部署结构,要保证主从节点一致性问题,无非就是两个主要问题:

  • 「主服务器挂了,或者重启了」

  • 「主从服务器之间同步数据」~

Zookeeper是采用ZAB协议(Zookeeper Atomic  Broadcast,Zookeeper原子广播协议)来保证主从节点数据一致性的,ZAB协议支持「崩溃恢复和消息广播」两种模式,很好解决了这两个问题:

  • 崩溃恢复:Leader挂了,进入该模式,选一个新的leader出来

  • 消息广播:把更新的数据,从Leader同步到所有Follower

Leader服务器挂了,所有集群中的服务器进入LOOKING状态,首先,它们会选举产生新的Leader服务器;接着,新的Leader服务器与集群中Follower服务进行数据同步,当集群中超过半数机器与该  Leader服务器完成数据同步之后,退出恢复模式进入消息广播模式。Leader 服务器开始接收客户端的事务请求生成事务Proposal进行事务请求处理。

10、面试官:Leader挂了,进入崩溃恢复,是如何选举Leader的呢?你讲一下ZooKeeper选举机制吧

「小菜鸡的我:」

服务器启动或者服务器运行期间(Leader挂了),都会进入Leader选举,我们来看一下~假设现在ZooKeeper集群有五台服务器,它们myid分别是服务器1、2、3、4、5,如图:

ZooKeeper的问题都有哪些

服务器启动的Leader选举

zookeeper集群初始化阶段,服务器(myid=1-5)「依次」启动,开始zookeeper选举Leader~

ZooKeeper的问题都有哪些

  • 服务器1(myid=1)启动,当前只有一台服务器,无法完成Leader选举

  • 服务器2(myid=2)启动,此时两台服务器能够相互通讯,开始进入Leader选举阶段

1.每个服务器发出一个投票

服务器1 和  服务器2都将自己作为Leader服务器进行投票,投票的基本元素包括:服务器的myid和ZXID,我们以(myid,ZXID)形式表示。初始阶段,服务器1和服务器2都会投给自己,即服务器1的投票为(1,0),服务器2的投票为(2,0),然后各自将这个投票发给集群中的其他所有机器。

2.接受来自各个服务器的投票

每个服务器都会接受来自其他服务器的投票。同时,服务器会校验投票的有效性,是否本轮投票、是否来自LOOKING状态的服务器。

3.处理投票

收到其他服务器的投票,会将别人的投票跟自己的投票PK,PK规则如下:

  • 优先检查ZXID。ZXID比较大的服务器优先作为leader。

  • 如果ZXID相同的话,就比较myid,myid比较大的服务器作为leader。服务器1的投票是(1,0),它收到投票是(2,0),两者zxid都是0,因为收到的myid=2,大于自己的myid=1,所以它更新自己的投票为(2,0),然后重新将投票发出去。对于服务器2呢,即不再需要更新自己的投票,把上一次的投票信息发出即可。

4.统计投票

每次投票后,服务器会统计所有投票,判断是否有过半的机器接受到相同的投票信息。服务器2收到两票,少于3(n/2+1,n为总服务器5),所以继续保持LOOKING状态

  • 服务器3(myid=3)启动,继续进入Leader选举阶段

跟前面流程一致,服务器1和2先投自己一票,因为服务器3的myid最大,所以大家把票改投给它。此时,服务器为3票(大于等于n/2+1),所以服务器3当选为Leader。服务器1,2更改状态为FOLLOWING,服务器3更改状态为LEADING;

  • 服务器4启动,发起一次选举。

此时服务器1,2,3已经不是LOOKING状态,不会更改选票信息。选票信息结果:服务器3为3票,服务器4为1票。服务器4并更改状态为FOLLOWING;

  • 服务器5启动,发起一次选举。

同理,服务器也是把票投给服务器3,服务器5并更改状态为FOLLOWING;

  • 投票结束,服务器3当选为Leader

服务器运行期间的Leader选举

zookeeper集群的五台服务器(myid=1-5)正在运行中,突然某个瞬间,Leader服务器3挂了,这时候便开始Leader选举~

ZooKeeper的问题都有哪些

  • 1.变更状态

Leader 服务器挂了之后,余下的非Observer服务器都会把自己的服务器状态更改为LOOKING,然后开始进入Leader选举流程。

  • 2.每个服务器发起投票

每个服务器都把票投给自己,因为是运行期间,所以每台服务器的ZXID可能不相同。假设服务1,2,4,5的zxid分别为333,666,999,888,则分别产生投票(1,333),(2,666),(4,999)和(5,888),然后各自将这个投票发给集群中的其他所有机器。

  • 3.接受来自各个服务器的投票

  • 4.处理投票

投票规则是跟Zookeeper集群启动期间一致的,优先检查ZXID,大的优先作为Leader,所以显然服务器zxid=999具有优先权。

  • 5.统计投票

  • 6.改变服务器状态

11、面试官:你前面提到在项目中使用过Zookeeper的分布式锁,讲一下zk分布式锁的实现原理吧?

「小菜鸡的我:」

Zookeeper就是使用临时顺序节点特性实现分布式锁的。

  • 获取锁过程 (创建临时节点,检查序号最小)

  • 释放锁 (删除临时节点,监听通知)

获取锁过程

当第一个客户端请求过来时,Zookeeper客户端会创建一个持久节点/locks。如果它(Client1)想获得锁,需要在locks节点下创建一个顺序节点lock1.如图

ZooKeeper的问题都有哪些

接着,客户端Client1会查找locks下面的所有临时顺序子节点,判断自己的节点lock1是不是排序最小的那一个,如果是,则成功获得锁。

ZooKeeper的问题都有哪些

这时候如果又来一个客户端client2前来尝试获得锁,它会在locks下再创建一个临时节点lock2

ZooKeeper的问题都有哪些

客户端client2一样也会查找locks下面的所有临时顺序子节点,判断自己的节点lock2是不是最小的,此时,发现lock1才是最小的,于是获取锁失败。获取锁失败,它是不会甘心的,client2向它排序靠前的节点lock1注册Watcher事件,用来监听lock1是否存在,也就是说client2抢锁失败进入等待状态。

ZooKeeper的问题都有哪些

此时,如果再来一个客户端Client3来尝试获取锁,它会在locks下再创建一个临时节点lock3

ZooKeeper的问题都有哪些

同样的,client3一样也会查找locks下面的所有临时顺序子节点,判断自己的节点lock3是不是最小的,发现自己不是最小的,就获取锁失败。它也是不会甘心的,它会向在它前面的节点lock2注册Watcher事件,以监听lock2节点是否存在。

ZooKeeper的问题都有哪些

释放锁

我们再来看看释放锁的流程,zookeeper的「客户端业务完成或者故障」,都会删除临时节点,释放锁。如果是任务完成,Client1会显式调用删除lock1的指令

ZooKeeper的问题都有哪些

如果是客户端故障了,根据临时节点得特性,lock1是会自动删除的

ZooKeeper的问题都有哪些

lock1节点被删除后,Client2可开心了,因为它一直监听着lock1。lock1节点删除,Client2立刻收到通知,也会查找locks下面的所有临时顺序子节点,发下lock2是最小,就获得锁。

ZooKeeper的问题都有哪些

同理,Client2获得锁之后,Client3也对它虎视眈眈,啊哈哈~

12. 面试官:好的,最后一道题,你说说dubbo和Zookeeper的关系吧,为什么选择Zookeeper作为注册中心?

小菜鸡的我(答了这么多道题,不会还不给我过吧?):

dubbo的注册中心可以选Zookeeper,memcached,redis等。为什么选择Zookeeper,因为它的功能特性咯~

  • 命名服务,服务提供者向Zookeeper指定节点写入url,完成服务发布。

  • 负载均衡,注册中心的承载能力有限,而Zookeeper集群配合web应用很容易达到负载均衡。

  • zk支持监听事件,特别适合发布/订阅的场景,dubbo的生产者和消费者就类似这场景。

  • 数据模型简单,数据存在内存,可谓高性能

  • Zookeeper其他特点都可以搬出来讲一下~

上述就是小编为大家分享的ZooKeeper的问题都有哪些了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注行业资讯频道。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/157337.html

(0)

相关推荐

  • 租用香港云服务器有什么好处

    技术租用香港云服务器有什么好处很多用户建站的时候经常会在选择云服务器和物理服务器之间摇摆不定,实际上如果没有特别高的性能需求的话还是推荐选择云服务器更方便更省钱,下面让我们深入挖掘并研究使用云服务器建站的的好处。随时随地

    礼包 2021年12月23日
  • 导致JVM物理内存消耗大的Bug是怎么样的

    技术导致JVM物理内存消耗大的Bug是怎么样的导致JVM物理内存消耗大的Bug是怎么样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。概述最

    攻略 2021年10月23日
  • CALMS及其与数据库DevOps的关系是什么

    技术CALMS及其与数据库DevOps的关系是什么CALMS及其与数据库DevOps的关系是什么,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获

    攻略 2021年12月1日
  • MongoDB 的简单使用

    技术MongoDB 的简单使用 MongoDB 的简单使用MongoDB数据库操作
    Student文档如下:{
    “name”: “zhangsan”,
    “score”: {
    “English”: 69,

    礼包 2021年10月26日
  • Python模块怎么导入

    技术Python模块怎么导入这篇文章主要讲解了“Python模块怎么导入”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Python模块怎么导入”吧!模块的定义:在pyth

    攻略 2021年11月25日
  • 从源代码构建Tomcat的方式是什么

    技术从源代码构建Tomcat的方式是什么今天就跟大家聊聊有关从源代码构建Tomcat的方式是什么,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。本次我们从源代码入手

    攻略 2021年12月8日