kafka副本同步机制-百家乐凯发k8

kafka中topic的每个partition有一个预写式日志文件，每个partition都由一系列有序的、不可变的消息组成，这些消息被连续的追加到partition中，partition中的每个消息都有一个连续的序列号叫做offset，确定他在partition中的唯一位置。

kafka每个topic的partition有n个副本，其中n是topic的复制因子，kafka通过多副本机制实现故障自动转移，当kafka集群中一个broker失效情况下，仍可保证服务可用。在kafka中发生复制时确保partition的预写式日志有序地写到其他节点上。n个replicas中，其中一个replica为leader，其他都为follower，leader处理partition的所有读写请求，与此同时，follower会被动定期地区复制leader上的数据。

如下图，kafka集群中有4个broker，某topic有3个partition，且复制因子即副本个数也为3：

kafka提供了数据复制算法，如果leader发生故障或挂掉，一个新leader被选举并被接受客户端的消息成功写入。kafka确保从同步副本列表中选举一个副本为leader，或者说follower追赶leader数据。leader负责维护和根据isr（in-sync replicas的缩写，表示副本同步队列）中所有消息，follower之后的桩体。当producer发送一条消息到broker后，leader写入消息，并复制到所有follower。消息提交之后才被成功复制到所有的同步副本。消息复制延迟受最慢的follower限制，重要的是快速检测慢副本，如果follower“落后”太多或者失败，leader将会把他从isr中删除。

所谓同步，必须满足两个条件：

• 副本节点必须能与zookeeper保持会话（心跳机制）
• 副本能复制leader上的所有写操作，并且不能落后太多（卡主或滞后的副本控制由replica.lag.time.max.ms配置）

默认情况下，kafka topic的replica数量为1，即每个partition都有一个唯一的leader，为了确保消息的可靠性，通常应用中将其值（由broker的参数offsets.topic.replication.factor指定）大小设定为1。所有的副本（replicas）统称为ar (assigned replicas）。isr是ar的一个子集，由leader维护isr列表，follower从leader同步数据有一些延迟，任意一个超过阈值都会把follower踢出isr，存入osr（outof-sync replicas）列表，新加入的follower也会先存放到osr中。ar = isr osr

hw（highwatermark）俗称高水位，取一个partition对应的isr中最小的leo作为hw，consumer最多只能消费到hw所在的位置。另外每个replica都有hw，leader和follower各自负责更新自己的hw的状态。对于leader新写入的消息，consumer不能立即消费，leader会等待该消息被所有isr中的replicas都同步后，才更新hw，此时消息才能被consumer消费，这样就保证了如果leader所在的broker失效，该消息仍可从新选举的leader中获取。对于来自内部的broker的读取请求，没有hw的限制。

下图详细说明了当producer生产消息到broker后，isr及hw和leo(log end offset)的流转过程：

由此可见，kafka的复制机制既不是完全的同步复制，也不是单纯的异步复制。事实上，同步机制要求所有能工作的follower都复制完，这条消息才会被commit，这种复制方式极大的影响了吞吐率。而异步复制方式下，follower异步的从leader复制数据，数据只要被leader写入log就被任务已经commit，这种情况下如果follower没有全复制完，落后与leader，突然leader宕机，则会丢数据。而kafka这种使用isr的方式则很好的均衡了确保数据不丢失以及吞吐率。

kafka的isr管理最终都会反馈到zookeeper节点上，具体位置为：
/brokers/topics/[topic]/partitions/[partition]/state。目前有两个地方会对这个zookeeper节点进行维护：
1）controller维护：kafka集群中的其中一个broker会被选举为controller，主要负责partition管理和副本状态管理，也会执行类似于重分配partition之类的管理任务。在符合某些特定条件下，controller下的leaderselector会选举新的leader, isr和新的leader_epoch及controller_epoch写入zookeeper的相关节点中。同时发起leaderandisrrequest通知所有的replicas。

2）leader来维护：leader有单独的线程定期检查isr中follower是否脱离isr，如果发现isr变化，则会将新的isr的信息返回到zookeeper的相关节点中。

副本不同的异常情况：
1）慢副本：在一定周期时间内，follower不能追赶上leader。最常见的原因之一是io瓶颈导致follower追加复制消息速度鳗鱼从leader拉取速度
2）卡住副本：在一定周期时间内，follower停止从leader拉取请求。follower replica卡住了是由于gc暂停或follower失效或死亡。
3）新启动副本：当用户给topic增加副本因子时，新的follower不再同步副本列表中，直到他们完全追赶上leader日志。