欢迎访问Spring Cloud中国社区

《重新定义Spring Cloud实战》由Spring Cloud中国社区倾力打造,基于Spring Cloud的Finchley.RELEASE版本,本书内容宽度足够广、深度足够深,而且立足于生产实践,直接从生产实践出发,包含大量生产实践的配置。欢迎加微信Software_King进群答疑,国内谁在使用Spring Cloud?欢迎登记

《重新定义Spring Cloud实战》 --- Eureka的设计理念

Lovnx · 1年前 · 5286 ·

概述

作为一个服务注册及发现中心,主要解决如下几个问题:

• 服务实例如何注册到服务中心
  本质上就是在服务启动的时候,需要调用Eureka Server的REST API的register方法,去注册该应用实例的信息。对于使用java的应用服务,可以使用netflix的Eureka Client封装的API去调用;对于Spring Cloud的应用,可以使用spring-cloud-starter-netflix-eureka-client,基于springboot的自动配置,自动帮你实现服务信息的注册。

• 服务实例如何从服务中心剔除
  正常情况下服务实例在关闭应用的时候,应该通过钩子方法或其他生命周期回调方法去调用Eureka Server的REST API的de-register方法,来删除自身服务实例的信息。另外为了解决服务实例挂掉或其他异常情况没有及时删除自身信息,Eureka Server要求Client端定时进行续约,也就是发送心跳,来证明该服务实例还是存活的是健康的,可以调用。如果租约超过一定时间没有进行续约操作,Eureka Server端会进行一个主动的剔除。这一点Eureka Server采用的就是分布式应用里头经典的心跳模式。

• 服务实例信息的一致性问题
  由于服务注册及发现中心不可能是单点的,其自身势必有个集群,那么服务实例注册信息如何在这个集群里头保持一致呢,这跟eureka server的架构有关,理解其设计理念有助于后面的实战及调优,下面主要分AP优于CP、PEER TO PEER架构、ZONE及REGION设计、SELF PRESERVATION设计四个方面来阐述。

AP优于CP

  分布式系统领域有个重要的CAP理论,该理论由加州大学伯克利分校的Eric Brewer教授提出,由麻省理工学院的Seth Gilbert和Nancy Lynch进行理论证明。该理论提到了分布式系统的CAP三个特性:

• Consistency
  数据一致性,即数据在存在多副本的情况下,可能由于网络、机器故障、软件系统问题等导致数据写入部分副本成功,部分副本失败,这样子则会造成副本之间数据不一致,存在冲突。满足一致性则要求对数据的更新操作成功之后,多副本的数据保持一致。

• Availibility
  在任何时候客户端对集群进行读写操作的时候,请求能够正常响应,即在一定的延时内完成。

• Partition Tolerance
  分区容忍性,即发生通信故障的时候,整个集群被分割为多个无法相互通信的分区时,集群仍然可用。

  对于分布式系统来说,一般网络条件相对不可控,出现网络分区是不可避免的,因此系统必须具备分区容忍性。在这个前提下分布式系统的设计则在AP及CP之间进行选择。不过不能理解为CAP三者之间必须三选二,他们三者之间不是对等和可以相互替换的,在分布式系统领域P是一个客观存在的事实,不可绕过,P与AC之间不是对等关系。
  对于zookeeper,它是”CP”的,之所以C加引号是因为zookeeper默认并不是严格的强一致,比如客户端A提交一个写操作,zookeeper在过半数节点操作成功之后就返回,此时假设客户端B的读操作请求到的是A写操作尚未同步到的节点,那么读取到的就不是客户端A写操作成功之后的数据。如果在使用的时候需要强一致,则需要在读取数据的时候先执行一下sync操作,即与leader节点先同步下数据,这样才能保证是强一致。在极端的情况下发生网络分区的时候,如果leader节点不在non-quorum的分区,那么对这个分区上节点的读写请求将会报错,无法满足Availibility特性。
  eureka是在部署在AWS的背景下设计的,其设计者认为,在云端,特别是大规模部署的情况下,失败是不可避免的,可能eureka自身部署失败,注册的服务不可用,或者由于网络分区导致服务不可用,因此不能回避这个问题,要拥抱这个问题,就需要eureka在网络分区的时候,还能够正常提供服务注册及发现功能,因此eureka选择满足Availibility这个特性。Peter Kelley在Eureka! Why You Shouldn’t Use ZooKeeper for Service Discovery(https://medium.com/knerd/eureka-why-you-shouldnt-use-zookeeper-for-service-discovery-4932c5c7e764)一文中指出在实际生产实践中,服务注册及发现中心保留可用及过期的数据总比丢失掉可用的数据好。这样的话,应用实例的注册信息在集群的所有节点间并不是强一致的,这就需要客户端能够支持负载均衡及失败重试。在netflix的生态中,由ribbon提供这个功能。

PEER TO PEER架构

  一般而言,分布式系统的数据在多个副本之间的复制方式,可分为主从复制和对等复制。

1.主从复制

  也就是广为人知的master-slave模式,即有一个主副本,其他副本为从副本。所有对数据的写操作都提交到主副本,最后再有主副本更新到其他从副本。具体更新的方式,还可以细分为同步更新、异步更新、同步及异步混合。
  对于主从复制模式来讲,写操作的压力都在主副本上,它是整个系统的瓶颈,但是由于从副本可以帮主副本分担读请求,可以帮主副本分担读请求压力。

2.对等复制

  即peer to peer的模式,副本之间不分主从,任何副本都可以接收写操作,然后每个副本之间相互进行数据更新。
  对于对等复制模式来讲,由于任何副本都可以接收写操作请求,不存在写操作压力瓶颈。但是由于每个副本都可以进行写操作处理,各个副本之间的数据同步及冲突处理是一个比较棘手的问题。
  eureka server采用的就是peer to peer的复制模式。这里我们分为客户端及服务端两个角度来阐述。

(1)客户端

client端一般通过如下配置eureka server的peer节点:
eureka:
client:
serviceUrl:
defaultZone: http://127.0.0.1:8761/eureka/,http://127.0.0.1:8762/eureka/

  实际代码里头支持preferSameZoneEureka,即有多个zone的话,优先选择与应用实例所在zone一样的其他服务的实例,如果没找到则默认会使用defaultZone。客户端使用quarantineSet维护了一个不可用的eureka server列表,进行请求的时候,优先从可用的列表中进行选择,如果请求失败则切换到下一个eureka server进行重试,重试次数默认为3。
  另外为了防止每个client端都按配置文件指定的顺序进行请求造成eureka server节点请求分布不均衡,client端有个定时任务(默认5分钟执行一次)来刷新并随机化eureka server的list。

(2)服务端

  eureka server本身依赖了eureka client,也就是每个eureka server是作为其他eureka server的client。在单个eureka server启动的时候,会有一个syncUp的操作,通过eureka client请求其他eureka server节点中的一个节点获取注册的应用实例信息,然后复制到其他peer节点。

  eureka server在执行复制操作的时候,使用HEADER_REPLICATION的http header来将这个请求操作与普通的应用实例的正常请求操作区分开来。通过HEADER_REPLICATION来标识是复制请求,这样其他peer节点接收到请求的时候,就不会再对它的peer节点进行复制操作,这样子来避免死循环。
  eureka server由于采用了peer to peer的复制模式,其重点要解决的另外一个问题就是数据复制的冲突问题。针对这个问题,eureka采用如下两个方式来解决:

• lastDirtyTimestamp标识
• heartbeat

  针对数据的不一致,一般是通过版本号的机制来解决,最后在不同副本之间只需要判断请求复制数据的版本号与本地数据的版本号高低来判断就可以了。eureka没有直接使用版本号的属性,而是采用一个叫做lastDirtyTimestamp的字段来对比。
  如果开启SyncWhenTimestampDiffers配置(默认开启),当lastDirtyTimestamp不为空的时候,就会进行相应的处理:

• 如果请求参数的lastDirtyTimestamp值大于server本地该实例的lastDirtyTimestamp值,则表示eureka server之间的数据出现冲突,这个时候就返回404,要求应用实例重新进行register操作;

• 如果请求参数的lastDirtyTimestamp值小于server本地该实例的lastDirtyTimestamp值,如果是peer节点的复制请求,则表示数据出现冲突,返回409给peer节点,要求其同步自己最新的数据信息

  peer节点之间的相互复制并不能保证所有操作都能够成功,因此eureka还通过应用实例与server之间的heartbeat也就是renewLease操作来进行数据的最终修复,即如果发现应用实例数据与某个server的数据出现不一致,则server返回404,应用实例重新进行register操作。

ZONE及REGION设计

  由于netflix的服务大部分在Amazon上,因此eureka的设计有一部分也是基于amazon的zone及Region的基础设施之上。
  在Amazon EC2托管在全球的各个地方,它用Region来代表一个独立的地理区域,比如eureka server默认设置了4个Region:us-east-1、us-west-1、us-west-2、eu-west-1。Amazon的部分Region代码及名称列表如下表所示:

  在每个Region下面,还分了多个AvialabilityZone,一个Region对应多个AvialabilityZone。每个Region之间是相互独立及隔离的,默认情况下资源只在单个Region之间的AvialabilityZone进行复制,跨Region之间不会进行资源复制。Region与AvialabilityZone之间的关系如图1所示:


图1 Region与AvialabilityZone之间的关系图

  AvialabilityZone就类似Region下面的,比如us-east-1的Region可分为us-east-1a、us-east-1c、us-east-1d、us-east-1e这几个AvialabilityZone。AvialabilityZone可以理解为Region下面的一个个机房,各个机房相对独立,主要是为了Region的高可用设计,同一个Region下面的AvialabilityZone不可用的话,还有其他AvialabilityZone可用。
  Eureka Server原生支持了Region及AvialabilityZone,由于资源在Region之间默认是不会复制的,因此Eureka Server的高可用主要就在于Region下面的AvialabilityZone。
  Eureka Client支持preferSameZone,也就是获取eureka server的serviceUrl优先拉取跟应用实例同处于一个AvialabilityZone的eureka server地址列表。一个AvialabilityZone可以设置多个eureka server实例,他们之间构成peer节点,然后采用peer to peer的复制模式。
  Netflix的Ribbon组件针对多个AvialabilityZone提供了ZoneAffinity的支持,允许在客户端路由或网关路由的时候,优先选取与自身实例处于同一个AvialabilityZone的服务实例。

SELF PRESERVATION设计

  在分布式系统设计里头,通常需要对应用实例的存活进行健康检查,这里头比较关键的问题就是要处理好网络偶尔抖动或短暂不可用时造成的误判。另外Eureka Server与Client之间如果出现网络分区问题,在极端情况下可能会使得Eureka Server清空掉部分服务的实例列表,这个将严重影响到Eureka Server的Availibility属性。因此Eureka Server引入SELF PRESERVATION机制。
Eureka Client端与Server端之间有个租约,Client要定时发送心跳来维持这个租约,表示自己还存活。Eureka通过当前注册的实例数,去计算每分钟应该从应用实例接收到的心跳数,如果最近一分钟接收到的续约的次数小于指定阈值的话,则关闭租约失效剔除,禁止定时任务剔除失效的实例,从而保护注册信息。



本文节选自《重新定义Spring Cloud实战》