阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

服务发现:Zookeeper vs etcd vs Consul

436次阅读
没有评论

共计 7197 个字符,预计需要花费 18 分钟才能阅读完成。

【编者的话】本文对比了 Zookeeper、etec 和 Consul 三种服务发现工具,探讨了最佳的服务发现解决方案,仅供参考。

如果使用预定义的端口,服务越多,发生冲突的可能性越大,毕竟,不可能有两个服务监听同一个端口。管理一个拥挤的比方说被几百个服务所使用的所有端口的列 表,本身就是一个挑战,添加到该列表后,这些服务需要的数据库和数量会日益增多。因此我们应该部署无需指定端口的服务,并且让 Docker 为我们分配一个随机的端口。唯一的问题是我们需要发现端口号,并且让别人知道。

服务发现:Zookeeper vs etcd vs Consul

当我们开始在一个分布式系统上部署服务到其中一台服务器上时,事情会变得更加复杂,我们可以选择预先定义哪台服务器运行哪个服务的方式,但这会导 致很多问题。我们应该尽我们所能尽量利用服务器资源,但是如果预先定义每个服务的部署位置,那么要实现尽量利用服务器资源是几乎不可能的。另一个问题是服 务的自动伸缩将会非常困难,更不用说自动恢复了,比方说服务器故障。另一方面,如果我们将服务部署到某台只有最少数量的容器在运行的服务器上,我们需要添 加 IP 地址到数据列表中,这些数据需要可以被发现并存储在某处。

服务发现:Zookeeper vs etcd vs Consul

当我们需要存储和发现一些与正在工作的服务相关的信息时,还有很多其他的例子。

为了能够定位服务,我们需要至少接下来的两个有用的步骤。

服务注册——该步骤存储的信息至少包括正在运行的服务的主机和端口信息

服务发现——该步骤允许其他用户可以发现在服务注册阶段存储的信息。

除了上述的步骤,我们还需要考虑其他方面。如果一个服务停止工作并部署 / 注册了一个新的服务实例,那么该服务是否应该注销呢?当有相同服务的多个 副本时咋办?我们该如何做负载均衡呢?如果一个服务器宕机了咋办?所有这些问题都与注册和发现阶段紧密关联。现在,我们限定只在服务发现的范围里(常见的 名字,围绕上述步骤)以及用于服务发现任务的工具,它们中的大多数采用了高可用的分布式键 / 值存储。

服务发现工具

服务发现工具的主要目标是用来服务查找和相互对话,为此该工具需要知道每个服务,这不是一个新概念,在 Docker 之前就已经存在很多类似的工具了,然而,容器带给了这些工具一个全新水平的需求。

服务发现背后的基本思想是对于服务的每一个新实例(或应用程序),能够识别当前环境和存储相关信息。存储的注册表信息本身通常采用键 / 值对的格 式,由于服务发现经常用于分布式系统,所以要求这些信息可伸缩、支持容错和分布式集群中的所有节点。这种存储的主要用途是给所有感兴趣的各方提供最起码诸 如服务 IP 地址和端口这样的信息,用于它们之间的相互通讯,这些数据还经常扩展到其它类型的信息

服务发现工具倾向于提供某种形式的 API,用于服务自身的注册以及服务信息的查找。

比方说我们有两个服务,一个是提供方,另一个是第一个服务的消费者,一旦部署了服务提供方,就需要在服务发现注册表中存储其信息。接着,当消费者 试图访问服务提供者时,它首先查询服务注册表,使用获取到的 IP 地址和端口来调用服务提供者。为了与注册表中的服务提供方的具体实现解耦,我们常常采用某 种代理服务。这样消费者总是向固定 IP 地址的代理请求信息,代理再依次使用服务发现来查找服务提供方信息并重定向请求,在本文中我们稍后通过反向代理来实 现。现在重要的是要理解基于三种角色(服务消费者、提供者和代理)的服务发现流程。

服务发现工具要查找的是数据,至少我们应该能够找出服务在哪里?服务是否健康和可用?配置是什么样的?既然我们正在多台服务器上构建一个分布式系 统,那么该工具需要足够健壮,保证其中一个节点的宕机不会危及数据,同时,每个节点应该有完全相同的数据副本,进一步地,我们希望能够以任何顺序启动服 务、杀死服务或者替换服务的新版本,我们还应该能够重新配置服务并且查看到数据相应的变化。

让我们看一下一些常用的选项来完成我们上面设定的目标。

手动配置

大多数服务仍然是需要手动管理的,我们预先决定在何处部署服务、如何配置和希望不管什么原因,服务都将继续正常工作,直到天荒地老。这样的目标不 是可以轻易达到的。部署第二个服务实例意味着我们需要启动全程的手动处理,我们需要引入一台新的服务器,或者找出哪一台服务器资源利用率较低,然后创建一 个新的配置集并启动服务。情况或许会变得越来越复杂,比方说,硬件故障导致的手动管理下的反应时间变得很慢。可见性是另外一个痛点,我们知道什么是静态配 置,毕竟是我们预先准备好的,然而,大多数的服务有很多动态生成的信息,这些信息不是轻易可见的,也没有一个单独的地方供我们在需要时参考这些数据。

反应时间会不可避免的变慢,鉴于存在许多需要手动处理的移动组件,故障恢复和监控也会变得非常难以管理。

尽管在过去或者当服务 / 服务器数量很少的时候有借口不做这项工作,随着服务发现工具的出现,这个借口已经不存在了。

Zookeeper

Zookeeper 是这种类型的项目中历史最悠久的之一,它起源于 Hadoop,帮助在 Hadoop 集群中维护各种组件。它非常成熟、可靠,被许多大公司(YouTube、eBay、雅虎等)所使用。其数据存储的格式类似于文件系统,如果运行在一个服务器集群中,Zookeper 将跨所有节点共享配置状态,每个集群选举一个 领袖,客户端可以连接到任何一台服务器获取数据。

Zookeeper 的主要优势是其成熟、健壮以及丰富的特性,然而,它也有自己的缺点,其中采用 Java 开发以及复杂性是罪魁祸首。尽管 Java 在许多方面非常伟大,然后对于这种类型的工作还是太沉重了,Zookeeper 使用 Java 以及相当数量的依赖使其对于资源竞争非常饥渴。因为上述的这些 问题,Zookeeper 变得非常复杂,维护它需要比我们期望从这种类型的应用程序中获得的收益更多的知识。这部分地是由于丰富的特性反而将其从优势转变 为累赘。应用程序的特性功能越多,就会有越大的可能性不需要这些特性,因此,我们最终将会为这些不需要的特性付出复杂度方面的代价。

Zookeeper 为其他项目相当大的改进铺平了道路,“大数据玩家“在使用它,因为没有更好的选择。今天,Zookeeper 已经老态龙钟了,我们有了更好的选择。

etcd

etcd 是一个采用 HTTP 协议的健 / 值对存储系统,它是一个分布式和功能层次配置系统,可用于构建服务发现系统。其很容易部署、安装和使用,提供了可靠的数据持久化特性。它是安全的并且文档也十分齐全。

etcd 比 Zookeeper 是比更好的选择,因为它很简单,然而,它需要搭配一些第三方工具才可以提供服务发现功能。

服务发现:Zookeeper vs etcd vs Consul

现在,我们有一个地方来存储服务相关信息,我们还需要一个工具可以自动发送信息给 etcd。但在这之后,为什么我们还需要手动把数据发送给 etcd 呢?即使我们希望手动将信息发送给 etcd,我们通常情况下也不会知道是什么信息。记住这一点,服务可能会被部署到一台运行最少数量容器的服务器 上,并且随机分配一个端口。理想情况下,这个工具应该监视所有节点上的 Docker 容器,并且每当有新容器运行或者现有的一个容器停止的时候更新 etcd,其中的一个可以帮助我们达成目标的工具就是 Registrator。

Registrator

Registrator 通过检查容器在线或者停止运行状态自动注册和去注册服务,它目前支持 etcd、Consul 和 SkyDNS 2。

Registrator 与 etcd 是一个简单但是功能强大的组合,可以运行很多先进的技术。每当我们打开一个容器,所有数据将被存储在 etcd 并传播到集群中的所有节点。我们将决定什么信息是我们的。

服务发现:Zookeeper vs etcd vs Consul

上述的拼图游戏还缺少一块,我们需要一种方法来创建配置文件,与数据都存储在 etcd,通过运行一些命令来创建这些配置文件。

Confd

Confd 是一个轻量级的配置管理工具,常见的用法是通过使用存储在 etcd、consul 和其他一些数据登记处的数据保持配置文件的最新状态,它也可以用来在配置文件改变时重新加载应用程序。换句话说,我们可以用存储在 etcd(或者其他注册中心)的信息来重新配置所有服务。

服务发现:Zookeeper vs etcd vs Consul

对于 etcd、Registrator 和 Confd 组合的最后的思考

当 etcd、Registrator 和 Confd 结合时,可以获得一个简单而强大的方法来自动化操作我们所有的服务发现和需要的配置。这个组合还 展示了“小”工具正确组合的有效性,这三个小东西可以如我们所愿正好完成我们需要达到的目标,若范围稍微小一些,我们将无法完成我们面前的目标,而另一方 面如果他们设计时考虑到更大的范围,我们将引入不必要的复杂性和服务器资源开销。

在我们做出最后的判决之前,让我们看看另一个有相同目标的工具组合,毕竟,我们不应该满足于一些没有可替代方案的选择。

Consul

Consul ��强一致性的数据存储,使用 gossip 形成动态集群。它提供分级键 / 值存储方式,不仅可以存储数据,而且可以用于注册器件事各种任务,从发送数据改变通知到运行健康检查和自定义命令,具体如何取决于它们的输出。

与 Zookeeper 和 etcd 不一样,Consul 内嵌实现了服务发现系统,所以这样就不需要构建自己的系统或使用第三方系统。这一发现系统除了上述提到的特性之外,还包括节点健康检查和运行在其上的服务。

Zookeeper 和 etcd 只提供原始的键 / 值队存储,要求应用程序开发人员构建他们自己的系统提供服务发现功能。而 Consul 提供了一个内 置的服务发现的框架。客户只需要注册服务并通过 DNS 或 HTTP 接口执行服务发现。其他两个工具需要一个亲手制作的解决方案或借助于第三方工具。

Consul 为多种数据中心提供了开箱即用的原生支持,其中的 gossip 系统不仅可以工作在同一集群内部的各个节点,而且还可以跨数据中心工作。

服务发现:Zookeeper vs etcd vs Consul

Consul 还有另一个不错的区别于其他工具的功能,它不仅可以用来发现已部署的服务以及其驻留的节点信息,还通过 HTTP 请求、TTLs(time-to-live)和自定义命令提供了易于扩展的健康检查特性。

Registrator

Registrator 有两个 Consul 协议,其中 consulkv 协议产生类似于 etcd 协议的结果。

除了通常的 IP 和端口存储在 etcd 或 consulkv 协议中之外,Registrator consul 协议存储了更多的信息,我们可以得到服务运行节点的信息,以及服务 ID 和名称。我们也可以借助于一些额外的环境变量按照一定的标记存储额外的信息。

服务发现:Zookeeper vs etcd vs Consul

Consul-template

confd 可以像和 etce 搭配一样用于 Consul,不过 Consul 有自己的模板服务,其更适配 Consul。

通过从 Consul 获得的信息,Consul-template 是一个非常方便的创建文件的途径,还有一个额外的好处就是在文件更新后可以运行任意命令,正如 confd,Consul-template 也可以使用 Go 模板 格式。

服务发现:Zookeeper vs etcd vs Consul

Consul 健康检查、Web 界面和数据中心

监控集群节点和服务的健康状态与测试和部署它们一样的重要。虽然我们应该向着拥有从来没有故障的稳定的环境努力,但我们也应该承认,随时会有意想 不到的故障发生,时刻准备着采取相应的措施。例如我们可以监控内存使用情况,如果达到一定的阈值,那么迁移一些服务到集群中的另外一个节点,这将是在发生“灾难”前执行的一个预防措施。另一方面,并不是所有潜在的故障都可以被及时检测到并采取措施。单个服务可能会齿白,一个完整的节点也可能由于硬件故障而 停止工作。在这种情况下我们应该准备尽快行动,例如一个节点替换为一个新的并迁移失败的服务。Consul 有一个简单的、优雅的但功能强大的方式进行健康 检查,当健康阀值达到一定数目时,帮助用户定义应该执行的操作。

如果用户 Google 搜索“etcd ui”或者“etec dashboard”时,用户可能看到只有几个可用的解决方案,可能会问为什么我们还没有介绍给用户,这个原因很简单,etcd 只是键 / 值对存储,仅此而 已。通过一个 UI 呈现数据没有太多的用处,因为我们可以很容易地通过 etcdctl 获得这些数据。这并不意味着 etcd UI 是无用的,但鉴于其有限的使用范围,它不会产生多大影响。

Consu 不仅仅是一个简单的键 / 值对存储,正如我们已经看到的,除了存储简单的键 / 值对,它还有一个服务的概念以及所属的数据。它还可以执行健 康检查,因此成为一个好的候选 dashboard,在上面可以看到我们的节点的状态和运行的服务。最后,它支持了多数据中心的概念。所有这些特性的结合让 我们从不同的角度看到引入 dashboard 的必要性。

通过 Consul Web 界面,用户可以查看所有的服务和节点、监控健康检查状态以及通过切换数据中心读取设置键 / 值对数据。

服务发现:Zookeeper vs etcd vs Consul

对于 Consul、Registrator、Template、健康检查和 Web UI 的最终思考

Consul 以及上述我们一起探讨的工具在很多情况下提供了比 etcd 更好的解决方案。这是从内心深处为了服务架构和发现而设计的方案,简单而强大。它提供了一个完整的同时不失简洁的解决方案,在许多情况下,这是最佳的服务发现以及满足健康检查需求的工具。

结论

所有这些工具都是基于相似的原则和架构,它们在节点上运行,需要仲裁来运行,并且都是强一致性的,都提供某种形式的键 / 值对存储。

Zookeeper 是其中最老态龙钟的一个,使用年限显示出了其复杂性、资源利用和尽力打成的目标,它是为了与我们评估的其他工具所处的不同时代而设计的(即使它不是老得太多)。

etcd、RegistratorConfd 是一个非常简单但非常强大的组合,可以解决大部分问题,如果不是全部满足服务发现需要的话。它还展示了我们可以通过组合非常简单和特定的工具来获得强大的 服务发现能力,它们中的每一个都执行一个非常具体的任务,通过精心设计的 API 进行通讯,具备相对自治工作的能力,从架构和功能途径方面都是 微服务 方式。

Consul 的不同之处在于无需第三方工具就可以原生支持多数据中心和健康检查,这并不意味着使用第三方工具不好。实际上,在这篇博客里我们通过选择那些 表现更佳同时不会引入不必要的功能的的工具,尽力组合不同的工具。使用正确的工具可以获得最好的结果。如果工具引入了工作不需要的特性,那么工作效率反而 会下降,另一方面,如果工具没有提供工作所需要的特性也是没有用的。Consul 很好地权衡了权重,用尽量少的东西很好的达成了目标。

Consul 使用 gossip 来传播集群信息的方式,使其比 etcd 更易于搭建,特别是对于大的数据中心。将存储数据作为服务的能力使其比 etcd 仅仅只有健 / 值对存储的特性更加完整、更有用(即使 Consul 也有该选项)。虽然我们可以在 etcd 中通过插入多个键来达成相同的目 标,Consul 的服务实现了一个更紧凑的结果,通常只需要一次查询就可以获得与服务相关的所有数据。除此之外,Registrator 很好地实现了 Consul 的两个协议,使其合二为一,特别是添加 Consul-template 到了拼图中。Consul 的 Web UI 更是锦上添花般地提供了服务和健康检查的可视化途径。

我不能说 Consul 是一个明确的赢家,而是与 etcd 相比其有一个轻微的优势。服务发现作为一个概念,以及作为工具都很新,我们可以期待在这一领域会有许多的变化。秉承开放的心态,大家可以对本文的建议持保留态度,尝试不同的工具然后做出自己的结论。

原文链接:Service Discovery: Zookeeper vs etcd vs Consul

(翻译:胡震)

=============================================================================================

译者介绍:胡震,曾任互联网金融创业公司首席架构师 &CTO,现在平安金融科技中心架构组负责技术管理和架构设计工作

————————————– 分割线 ————————————–

Ubuntu 14.04 安装分布式存储 Sheepdog+ZooKeeper  http://www.linuxidc.com/Linux/2014-12/110352.htm

CentOS 6 安装 sheepdog 虚拟机分布式储存  http://www.linuxidc.com/Linux/2013-08/89109.htm

ZooKeeper 集群配置 http://www.linuxidc.com/Linux/2013-06/86348.htm

使用 ZooKeeper 实现分布式共享锁 http://www.linuxidc.com/Linux/2013-06/85550.htm

分布式服务框架 ZooKeeper — 管理分布式环境中的数据 http://www.linuxidc.com/Linux/2013-06/85549.htm

ZooKeeper 集群环境搭建实践 http://www.linuxidc.com/Linux/2013-04/83562.htm

ZooKeeper 服务器集群环境配置实测 http://www.linuxidc.com/Linux/2013-04/83559.htm

ZooKeeper 集群安装 http://www.linuxidc.com/Linux/2012-10/72906.htm

————————————– 分割线 ————————————–

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2015-09/122990.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计7197字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7985178
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛 NAS-11:咪咕视频订阅部署全攻略 前言 在家庭影音系统里,NAS 不仅是存储中心,更是内容...
升级自动部署更新SSL证书系统、申请godaddy的APIKEY

升级自动部署更新SSL证书系统、申请godaddy的APIKEY

升级自动部署更新 SSL 证书系统、申请 godaddy 的 APIKEY 公司之前花钱购买的 ssl 证书快...
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站 - 手机博物馆 -CHAZ 3D Experience 一句话介绍:一个用 3D 方式重温...
在Windows系统中通过VMware安装苹果macOS15

在Windows系统中通过VMware安装苹果macOS15

在 Windows 系统中通过 VMware 安装苹果 macOS15 许多开发者和爱好者希望在 Window...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛 NAS-11:咪咕视频订阅部署全攻略 前言 在家庭影音系统里,NAS 不仅是存储中心,更是内容...
小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比

小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比

小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比 星哥玩云,带你从小白到上云高手。今天咱们就来聊聊——什...
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...