阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Twitter Storm简介

162次阅读
没有评论

共计 1638 个字符,预计需要花费 5 分钟才能阅读完成。

背景

过去的十年是数据处理变革的十年,MapReduce, Hadoop 以及一些相关的技术使得我们能处理的数据量比以前要大得多得多。但是这些数据处理技术都不是实时的系统 — 它们设计的目的也不是为了实时计算。没有什么办法可以简单地把 hadoop 变成一个实时计算系统。实时数据处理系统和批量数据处理系统在需求上有着本质的差别。

然而大规模的实时数据处理已经越来越成为一种业务需求了,而缺少一个“实时版本的 hadoop”已经成为数据处理整个生态系统的一个巨大缺失。

Storm 填补了这个缺失。

Storm 出现之前,你可能需要自己手动维护一个由消息队列和消息处理者所组成的实时处理网络,消息处理者从消息队列取出一个消息进行处理,更新数据库,发送消息给其它队列,等等等等。不幸的是,这种方式有以下几个缺陷:

1. 单调乏味:你花费了绝大部分开发时间去配置把消息发送到哪里,部署消息处理者,部署中间消息节点 — 你的大部分时间花在设计,配置这个数据处理框架上,而你真正关心的消息处理逻辑在你的代码里面占的比例很少。

2. 脆弱:不够健壮,你要自己写代码保证所有的消息处理者和消息队列正常运行。

3. 伸缩性差:当一个消息处理者的消息量达到阀值,你需要对这些数据进行分流,你需要配置这些新的处理者以让他们处理分流的消息。

虽然对于一个大量消息处理系统来说,分解到最后就是消息队列和消息处理者的组合,而消息处理无疑是实时计算的基础。那么现在问题就是:怎样去做才能不丢失数据,可以很好的扩展到更大的消息量并且非常容易操作呢?

Storm 满足你的需求。

为什么我们说 Storm 很重要呢?

Storm 定义了一批实时计算的原语。如同 hadoop 大大简化了并行批量数据处理,storm 的这些原语大大简化了并行实时数据处理。storm 的一些关键特性如下:

1. 适用场景广泛:storm 可以用来处理消息和更新数据库 (消息流处理),  对一个数据量进行持续的查询并返回客户端(持续计算),对一个耗资源的查询作实时并行化的处理 (分布式方法调用),storm 的这些基础原语可以满足大量的场景。

2. 可伸缩性高:  Storm 的可伸缩性可以让 storm 每秒可以处理的消息量达到很高。为了扩展一个实时计算任务,你所需要做的就是加机器并且提高这个计算任务的并行度设置 (parallelism setting)。作为 Storm 可伸缩性的一个例证,一个 Storm 应用在一个 10 个节点的集群上每秒处理 1000000 个消息 — 包括每秒一百多次的数据库调用。Storm 使用 ZooKeeper 来协调集群内的各种配置使得 Storm 的集群可以很容易的扩展很大。

3. 保证无数据丢失:实时系统必须保证所有的数据被成功的处理。那些会丢失数据的系统的适用场景非常窄,而 storm 保证每一条消息都会被处理,这一点和 S4 相比有巨大的反差。

4. 异常健壮:不像 Hadoop — 出了名的难管理,storm 集群非常容易管理。容易管理是 storm 的设计目标之一。

5. 容错性好:如果在消息处理过程中出了一些异常,storm 会重新安排这个出问题的处理逻辑。storm 保证一个处理逻辑永远运行 — 除非你显式杀掉这个处理逻辑。

6. 语言无关性:健壮性和可伸缩性不应该局限于一个平台。Storm 的 topology 和消息处理组件可以用任何语言来定义,这一点使得任何人都可以使用 storm.

推荐阅读:

Twitter Storm 安装配置(集群)笔记 http://www.linuxidc.com/Linux/2013-05/84307.htm

安装 Twitter Storm 集群 http://www.linuxidc.com/Linux/2012-07/66336.htm

Twitter Storm 安装配置(单机版)笔记 http://www.linuxidc.com/Linux/2013-05/84306.htm

Storm 实战及实例讲解一 http://www.linuxidc.com/Linux/2012-08/69146.htm

正文完
星哥说事-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计1638字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中