阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Hadoop2.0 federation介绍

385次阅读
没有评论

共计 1731 个字符,预计需要花费 5 分钟才能阅读完成。

1 概述

在 Hadoop1.0 的架构中,HDFS 的所有的元数据都放在一个 namenode 中,只有一个 namespace(名字空间)。这样随着 HDFS 的数据越来越多,单个 namenode 的资源使用必然会达到上限,而且 namenode 的负载也会越来越高,限制了 HDFS 的性能。

在 hadoop2.0 架构中,namenode federation(联合)通过多个 namenode/namespace 把元数据的存储和管理分散到多个节点中,使到 namenode/namespace 可以通过增加机器来进行水平扩展,并且能把单个 namenode 的负载分散到多个节点中,在 HDFS 数据规模较大的时候不会也降低 HDFS 的性能。还有可以通过多个 namespace 来隔离不同类型的应用,把不同类型应用的 HDFS 元数据的存储和管理分派到不同的 namenode 中。

Hadoop2.0 federation 介绍

2 架构

如果上图所示,一个 block pool 由属于同一个 namespace 的数据块组成,每个 namenode 管理一个 namespace,即每个 namenode 负责存储和管理一个 block pool 的元数据。而每个 datanode 是会连接所有的 namenode 的,为所有的 block pools 所共享,即每个 datanode 都会存储所有的 block pools 的数据块。每个 block pool 通过 namespace 隔离开来,对一个 block pool 的操作不会影响另外一个 block pool。

从配置和使用的角度来看,整个 HDFS 有一个唯一的 clusterid,如“hellokitty”,它可以配置多个 block pool/namespace(也叫 name service),如“mycluster”和“yourcluster”。为了方便访问不同名字空间的目录和文件,federation 还提供了一个类似 linux 的 Client Side Mount Table 的挂载机制,提供了一个统一的全局的文件系统视图(viewfs)。用户可以根据自己的需要把各个 namespace 挂载到一个叫做 viewFS 的文件系统视图的不同目录下。例如 namespace/name service“mycluster”和“yourcluster”分别挂载到 viewfs 的“/my”和“/your”目录下,如下图所示:

Hadoop2.0 federation 介绍

3 federation 和 HA

上面提到的每个 namespace/name service 配置一个 namenode,这样这个 namespace/name service 的单点问题还是存在,因此可以给每个 namespace/name service 配置成 HA。

假设我们有 4 台 namenode,分别是 namenode1,namenode2,namenode3,namenode4。其中 namenode1 和 namenode2 是 namespace/name service“mycluster”的两个主备 namenode 节点,NN_ID 分别是“mycluster”的“nn1”和“nn2”;而 namenode3 和 namenode4 是 namespace/name service“yourcluster”的两个主备 namenode 节点,NN_ID 分别是“yourcluster”的“nn1”和“nn2”。

“mycluster”和“yourcluster”分别挂载在 viewfs 的“/my”和“/your”目录下。

结构如下图所示:

Hadoop2.0 federation 介绍

4 实战 tips

一般 1000 台机器一下的中小规模的 hadoop 集群,一个 namespace/name service 就足够了,不需要考虑 federation,以免增加不必要的复杂性。

下一篇文章会详细介绍 hadoop2.0 federation 的配置

见  http://www.linuxidc.com/Linux/2014-05/101180.htm

 

参考资料:

http://hadoop.apache.org/docs/r2.2.0/hadoop-project-dist/hadoop-hdfs/Federation.html

更多 Hadoop 相关信息见 Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计1731字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7991137
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛 NAS-8:有了 NAS 你可以干什么?软件汇总篇 前言 哈喽各位玩友!我是是星哥,不少朋友私...
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
免费领取huggingface的2核16G云服务器,超简单教程

免费领取huggingface的2核16G云服务器,超简单教程

免费领取 huggingface 的 2 核 16G 云服务器,超简单教程 前言 HuggingFace.co...
星哥带你玩飞牛NAS-16:飞牛云NAS换桌面,fndesk图标管理神器上线!

星哥带你玩飞牛NAS-16:飞牛云NAS换桌面,fndesk图标管理神器上线!

  星哥带你玩飞牛 NAS-16:飞牛云 NAS 换桌面,fndesk 图标管理神器上线! 引言 哈...
从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统 大家好,我是星哥。公司的项目文档存了一堆 ...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...