阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Hadoop的namenode做NFS灾备

447次阅读
没有评论

共计 2318 个字符,预计需要花费 6 分钟才能阅读完成。

1. 首先选定一台灾备机器作为 NFS 服务器

(1)安装如下:

apt-get install nfs-kernel-server  (NFS 服务器, 提供 nfs 服务)

apt-get install portmap (端口映射服务器,主要是 RPC 程序号转化为 Internet 的端口号)

(2)在 /etc/exports 文件中 设置需要挂载为 nfs 服务的目录

Hadoop 的 namenode 做 NFS 灾备

注:/home/Hadoop/name  表示挂载的目录

* 表示任意 IP,这里大家可以根据需求配置,如 10.10.*.*

(rw,sync,no_subtree_check)这里指挂载目录的相关设置(详细描述见文后备注),此处因为要提供给 namenode 写权限,故应该配置为 rw

(3)重新启动 NFS 服务(使 exports 修改生效,当然还有另外的命令 这里就不再多侃了)

sudo  /etc/init.d/nfs-kernel-server restart  或者 sudo service nfs-kernel-server restart,  另外 start,stop,status 就不详述了

至于 portmap 的相关命令同上

(4)查看挂载目录是否成功

showmount -e

2.  在 namenode 上安装 NFS 客服端

(1)apt-get install nfs-common (NFS 客户端, 访问 nfs)

(2)挂载 NFS 目录到本地

mount      IP:/home/hadoop/name  /home/hadoop/nfs

挂载命令    NFS 服务的 IP 及路径            本地目录(必须为已存在的目录)

umount  /home/hadoop/nfs  卸载目录  如果出现 device is busy 错误  可以另加 -l  参数强制卸载

3.  配置 namenode 下 hdfs-site.xml 文件的 dfs.name.dir 配置里加上挂载的路径 /home/hadoop/nfs

上传中 …

Hadoop 的 namenode 做 NFS 灾备

4.  重启 hadoop

然后去 NFS 服务器 /home/hadoop/name  目录下查看是否已经有 namenode 的 fsimage 等文件

有则证明配置成功。

如出现不能访问指定目录(/home/hadoop/nfs)的错误,请检查 NFS 服务器端文件权限问题是否为只可读(ro)

备注:有关 NFS 配置还有不明的请去参考网上其他文章,本文重点不在介绍配置 NFS,故不作更多的描述。

以下是挂载文件的一些配置参数及含义,仅供参考

ro                      只读访问

rw                      读写访问

sync                    所有数据在请求时写入共享

async                  NFS 在写入数据前可以相应请求

secure                  NFS 通过 1024 以下的安全 TCP/IP 端口发送

insecure                NFS 通过 1024 以上的端口发送

wdelay                  如果多个用户要写入 NFS 目录,则归组写入(默认)

no_wdelay              如果多个用户要写入 NFS 目录,则立即写入,当使用 async 时,无需此设置。

hide                    在 NFS 共享目录中不共享其子目录

no_hide                共享 NFS 目录的子目录

subtree_check          如果共享 /usr/bin 之类的子目录时,强制 NFS 检查父目录的权限(默认)

no_subtree_check        和上面相对,不检查父目录权限

all_squash              共享文件的 UID 和 GID 映射匿名用户 anonymous,适合公用目录。

no_all_squash          保留共享文件的 UID 和 GID(默认)

root_squash            root 用户的所有请求映射成如 anonymous 用户一样的权限(默认)

no_root_squas          root 用户具有根目录的完全管理访问权限

anonuid=xxx            指定 NFS 服务器 /etc/passwd 文件中匿名用户的 UID

anongid=xxx            指定 NFS 服务器 /etc/passwd 文件中匿名用户的 GID

下面关于 Hadoop 的文章您也可能喜欢,不妨看看:

Ubuntu14.04 下 Hadoop2.4.1 单机 / 伪分布式安装配置教程  http://www.linuxidc.com/Linux/2015-02/113487.htm

CentOS 安装和配置 Hadoop2.2.0  http://www.linuxidc.com/Linux/2014-01/94685.htm

Ubuntu 13.04 上搭建 Hadoop 环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1 版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu 上搭建 Hadoop 环境(单机模式 + 伪分布模式)http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu 下 Hadoop 环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建 Hadoop 环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

更多 Hadoop 相关信息见Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

本文永久更新链接地址:http://www.linuxidc.com/Linux/2015-11/125375.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计2318字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7998552
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装 Black 群晖 DSM7.2 系统安装教程(在 Vmware 虚拟机中、实体机均可)! 前言 大家好,...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件 大家好,我是星哥,很多人都希望能高效地保存微信公众号的文章,用于...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

还在忍受动辄数百兆的“全家桶”监控软件?后台偷占资源、界面杂乱冗余,想查个 CPU 温度都要层层点选? 今天给...
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
开发者福利:免费 .frii.site 子域名,一分钟申请即用

开发者福利:免费 .frii.site 子域名,一分钟申请即用

  开发者福利:免费 .frii.site 子域名,一分钟申请即用 前言 在学习 Web 开发、部署...
星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛 NAS 硬件 02:某鱼 6 张左右就可拿下 5 盘位的飞牛圣体 NAS 前言 大家好,我是星...
星哥带你玩飞牛NAS-16:不再错过公众号更新,飞牛NAS搭建RSS

星哥带你玩飞牛NAS-16:不再错过公众号更新,飞牛NAS搭建RSS

  星哥带你玩飞牛 NAS-16:不再错过公众号更新,飞牛 NAS 搭建 RSS 对于经常关注多个微...