阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Linux下MFS分布式架构集群配置

434次阅读
没有评论

共计 3364 个字符,预计需要花费 9 分钟才能阅读完成。

前言:随着分布式、大数据的不断发展,很多时候大家会感觉大数据离自己很远,其实大数据就是我们身边。那我们心目中的大数据到底是什么样的呢,分布式、容错、大容量?

在我们运维中,最常见的文件存储系统大概就是 NFS 了,但是随着网站压力不断增加,NFS 渐渐不能满足企业数据增长需求,有木有自动扩展、高效、部署、实施方便快捷的分布式存储供我们使用呢?那我们来看一下 MFS 基本可以满足我们的需求。

MogileFS 是一种分布式文件存储系统。可支持文件自动备份的功能,提高可用性和高扩展性。MogileFS 不支持对一个文件内部的随机或顺序读写,因此只适合做一部分应用,如图片服务,静态 HTML 服务、文件服务器等,这些应用在文件写入后基本上不需要对文件进行修改,但是可以生成一个新的文件覆盖原有文件。

分布式文件系统(Distributed File System)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连,分布式文件系统的实际基于客户机 / 服务器模式。

目前常见的分布式文件系统有很多种,例如我之前一篇文章里面提到的 Hadoop、FastDFS、Moosefs、PNFS(Parallel NFS)、Lustre、TFS、GFS、HDFS 等等一系列。在众多的分布式文件系统解决方案中,MFS 是搭建比较简单、使用起来也不需要过多的修改 web 程序,非常方便。那今天我们使用 SHELL 脚本来部署 MFS。

一、Moosefs 的优势:

1) 通用文件系统,不需要修改上层应用就可以使用。

2) 可以在线扩容,体系架构可伸缩性极强(官方的 case 可以扩到 70 台了)。

3) 部署简单。

4) 体系架构高可用,单独一台机器出问题不会影响整体性能。

5) 文件对象高可用,可设置任意的文件冗余程度 (提供比 raid1+ 0 更高的冗余级别) 而绝对不会影响读或者写的性能,只会加速哦。

6) 提供 Windows 回收站的功能(不怕误操作了,提供类似 oralce 的闪回等高级 dbms 的即时回滚特性,oralce 这些特性可是收费的哦)

7) 提供 netapp,emc,ibm 等商业存储的 snapshot 特性。

8) google filesystem 的一个 c 实现。

9) 提供 web gui 监控接口。

10)    提高随机读或写的效率。

11)    提高海量小文件的读写效率。

二、MFS 系统组成部分:

    1、元数据服务器:在整个体系中负责管理管理文件系统,目前 MFS 只支持一个元数据服务器 master,这是一个单点故障,需要一个性能稳定的服务器来充当。希望今后 MFS 能支持多个 master 服务器,进一步提高系统的可靠性。

    2、数据存储服务器:chunkserver,真正存储用户数据的服务器,存储文件时,首先把文件分成块,然后这些块在数据服务器 chunkserver 之间复制,数据服务器可以是多个,并且数量越多,可使用的 ” 磁盘空间 ” 越小,可靠性也越高。

    3、客户端:使用 MFS 文件系统来存储和访问的主机称为 MFS 的客户端,成功挂接 MFS 文件系统以后,就可以像以前使用 NFS 一样共享这个虚拟性的存储了。

    4.元数据日志服务器:负责备份 master 服务器的变化日志文件,文件类型为 changelog_ml.*.mfs,以便于在 master server 出问题的时候接替其进行工作。

三、主控服务器 Master 安装:

当我们安装主控服务器时,在配置过程中(./configure),可以取消安装 chunk server

(–disable-mfschunkserver)以及 MooseFS 客户端(–disable-mfsmount). 安装

主控服务器 master 的具体步骤为:

添加 mfs 组

groupaddmfs

新增系统用户 mfs

useradd-g mfs mfs

解压安装:

tar-zxvf mfs-1.6.27.tar.gz;cd mfs-1.6.27

编译配置:

./configure –prefix=/usr –sysconfdir=/etc \

–localstatedir=/var/lib –with-default-user=mfs \

–with-default-group=mfs –disable-mfschunkserver –disable-mfsmount&&make &&makeinstall

成功安装 master 后,会在 /etc/mfs 下生成很多 MFS 相关文件:

cd/etc,复制如下文件:

cp mfsmaster.cfg.dist mfsmaster.cfg

cp mfsexports.cfg.dist mfsexports.cfg

分别表示:主配置文件,挂载文件等功能。

在 /etc/mfs/mfsexports.cfg 里添加如下语句:

192.168.33.0/24  /  rw,alldirs,maproot=0

启动前准备:

cd /var/lib/mfs/

cp metadata.mfs.empty metadata.mfs

echo “192.168.33.10 mfsmaster”>> /etc/hosts

启动 mfsmaster:/usr/sbin/mfsmasterstart

启动监控服务:/usr/sbin/mfscgiserv

浏览器访问地址:http://192.168.33.10:9425/mfs.cgi,可以看到 MFS 信息。

Linux 下 MFS 分布式架构集群配置

 四、Mfsmetalogger 服务器部署:

安装方法跟 master 编译、安装参数一样哦,最后配置如下:

进入 /etc/mfs/ 下,如下操作:

cp mfsmetalogger.cfg.dist mfsmetalogger.cfg

echo “192.168.33.10 mfsmaster” >> /etc/hosts

最后启动 mfsmetalogger 服务即可,/usr/sbin/mfsmetalogger start

五、Chunk servers 服务器部署:

MFSChunk 编译参数:

./configure –prefix=/usr –sysconfdir=/etc –localstatedir=/var/lib –with-default-

user=mfs –with-default-group=mfs –disable-mfsmaster &&make &&makeinstall

配置方法如下:

cp mfschunkserver.cfg.dist mfschunkserver.cfg

cp mfshdd.cfg.dist mfshdd.cfg

更改配置文件 mfshdd.cfg, 加入:

/data/

启动前准备:

echo “192.168.33.10 mfsmaster” >> /etc/hosts

chown -R mfs:mfs  /data

/usr/sbin/mfschunkserverstart

六、MFS 客户端安装:

安装编译参数:

./configure –prefix=/usr –sysconfdir=/etc –localstatedir=/var/lib –with-default-

user=mfs –with-default-group=mfs –disable-mfsmaster –disable-mfschunkserver&&make &&make install

启动前准备:

mkdir /mnt/mfs

echo “192.168.33.10 mfsmaster” >> /etc/hosts

挂载客户端测试:

/usr/bin/mfsmount/mnt/mfs -H  192.168.33.10

然后我们可以对文件进行常规操作,其他应用服务器 LAMP 可以挂载 MFS 文件系统,来存放文件。

七、MFS 必备命令:

设置副本的份数,推荐 3 份

/usr/bin/mfssetgoal -r 3  /mnt/mfs

查看某文件

/usr/bin/mfsgetgoal  /mnt/mfs

查看目录信息

/usr/bin/mfsdirinfo -H /mnt/mfs

写入性能测试:

dd if=/dev/zero of=1.img bs=1M count=50

读取性能测试:

dd if=1.img bs=1M |dd of=/dev/null

本文永久更新链接地址:http://www.linuxidc.com/Linux/2015-09/122621.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计3364字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7992768
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛 NAS-8:有了 NAS 你可以干什么?软件汇总篇 前言 哈喽各位玩友!我是是星哥,不少朋友私...
Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集 在云原生体系中,Prometheus 已成为最主流的监控与报警...
恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击 PHP-FPM(FastCGl Process M...
亚马逊云崩完,微软云崩!当全球第二大云“摔了一跤”:Azure 宕机背后的配置风险与警示

亚马逊云崩完,微软云崩!当全球第二大云“摔了一跤”:Azure 宕机背后的配置风险与警示

亚马逊云崩完,微软云崩!当全球第二大云“摔了一跤”:Azure 宕机背后的配置风险与警示 首先来回顾一下 10...
星哥带你玩飞牛NAS-5:飞牛NAS中的Docker功能介绍

星哥带你玩飞牛NAS-5:飞牛NAS中的Docker功能介绍

星哥带你玩飞牛 NAS-5:飞牛 NAS 中的 Docker 功能介绍 大家好,我是星哥,今天给大家带来如何在...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
自己手撸一个AI智能体—跟创业大佬对话

自己手撸一个AI智能体—跟创业大佬对话

自己手撸一个 AI 智能体 — 跟创业大佬对话 前言 智能体(Agent)已经成为创业者和技术人绕...
开发者福利:免费 .frii.site 子域名,一分钟申请即用

开发者福利:免费 .frii.site 子域名,一分钟申请即用

  开发者福利:免费 .frii.site 子域名,一分钟申请即用 前言 在学习 Web 开发、部署...
国产开源公众号AI知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率

国产开源公众号AI知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率

国产开源公众号 AI 知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率 大家好,我是星哥,...
星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的 NAS 中! 大家对「数据安全感」的需求越来越高 ...
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸

一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸

一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸 前言 作为天天跟架构图、拓扑图死磕的...