VMware下CentOS6.8配置GFS文件系统

共计 6347 个字符，预计需要花费 16 分钟才能阅读完成。

1.GFS 介绍

GFS简要说明，它有两种：

1. Google 文件系统：GFS 是 GOOGLE 实现的是一个可扩展的分布式文件系统，用于大型的、分布式的、对大量数据进行访问的应用。它运行于廉价的普通硬件上，但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。欲了解更多，可以访问：http://baike.baidu.com/item/GFS/1813072

2. RedHat 的 GFS（Global File System）

GFS（Global File System）自己以本地文件系统的形式出现。多个 Linux 机器通过网络共享存储设备，每一台机器都可以将网络共享磁盘看作是本地磁盘，如果某台机器对 某个文件执行了写操作，则后来访问此文件的机器就会读到写以后的结果。可以根据对性能或是可扩展性，或者以经济性多个原则进行不同方案的部署。

GFS 主要组件，集群 卷管理，锁管理，集群 管理，围栏和恢复，集群配置管理。

本文主要介绍 Redhat 的 GFS 系统。

REDHAT CLUSTER SUITEWITH GFS :

RHCS（REDHAT CLUSTER SUITE）是一款能够提供高性能、高可靠性、负载均衡、高可用性的集群工具集, 一个集群通常有两个或两个以上的计算机（称为“节点”或”成员“）共同执行一个任务。

RHCS主要组件：

• 集群架构:

提供一个基本功能使节点作为集群工作在一起：配置文件管理，成员关系管理，锁管理和栅设备。

• 高可用性管理：

提供节点失败转移服务，当一个节点失败后将服务转移到另一个节点上。

• 集群管理工具：

通过配置和管理工具来配置和管理 Red Hat 集群。

• Linux Virtual Server (LVS)

LVS 提供一个基于 IP 的负载均衡功能，通过 LVS 可以将客户请求均匀的分配到集群节点上。

其它 Red Hat 集群组件：

• Cluster Logical Volume Manager (CLVM)

提供逻辑卷管理集群存储。

• 集群管理器：

CMAN 是一个分布式集群管理器（DLM），它运行在每一个集群节点上，CMAN 通过监视集群节点提供一个法定节点数（quorum），当集群 中有多于一半的节点处于活跃状态时, 此时符合法定节点数，集群继续可用，当只有有一半或少于一半的节点处于活跃状态是则已达到不到法定节点数，此时整个集 群变得不可用。CMAN 通过监控集群中节点来确定各节点的成员关系，当集群中的成员关系发生改变，CMAN 会通架构中其它组件来进行相应的调整。

• DLM锁管理：

分布式锁管理器，它运行在所有的集群节点上，锁管理是一个公共的基础结构，为集群提供一种共享集群资源的管理机制，GFS 通过锁管理器使用锁机制来同步访问文件系统元数据，CLVM 通过锁管理器来同步更新数据到 LVM 卷和卷组。

• 数据的完整保证：

RHCS 通过 Fence 设备从共享存储切断失效节点的 I / O 以保证数据的完整性。当 CMAN 确定一个节点失败后，它在集群结构中通告这个失败的节点（组播），fenced 进程会将失败的节点隔离，以保证失败节点不破坏共享数据。

REDHAT集群配置系统：

集群配置文件：(/etc/cluster/cluster.conf) 是一个 XML 文件，用来描述下面的集群特性。

集群名称 : 列出集群名称、集群配置文件版本和一个隔离时间，隔离相应时间当一个新节点加入或从集群中隔离时。

集群 : 列出集群中的每一个节点，指定节点名称，节点 ID，法定投票数，和栅模式。

fence设备 : 定义 fence 设备。

管理资源 : 定义创建集群服务需要的资源。管理资源包括失败转移域，资源和服务。

2.GFS 搭建

设置环境如下，两节点操作共享文件：

• 192.168.10.11 test01
• 192.168.10.12 test02
• OS：CentOS6.8 64 位
• VMware 共享磁盘一块

以下操作如非特别注明，则需要在所有的节点上执行。

2.1 配置网络

编辑 hosts 文件，使两节点间可通过主机名访问：

# more /etc/hosts
127.0.0.1   localhost localhost.localdomain
::1         localhost localhost.localdomain
192.168.10.11 test01
192.168.10.12 test02

2.2 安装集群文件系统相关的软件包

使用 yum 安装软件包：

# yum install cman openais gfs* kmod-gfs lvm2* rgmanager system-config-cluster scsi-target-utils cluster-snmp

上述软件包有众多的依赖包会被安装或更新，为避免出现意外情况，建议软件包安装后重启。

2.3 配置 iptables

允许 test01 和 test02 相互通信

test01 配置文件 /etc/sysconfig/iptables 添加：

-A INPUT -s 192.168.10.12 -j ACCEPT

test02 配置文件 /etc/sysconfig/iptables 添加：

-A INPUT -s 192.168.10.11 -j ACCEPT

2.4 修改相关配置

修改 /etc/sysconfig/selinux 中 selinux=disabled

修改 lvm 逻辑卷配置：

# vi /etc/lvm/lvm.conf

将 locking_type = 1，改为 locking_type = 3，允启用同时读写。

修改 fallback_to_local_locking=0，以禁止回写，避免导致裂脑。

2.5 生成集群配置文件

[root@test02 data]# cat /etc/cluster/cluster.conf
<?xml version="1.0"?>
<cluster name="GFSmail" config_version="4">

  <clusternodes>
  <clusternode name="test01" votes="1" nodeid="11"><fence><method name="single"><device name="meatware"/></method></fence></clusternode><clusternode name="test02" votes="1" nodeid="12"><fence><method name="single"><device name="meatware"/></method></fence></clusternode></clusternodes>

  <fencedevices>
  <fencedevice name="meatware" agent="fence_manual"/></fencedevices>

  <rm>
    <failoverdomains/>
    <resources/>
  </rm>
</cluster>

而后可以执行 ccs_config_validate 命令检查配置文件是否合法。

2.6 创建集群存储

先手动启动 cman 和 clvmd 命令，以便监控集群卷的中存储设备的状态：

# service cman start

# service clvmd start

# service rgmanager start

以下操作在节点 1 端执行：

创建物理卷和卷组和逻辑卷：

2.7 在新建的逻辑卷上创建 gfs2 文件系统：

对于 mkfs.gfs2 命令来说，我们所使用的参数功能如下：

-p：用来指定 gfs 的锁机制，一般情况下会选择 lock_dlm；

-j：指定 journal 个数(可加入节点数)，一般情况下应留有冗余，否则后期还得再调整；

查看 journals：# gfs2_tool journals /home/coremail/var

增加 journals：# gfs2_jadd -j 1 /home/coremail/var  ## 增加一个 journals

-t：格式为 ClusterName:FS_Path_Name

ClusterName：应与前面 cluster.conf 中指定的集群名称相同（上文为：GFSmail）；

FS_Path_Name：这个块设备 mount 的路径（上文为：maildata）；

最后一个参数是指定逻辑卷的详细路径；

2.8GFS 挂载

创建目录：

[root@test01 ~]# mkdir /home/coremail/var

将刚刚创建的逻辑卷加入到 /etc/fstab 文件中，使其开机自动映射：

[root@test01 ~]# echo "/dev/mapper/mailcluster-maildata  /home/coremail/var            gfs2    defaults,noatime,nodiratime,noquota        0 0" >> /etc/fstab

启动 gfs2 服务：

[root@test01 ~]# /etc/init.d/gfs2 start

节点 2 端执行：

操作前可以先执行 pvs,lvs 命令，看看是否能够正常显示节点 1 端创建的物理卷和逻辑卷信息，如果看不到(先尝试 lvscan)，则说明并未使用共享存储，或者配置有异常，仍然需要排查，需要等问题解决后，再执行下列的命令。

执行# clustat 可以查询各成员节点的状态。

2.9 在所有节点操作，配置服务的自动启动，这样就不必担心服务器重启了：

参考资料：https://access.redhat.com/documentation/zh-CN/Red_Hat_Enterprise_Linux/6/html/Global_File_System_2/ch-overview-GFS2.html

本文永久更新链接地址：http://www.linuxidc.com/Linux/2016-11/136945.htm