Hadoop(HA)集群+Zookeeper实现高可用集群

230次阅读

共计 6893 个字符，预计需要花费 18 分钟才能阅读完成。

节点类型	IP	hosts(主机名)
NameNode	192.168.56.106	master
NameNode	192.168.56.107	standby-master
DataNode,JournalNode	192.168.56.108	slave1
DataNode,JournalNode	192.168.56.109	slave2
DataNode,JournalNode	192.168.56.110	slave3

一共配备的 5 台的设备，master 充当 (active) 角色，standby-master 充当 (standby) 角色，当 master 出现单点故障的时候，standby-master 就会顶上去充当 (active) 角色来维持整个集群的运作。

环境名称	版本号
CentOS	7
Jdk	jdk-8u131
Hadoop	2.6.5
zookeeper	3.4.10

把 jdk、Hadoop、zookeeper 解压到 /use/local/ 目录下
编辑 /etc/profile 文件分别加入 jdk、Hadoop 的环境变量

vim /etc/profile

加入以下环境变量:

Java_HOME=/usr/local/jdk1.8.0_131/
PATH=$JAVA_HOME/bin:$PATH
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export JAVA_HOME
export PATH
export CLASSPATH

export PATH=$PATH:/usr/local/hadoop-2.6.5/bin:/usr/local/hadoop-2.6.5/sbin

profile 环境变量

编辑 hadoop-2.6.5/etc/hadoop/hadoop-env.sh 文件加入 Java 环境变量

Hadoop 的 Java 环境变量

这是我本次搭建用到的系统版本。

我会在 slave1、slave2、slave3 这三台机器上添 zookeeper 集群，把 JournalNode 节点交给 zookeeper 做调度。
解压后进入 /zookeeper-3.4.10/conf/ 目录
拷贝 cp zoo_sample.cfg 改名成 zoo.cfg
拷贝 cp zoo_sample.cfg zoo.cfg

在 zoo.cfg 文件添加以下配置:

dataDir=/home/zookeeper/data
dataLogDir=/home/zookeeper/logs
clientPort=2181
server.1=slave1:2888:3888
server.2=slave2:2888:3888
server.3=slave3:2888:3888

配置 myid:

我这里有 3 台 zk 集群机器，每台机器都需要在 /home/zookeeper/data 目录下创建一个 myid 的文件、并且要写上自己对应的服务 id 号，比如我在 slave1 这台机器对应的 service.id 是 1 那么我在 myid 就会写上 1，slave2 的 service.id 是 2 就会写上 2.. 以此类推。

cd /home/zookeeper/data/
vim myid (写上服务的 id 号保存退出)

编写开机启动脚本(为了方便启动，不用每次手动启动 zk 集群，如果觉得麻烦可以忽略该步骤)

写了一个脚本设置 zookepper 开机启动
在 /etc/rc.d/init.d/ 目录下添加一个文件叫 zookeeper

命令：touch zookeeper

写入以下配置，JAVA_HOME 是你 jdk 的安装位置，ZOO_LOG_DIR 是 zookeeper 存放日志的位置，ZOOKEEPER_HOME 是 zookeeper 的安装位置。


#!/bin/bash
#chkconfig: 2345 10 90
#description: service zookeeper
export   JAVA_HOME=/usr/local/jdk1.8.0_131
export   ZOO_LOG_DIR=/home/zookeeper/datalog
ZOOKEEPER_HOME=/usr/local/zookeeper-3.4.10
su root  ${ZOOKEEPER_HOME}/bin/zkServer.sh "$1"

为新建的 zookeeper 文件添加可执行权限

命令：chmod +x /etc/rc.d/init.d/zookeeper

添加 zookeeper 到开机启动

命令：chkconfig –add zookeeper

重启你的的 zk 集群
检查你的 zookeeper 集群确保没问题

命令:/usr/local/zookeeper-3.4.10/bin/zkServer.sh status

启动 zookeeper 集群

以上已经配置好 zookeeper 集群

两台 NameNode 之间的协调需要 SSH 登陆来实现，所以两台 NameNode 必须要配置好
进入 master 这台机器的的根目录

输入命令：ssh-keygen -t rsa

出现提示可以不理会直接按几次回车键就行了，出现以下界面说明生成私钥 id_rsa 和公钥 id_rsa.pub

生成的公钥

把生成的公钥 id 发送到 slave1、slave2、slave3、机器上

输入命令：ssh-copy-id slave1

slave1 会要求你输入 slave1 这台机器上的密码

要求你输入 slave1 密码

密码输入正确后你会看到以下界面，它说已经添加了密钥, 它叫你尝试登陆一下

叫你尝试登陆一下 slave1

添加其他的 slave2、slave3、slave4、standby-master、master 也是同样的操作。(一共 5 台机器，包括目前本机)

在 master 完成以上操作之后，再到 standby-master 重复以上的操作。(记得两个 NameNode 都要进行操作，重要的事再说一遍)。

配置 core-site.xml
在 core-site.xml 加入以下配置
master 是整个服务的标识、以及配备了 zookeeper 的配置信息

<configuration>

 <property>
      <name>fs.defaultFS</name>
      <value>hdfs://master</value>
 </property>
 <property>
      <name>hadoop.tmp.dir</name>
      <value>/home/hadoopData/hdfs/temp</value>
 </property>

 <property>
      <name>io.file.buffer.size</name>
      <value>4096</value>
 </property>

<!--zookeeper 配置 -->
 <property>
      <name>ha.zookeeper.quorum</name>
      <value>slave1:2181,slave2:2181,slave3:2181</value>
 </property>

</configuration>

配置 hdfs-site.xml

<configuration>

<property>
   <name>dfs.namenode.name.dir</name>
   <value>/home/hadoopData/dfs/name</value>
 </property>
 <property>
   <name>dfs.datanode.data.dir</name>
   <value>/home/hadoopData/dfs/data</value>
 </property>
 <property>
   <name>dfs.replication</name>
   <value>3</value>
 </property>
 <property>
   <name>dfs.webhdfs.enabled</name>
   <value>true</value>
 </property>
 <property>
   <name>dfs.permissions.superusergroup</name>
   <value>staff</value>
 </property>
 <property>
   <name>dfs.permissions.enabled</name>
   <value>false</value>
 </property>

<!-- NanmeNode 主备切换核心配置 -->
 <property>
        <name>dfs.nameservices</name>
        <value>master</value>
    </property>
    <property>
      <name>dfs.ha.namenodes.master</name>
      <value>nn1,nn2</value>
    </property>
    <property>
      <name>dfs.namenode.rpc-address.master.nn1</name>
      <value>master:9000</value>
    </property>
    <property>
        <name>dfs.namenode.http-address.master.nn1</name>
        <value>master:50070</value>
    </property>
    <property>
        <name>dfs.namenode.rpc-address.master.nn2</name>
        <value>standby-master:9000</value>
    </property>
    <property>
        <name>dfs.namenode.http-address.master.nn2</name>
        <value>standby-master:50070</value>
    </property>



    <!-- 指定 NameNode 的元数据在 JournalNode 上的存放位置 -->
    <property>
        <name>dfs.namenode.shared.edits.dir</name>
        <value>qjournal://slave1:8485;slave2:8485;slave3:8485/master</value>
    </property>
    <!-- 指定 JournalNode 在本地磁盘存放数据的位置 -->
    <property>
          <name>dfs.journalnode.edits.dir</name>
          <value>/home/hadoopData/journal</value>
    </property>


    <!-- 开启 NameNode 故障时自动切换 -->
    <property>
      <name>dfs.ha.automatic-failover.enabled</name>
      <value>true</value>
    </property>
    <property>
        <name>dfs.client.failover.proxy.provider.master</name>
        <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
    </property>
    <property>
        <name>dfs.ha.fencing.methods</name>
        <value>sshfence</value>
    </property>
    <!--ssh 免登陆 -->
    <property>
        <name>dfs.ha.fencing.ssh.private-key-files</name>
        <value>/root/.ssh/id_rsa</value>
    </property>

    <property>
      <name>dfs.replication</name>
      <value>2</value>
    </property>
    <property>
      <name>dfs.webhdfs.enabled</name>
      <value>true</value>
    </property>

</configuration>

注意事项：
我这里一共拆分了 3 部分来说明、以上的配置的文件分别有备注说明
在 dfs.nameservices 标签中的 value 和 core-site.xml 配置中的服务名要一致，因为我起名叫 master，所以我这里也叫 master。
dfs.namenode.shared.edits.dir 标签中存放的是你的 zk 集群的 journalnode，后面记得加上你的服务名。

把这 2 份配置文件分别拷贝到 5 台机器上。

在你的两台 NameNode 都需要安装 fuser
进入你的 .ssh 目录（我的目录是 /root/.ssh）