阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

CentOS分布式环境安装HBase-0.96.0

383次阅读
没有评论

共计 7138 个字符,预计需要花费 18 分钟才能阅读完成。

一、安装 zookeeper
在安装好分布式 Hadoop 的环境下,继续安装 zookeeper-3.4.5。
  1. $ wget http://124.202.164.9/download/32878722/41763290/4/gz/165/152/1353566847397_152/zookeeper-3.4.5.tar.gz
  2. $ tar -xf zookeeper-3.4.5.tar.gz
  3. $ cp zookeeper-3.4.5/conf/zoo_sample.cfg zookeeper-3.4.5/conf/zoo.cfg
修改 zookeeper 配置文件:
  1. $ vim zookeeper-3.4.5/conf/zoo.cfg
做如下修改:
  1. tickTime=2000
  2. dataDir=/home/ruifeng.shan/zookeeper
  3. clientPort=2181
  4. initLimit=5
  5. syncLimit=2
  6. server.1=master:2888:3888
  7. server.2=node:2888:3888
  8. server.3=slave:2888:3888
在你指定的 dataDir 目录下新建一个文件 myid,在里面添加你指定的 server 编号。例如,你为 hostname 名为 master 的指定了如下配置
server.1=master:2888:3888,所以它的编号应该是 1.
将 zookeeper-3.4.5 分发到其他机器。然后修改对应的 myid 文件内容为之前给其指定的编号。如 node 为 2,slave 为 3.
分别启动 zookeeper 服务。在每台机器上切换到 zookeeper-3.4.5 目录,执行
$bin/zkServer.sh start
就可以启动 zookeeper 服务。
二、安装 hbase-0.96.0
为了和 hadoop-2.2.0 匹配,选择的 hbase 版本为 0.96.0
  1. $ wget http://mirror.bit.edu.cn/apache/hbase/hbase-0.96.0/hbase-0.96.0-hadoop2-bin.tar.gz
  2. $ tar -xf hbase-0.96.0-hadoop2-bin.tar.gz
  3. $ cd hbase-0.96.0
修改 conf 下的配置:
  1. vim conf/hbase-env.sh
修改 JAVA_HOME:
  1. # The java implementation to use. Java 1.6 required.
  2. export JAVA_HOME=/usr/lib/jvm/java/jdk1.6.0_37
修改 HBase 使用 zookeeper 的方式:
  1. # Tell HBase whether it should manage it’s own instance of Zookeeper or not.
  2. export HBASE_MANAGES_ZK=false
这个参数默认是 true。意思是是否让 hbase 单独管理 zookeeper
如果安装的机器上已经安装了 zookeeper,并且这个 zookeeper 是多个平台共用的,那么这个参数应该设置为 false
如果集群上没有安装 zookeeper,并且只有 hbase 自己使用 zookeeper,那么这个参数应该设置为 true。
修改其 conf 目录下的 hbase-site.xml 文件。内容如下:
  1. <configuration>
  2. <property>
  3. <name>hbase.rootdir</name>
  4. <value>hdfs://master:8089/hbase</value>
  5. </property>
  6. <property>
  7. <name>hbase.master</name>
  8. <value>hdfs://master:60000</value>
  9. </property>
  10. <property>
  11. <name>hbase.cluster.distributed</name>
  12. <value>true</value>
  13. </property>
  14. <property>
  15. <name>hbase.zookeeper.property.clientPort</name>
  16. <value>2181</value>
  17. </property>
  18. <property>
  19. <name>hbase.zookeeper.quorum</name>
  20. <value>master,node,slave</value>
  21. </property>
  22. <property>
  23. <name>hbase.zookeeper.property.dataDir</name>
  24. <value>/home/aaron/zookeeper</value>
  25. </property>
  26. <property>
  27. <name>hbase.client.scanner.caching</name>
  28. <value>200</value>
  29. </property>
  30. <property>
  31. <name>hbase.balancer.period</name>
  32. <value>300000</value>
  33. </property>
  34. <property>
  35. <name>hbase.client.write.buffer</name>
  36. <value>10485760</value>
  37. </property>
  38. <property>
  39. <name>hbase.hregion.majorcompaction</name>
  40. <value>7200000</value>
  41. </property>
  42. <property>
  43. <name>hbase.hregion.max.filesize</name>
  44. <value>67108864</value>
  45. <description>
  46. Maximum HStoreFile size. If any one of a column families’ HStoreFiles has
  47. grown to exceed this value, the hosting HRegion is split in two.</description>
  48. </property>
  49. <property>
  50. <name>hbase.hregion.memstore.flush.size</name>
  51. <value>1048576</value>
  52. <description>
  53. Memstore will be flushed to disk if size of the memstore
  54. exceeds this number of bytes. Value is checked by a thread that runs
  55. every hbase.server.thread.wakefrequency.</description>
  56. </property>
  57. <property>
  58. <name>hbase.server.thread.wakefrequency</name>
  59. <value>30000</value>
  60. <description>Time to sleep in between searches for work (in milliseconds).
  61. Used as sleep interval by service threads such as log roller.</description>
  62. </property>
  63. </configuration>
其中 hbase.rootdir 要保持与 hadoop 的 core-site.xml 文件中的 fs.default.name 中的值一致。
hbase 的 master 和 regionserver 的时钟要保持一致,否则启动 regionserver 的时候会报如下错误:
org.apache.hadoop.hbase.ClockOutOfSyncException: org.apache.hadoop.hbase.ClockOutOfSyncException: Server hadoop02,60020,1374576225508 has been rejected; Reported time is too far out of sync with master. Time difference of 62062623ms > max allowed of 30000ms
这是由于 master 和 regionserver 之间的时间误差太大造成的。
解决方法 1:修改下面的参数
  1. <name>hbase.master.maxclockskew</name>
  2. <value>180000</value>
  3. <description>Time difference of regionserver from master</description>
该参数默认值为 30 000(30 秒)
解决方法 2:使用 ntpdate 同步集群的时钟
修改 regionservers 文件配置:
这个文件是用来指定 regionserver 的机器的,一行一个,一般使用 datanode 作为 regionserver:
  1. $ vim conf/regionservers
master
node
slave
配置 backup-masters:
  1. $ vim conf/backup-masters
master-backup
配置 backup-masters 可以在 master 挂掉之后自动启动 backup masters
注意:为了兼容 Hadoop-2.2.0,需要将 hbase 的 lib 包中的内容 lib 包中的 hadoop-common-2.1.0-beta.jar 替换成 hadoop-2.2.0/share/hadoop/common 目录下的 hadoop-common-2.2.0.jar。
启动 hbase:
如果集群各个机器都有 ssh 无密码登陆,可以直接使用 start-hbase.sh 启动整个集群。
或者到每个机器上使用 daemon 脚本启动(切换到 hbase 目录下):
到 master 机器上:bin/hbase-daemon.sh start master
到 regionserver 机器上:bin/hbase-daemon.sh start regionserver
查看集群是否正常:
查看 master 的监控页面:
http://master:60010

HBase 的详细介绍 :请点这里
HBase 的下载地址 :请点这里

相关阅读

Hadoop+HBase 搭建云存储总结 PDF http://www.linuxidc.com/Linux/2013-05/83844.htm

HBase 结点之间时间不一致造成 regionserver 启动失败 http://www.linuxidc.com/Linux/2013-06/86655.htm

Hadoop+ZooKeeper+HBase 集群配置 http://www.linuxidc.com/Linux/2013-06/86347.htm

Hadoop 集群安装 &HBase 实验环境搭建 http://www.linuxidc.com/Linux/2013-04/83560.htm

基于 Hadoop 集群的 HBase 集群的配置 http://www.linuxidc.com/Linux/2013-03/80815.htm‘

Hadoop 安装部署笔记之 -HBase 完全分布模式安装 http://www.linuxidc.com/Linux/2012-12/76947.htm

单机版搭建 HBase 环境图文教程详解 http://www.linuxidc.com/Linux/2012-10/72959.htm

更多 CentOS 相关信息见 CentOS 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=14

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计7138字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7954077
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
星哥带你玩飞牛NAS-1:安装飞牛NAS

星哥带你玩飞牛NAS-1:安装飞牛NAS

星哥带你玩飞牛 NAS-1:安装飞牛 NAS 前言 在家庭和小型工作室场景中,NAS(Network Atta...
自己手撸一个AI智能体—跟创业大佬对话

自己手撸一个AI智能体—跟创业大佬对话

自己手撸一个 AI 智能体 — 跟创业大佬对话 前言 智能体(Agent)已经成为创业者和技术人绕...
星哥带你玩飞牛NAS-13:自动追番、订阅下载 + 刮削,动漫党彻底解放双手!

星哥带你玩飞牛NAS-13:自动追番、订阅下载 + 刮削,动漫党彻底解放双手!

星哥带你玩飞牛 NAS-13:自动追番、订阅下载 + 刮削,动漫党彻底解放双手! 作为动漫爱好者,你是否还在为...
2025年11月28日-Cloudflare史诗级事故:一次配置失误,引爆全球宕机

2025年11月28日-Cloudflare史诗级事故:一次配置失误,引爆全球宕机

2025 年 11 月 28 日 -Cloudflare 史诗级事故: 一次配置失误,引爆全球宕机 前言 继今...
星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛 NAS 硬件 03:五盘位 +N5105+ 双网口的成品 NAS 值得入手吗 前言 大家好,我...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍 前言 在 AI 自动化快速发展的当下,浏览器早已不再只是...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛 NAS 硬件 02:某鱼 6 张左右就可拿下 5 盘位的飞牛圣体 NAS 前言 大家好,我是星...
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
星哥带你玩飞牛NAS-13:自动追番、订阅下载 + 刮削,动漫党彻底解放双手!

星哥带你玩飞牛NAS-13:自动追番、订阅下载 + 刮削,动漫党彻底解放双手!

星哥带你玩飞牛 NAS-13:自动追番、订阅下载 + 刮削,动漫党彻底解放双手! 作为动漫爱好者,你是否还在为...