阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

在Hadoop集群部署Hbase并开启kerberos

376次阅读
没有评论

共计 5330 个字符,预计需要花费 14 分钟才能阅读完成。

系统:LXC – CentOS6.3 x86_64

Hadoop 版本:cdh5.0.1(manmual 安装,未安装 cloudera-manager 相关)

集群现有环境:node*6;jdk1.7.0_55;已安装 zookeeper、hdfs(HA)、yarn、historyserver 和 httpfs 并已开启 kerberos(kdc 部署在 cluster 的一个节点上)。

所需安装的包:所有节点 -> yum install hbase  主节点 -> yum install hbase-master hbase-thrift hbase-rest  从节点 -> yum install hbase-regionserver

所需修改的配置文件如下:

主配置文件及内容:/etc/hbase/conf/hbase-site.xml 

<configuration>

 <property>

  <name>hbase.cluster.distributed</name>

  <value>true</value>

 </property>

 <property>

  <name>hbase.rootdir</name>

  <value>hdfs://irs-hdp-HA/hbase</value>

 </property>

 <property>

  <name>hbase.rest.port</name>

  <value>60050</value>

 </property>

 <property>

  <name>hbase.zookeeper.quorum</name>

  <value>cdh01.hypers.com,cdh02.hypers.com,cdh03.hypers.com</value>

 </property>

 <property>

  <name>hbase.replication</name>

  <value>true</value>

 </property>

 <property>

  <name>hbase.security.authorization</name>

  <value>true</value>

 </property>

 <property>

  <name>hbase.coprocessor.master.classes</name>

  <value>org.apache.hadoop.hbase.security.access.AccessController</value>

 </property>

 <property>

  <name>hbase.coprocessor.region.classes</name>

  <value>org.apache.hadoop.hbase.security.token.TokenProvider,org.apache.hadoop.hbase.security.access.AccessController</value>

 </property>

 <property>

  <name>hbase.security.authentication</name>

  <value>kerberos</value>

 </property>

 <property>

  <name>hbase.rpc.engine</name>

  <value>org.apache.hadoop.hbase.ipc.SecureRpcEngine</value>

 </property>

 <property>

  <name>hbase.regionserver.kerberos.principal</name>

  <value>hbase/_HOST@HADOOP.COM</value>

 </property>

 <property>

  <name>hbase.regionserver.keytab.file</name>

  <value>/etc/hadoop/conf/hbase.keytab</value>

 </property>

 <property>

  <name>hbase.master.kerberos.principal</name>

  <value>hbase/_HOST@HADOOP.COM</value>

 </property>

 <property>

  <name>hbase.master.keytab.file</name>

  <value>/etc/hadoop/conf/hbase.keytab</value>

 </property>

 <property>

  <name>hbase.thrift.keytab.file</name>

  <value>/etc/hadoop/conf/hbase.keytab</value>

 </property>

 <property>

  <name>hbase.thrift.kerberos.principal</name>

  <value>hbase/_HOST@HADOOP.COM</value>

 </property>

 <property>

  <name>hbase.rest.keytab.file</name>

  <value>/etc/hadoop/conf/hbase.keytab</value>

 </property>

 <property>

  <name>hbase.rest.kerberos.principal</name>

  <value>hbase/_HOST@HADOOP.COM</value>

 </property>

 <property>

  <name>hbase.rest.authentication.type</name>

  <value>kerberos</value>

 </property>

 <property>

  <name>hbase.rest.authentication.kerberos.principal</name>

  <value>HTTP/_HOST@HADOOP.COM</value>

 </property>

 <property>

  <name>hbase.rest.authentication.kerberos.keytab</name>

  <value>/etc/hadoop/conf/hbase.keytab</value>

 </property>

</configuration>

安全相关配置文件 /etc/hbase/conf/zk-jaas.conf

Client {

 com.sun.security.auth.module.Krb5LoginModule required

 useKeyTab=true

 useTicketCache=false

 keyTab=”/etc/hadoop/conf/hbase.keytab”

 principal=”hbase/cdh01.hypers.com@HADOOP.COM”;

};

hbase 相关的环境变量文件:/etc/hbase/conf/hbase-env.sh

export HBASE_OPTS=”-XX:+UseConcMarkSweepGC”

export HBASE_OPTS=”$HBASE_OPTS -Djava.security.auth.login.config=/etc/hbase/conf/zk-jaas.conf”

export HBASE_MANAGES_ZK=false

zookeeper 配置文件 (仅末尾两行是 hbase 配置所需追加的):/usr/lib/zookeeper/conf/zoo.cfg

maxClientCnxns=50

tickTime=2000

initLimit=5

syncLimit=2

dataDir=/var/lib/zookeeper

clientPort=2181

server.1=cdh01.hypers.com:2888:3888

server.2=cdh02.hypers.com:2888:3888

server.3=cdh03.hypers.com:2888:3888

authProvider.1=org.apache.zookeeper.server.auth.SASLAuthenticationProvider

jaasLoginRenew=3600000

kerberos.removeHostFromPrincipal=true

kerberos.removeRealmFromPrincipal=true 

—————————————————–End—————————————————–

Hadoop+HBase 搭建云存储总结 PDF http://www.linuxidc.com/Linux/2013-05/83844.htm

HBase 结点之间时间不一致造成 regionserver 启动失败 http://www.linuxidc.com/Linux/2013-06/86655.htm

Hadoop+ZooKeeper+HBase 集群配置 http://www.linuxidc.com/Linux/2013-06/86347.htm

Hadoop 集群安装 &HBase 实验环境搭建 http://www.linuxidc.com/Linux/2013-04/83560.htm

基于 Hadoop 集群的 HBase 集群的配置 http://www.linuxidc.com/Linux/2013-03/80815.htm‘

Hadoop 安装部署笔记之 -HBase 完全分布模式安装 http://www.linuxidc.com/Linux/2012-12/76947.htm

单机版搭建 HBase 环境图文教程详解 http://www.linuxidc.com/Linux/2012-10/72959.htm

参考文档说明 (hortonworks 会简称 hdp;cloudera 则 cdh):

    1、系统模板创建,由于笔者在 openvz 官方搜到的是 centos6.5 的模板,由于之前在测试环境时尽量和生产保持一致,因此要使用 CentOS6.3,所以,笔记根据官方文档自动,自行创建了一个模板,链接如下:http://openvz.org/Creating_a_CentOS_6_Template

    2、安装集群参考的 cdh 官方文档:http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH5/latest/CDH5-Installation-Guide/CDH5-Installation-Guide.html

    3、kerberos 和 hadoop 的整合阶段大量参考了 hortonworks 的文档,因为 cloudera 的文档给笔者的感觉就是假设这些都是 OK 的 (简直丧心病狂 …),具体链接如下:

    hortonworks 的 kerberos 配置链接:http://docs.hortonworks.com/HDPDocuments/Ambari-1.6.1.0/bk_ambari_security/content/index.html

    cloudera 的 kerberos 配置链接:http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH5/latest/CDH5-Security-Guide/CDH5-Security-Guide.html

    kerberos 官网:http://web.mit.edu/kerberos/krb5-latest/doc/

    4、本次主要参考 cloudera 的文档及 hbase 官方文档 (因为在安装 thrift 和 rest 时,cdh 未提及相关配置导致无法启动 …),相关链接如下:

    cdh 的文档:http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH5/latest/CDH5-Installation-Guide/cdh5ig_hbase_installation.html

    cdh 的 hbase 和 kerberos 部署整合的文档:http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH5/latest/CDH5-Security-Guide/cdh5sg_hbase_security.html

    hbase 官方文档:http://hbase.apache.org/book/security.html

更多 Hadoop 相关信息见 Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计5330字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7995283
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板 前言 大家好,我是星哥。星哥发现很多新手刚接触服务器时,都会被“选购...
浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍 前言 在 AI 自动化快速发展的当下,浏览器早已不再只是...
星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛 NAS-8:有了 NAS 你可以干什么?软件汇总篇 前言 哈喽各位玩友!我是是星哥,不少朋友私...
小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比

小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比

小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比 星哥玩云,带你从小白到上云高手。今天咱们就来聊聊——什...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞...
还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手! 前言 对于个人开发者、建站新手或是想搭建测试站点的从业者...
浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍 前言 在 AI 自动化快速发展的当下,浏览器早已不再只是...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...