阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

在Cloudera CDH 5.4.8上启用Kerberos (Ubuntu 14.04 LTS环境)

460次阅读
没有评论

共计 3188 个字符,预计需要花费 8 分钟才能阅读完成。

默认安装好的 Cloudera CDH 是没有启用 security 的。在非 security 的 CDH 环境中,至少会存在以下安全隐患:
1. 任何可以登录到 RegionServer 节点上的用户,都可以运行”hbase shell”名命令进入到 hbase 的 shell,并且可以完全控制所有的 table。
2. 通过 HUE 创建的用户,如果被授予了读写数据库的权限,那么他就可以完全控制所有的 table。
3. 更严重的隐患,只需要知道任何一个 ZooKeeper 的 IP 地址,那么就可以在集群以外的位置运行通过 HBase API 实现的代码来完全控制 HBase。

需要解决以上隐患,我们必须在 CDH 中启用 security。CDH 使用 Kerberos 作为 Authentication 和 Authorization 的工具。本篇文章主要介绍如何在 CDH 上启用 Kerberos,以及启用 Kerberos 后出现的各种问题和解决方法。

一. 启用 Kerberos

1. 安装 Kerberos 服务端

首先需要找一台主机安装 Kerberos 服务端。建议可以在运行 Cloudera Manager 的主机上安装。运行以下命令:

sudo apt-get install krb5-kdc
sudo apt-get install krb5-admin-server

安装过程中需要指定域名,Kerberos 服务器,Kerberos 管理服务器等。
域名可以填实际的域名:
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

Kerberos 服务器可以填 Cloudera Manager 的完全主机名:
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

Kerberos 管理服务器可以填 Cloudera Manager 的完全主机名:
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

2. 配置 Kerberos 服务端

先创建新的数据库,执行以下命令,注意一定要记住设置的密码:

sudo krb5_newrealm

然后执行 kadmin local 进入管理界面,再添加管理员 principal,Cloudera Manager 将使用该管理员用户来创建其他相关的 principal。参考以下命令:

#kadmin local
addprinc cloudera-scm/admin

修改 ACL 文件,使该 principal 具有管理员权限。修改 /etc/krb5kdc/kadm5.acl 文件,内容如下:

# This file Is the access control list for krb5 administration.
# When this file is edited run /etc/init.d/krb5-admin-server restart to activate
# One common way to set up Kerberos administration is to allow any principal 
# ending in /admin  is given full administrative rights.
# To enable this, uncomment the following line:
*/admin *
cloudera-scm/admin@BIGDATA.NET  *

3. 安装 Kerberos 客户端

在 CDH 的所有节点上安装 Kerberos 客户端,运行以下命令:

sudo apt-get install krb5-user

然后测试 Kerberos 是否配置正确。在节点上运行“kinit”命令没有报错,然后运行”klist”能够看到票据即可。如下:
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

4. 在集群上启用 Kerberos

在 Cloudera Manager 界面点击“管理”下面的”Kerberos”(5.5.0 版本以后为 Security),再点“启用 Kerberos”,然后根据提示完成即可。
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)
后面的步骤没有截图,按照页面的提示完成。下面的截图是启用 Kerberos 之后,Kerberos 的配置。注意红色框框部分的配置信息。
 在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

二. 问题解决

启用 Kerberos 后,原来运行正常的集群会出现各种因为 Security 导致的问题。下面把碰到的问题和解决的方法做一个简单的描述。

1. 启用 Kerberos 后,ZeeKeeper 服务无法启动

问题分析:节点无法连接到 KDC 服务器,无法获取票据,导致所有服务都无法启动。这个貌似是 CDH 的一个 BUG。CDH 通过 TCP 协议连接 KDC 服务器,但是由 KDC 托管的 krb5.conf 文件默认设置成 UDP 协议。
解决方法:修改所有节点的 /etc/krb5.conf 文件,把 udp_preference_limit 的值修改为 0,然后再重启集群即可。
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

2. 通过 HUE 界面创建的 Workflow 在提交时直接失败,并且没有 Job 日志

问题分析:通过查看 JobHistory 的日志发现,该问题是在尝试创建 Job 日志时,没有权限写 /yarn/nm/usercache/

3. 通过 HUE 界面无法查看 HBase 的 table

问题分析:配置问题。
解决方法:将 Hbase 的 hbase.regionserver.thrift.http 和 hbase.thrift.support.proxyuser 配置都设置为 true,然后重启 HBase 即可。如下图:
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)
或参考以下网址:http://gethue.com/hbase-browsing-with-doas-impersonation-and-kerberos/

4. 在 Hbase Shell 中,没有权限运行任何命令

问题分析:配置问题。
解决方法:在 Hbase 的 hbase.superuser 中加入超级用户,然后重启 HBase,再使用超级用户在 Hbase Shell 中运行 grant 命令进行授权。
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)

5. 包含 Sqoop 的 Workflow 在提交后,状态为 PREP,之后报错

问题分析:这个问题困扰的时间最长,貌似是 HUE3.7 的 BUG,将 CDH 升级到 5.5.0,HUE3.9 后问题得到解决。在 HUE3.7 的 Workflow 编辑界面,未提供 job-xml 的配置选项,导致 Job 无法完成。
解决方法:将 HUE 升级到 3.9 版本。然后再 Sqoop 步骤的配置中,将”作业 XML”选项填入位于 HDFS 上的 hbase-site.xml 文件。
在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)
也可参考以下网址:http://ingest.tips/2015/02/12/sqoop-hbase-oozie/

6.Sqoop 任务失败,日志提示“Hbase jars are not present in classpath, cannot import to hbase”

在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)
问题分析:其实我已经把以下文件(hbase-client.jar,hbase-protocol.jar,htrace-core.jar,hbase-server.jar,hbase-Hadoop-compat.jar,high-scale-lib-1.1.1.jar 等,源文件位于 /opt/cloudera/parcels/CDH-5.5.0-1.cdh5.5.0.p0.8/lib/hive/lib 下)都上传到 HDFS 下面的 /user/oozie/share/lib/lib_xxxxxxxx/sqoop 目录下了,本来是不该出现这个提示的。不晓得是不是又是一个 BUG,还是因为我把集群升级到 5.5.0 了。
解决方法:把 HUE 和 Sqoop 2 服务从 CDH 集群中删除,再重新添加这两个服务,并重启集群,问题就解决了。

7.Sqoop 任务失败,日志提示没有权限在 Hbase 中执行”CREATE”

在 Cloudera CDH 5.4.8 上启用 Kerberos (Ubuntu 14.04 LTS 环境)
问题分析:相同的 Sqoop 命令在节点主机上执行没有任何问题。从日志分析,Job 以 oozie 的身份来写 Hbase,而不是当前的 HUE 用户。不晓得这个是不是 BUG。
解决方法:暂时未找到解决办法。Workaround:在 Hbase Shell 中执行以下命令,授予 oozie 读写 Hbase 的权限。

grant 'oozie', 'RWC'

将来可能还会发现更多问题。到时候再列出来。

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2017-11/148412.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计3188字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7982135
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统 大家好,我是星哥。公司的项目文档存了一堆 ...
2025年11月28日-Cloudflare史诗级事故:一次配置失误,引爆全球宕机

2025年11月28日-Cloudflare史诗级事故:一次配置失误,引爆全球宕机

2025 年 11 月 28 日 -Cloudflare 史诗级事故: 一次配置失误,引爆全球宕机 前言 继今...
支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare 也瘫了连监控都挂,根因藏在哪? 最近两天的互联网堪称“故障...
升级自动部署更新SSL证书系统、申请godaddy的APIKEY

升级自动部署更新SSL证书系统、申请godaddy的APIKEY

升级自动部署更新 SSL 证书系统、申请 godaddy 的 APIKEY 公司之前花钱购买的 ssl 证书快...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
如何安装2026年最强个人助理ClawdBot、完整安装教程

如何安装2026年最强个人助理ClawdBot、完整安装教程

如何安装 2026 年最强个人助理 ClawdBot、完整安装教程 一、前言 学不完,根本学不完!近期,一款名...
12.2K Star 爆火!开源免费的 FileConverter:右键一键搞定音视频 / 图片 / 文档转换,告别多工具切换

12.2K Star 爆火!开源免费的 FileConverter:右键一键搞定音视频 / 图片 / 文档转换,告别多工具切换

12.2K Star 爆火!开源免费的 FileConverter:右键一键搞定音视频 / 图片 / 文档转换...
星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛 NAS 硬件 02:某鱼 6 张左右就可拿下 5 盘位的飞牛圣体 NAS 前言 大家好,我是星...
每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站 - 手机博物馆 -CHAZ 3D Experience 一句话介绍:一个用 3D 方式重温...
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...