阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Cloudera Manager 安装集群遇到的问题及解决

470次阅读
没有评论

共计 2965 个字符,预计需要花费 8 分钟才能阅读完成。

多次安装集群,但每次都不能顺利,都会遇到很多很多的坑,今天就过去踩过的坑简单的总结一下,希望已经踩了的和正在踩的童鞋能够借鉴一下,希望对你们能有所帮助。

一、MySQL 的配置

1、卸载原有的 mysql

查看目前安装的 mysql

rpm -qa |grep mysql

Cloudera Manager 安装集群遇到的问题及解决

卸载自带的 mysql

yum -y remove mysql-libs-5.1.73-7.el6.x86_64

2、安装 mysql

mysql 的安装有三种方式:

  • rpm 包安装(本次就采用 rmp 包的安装方式进行演示)
  • 源码安装(提供了源码安装的脚本)
  • yum 安装(虽然安装方便,但是不建议使用)

rpm 包的方式安装 mysql

# 加压 tar 文件

tar -xvf mysql-5.6.26-1.linux_glibc2.5.x86_64.rpm-bundle.tar -C /files/mysql-rpm/

# 安装 rpm 包

rpm -ivh /files/mysql-rpm/*.rpm

cp /usr/share/mysql/my-default.cnf /etc/my.cnf

# 安装数据库

/usr/bin/mysql_install_db

# 启动服务

service mysql start

# 设置开机自启

chkconfig mysql on

# 设置数据库密码

/usr/bin/mysqladmin -u root password ‘123456’

3、初始化数据库

mysql 安装完了之后就是初始化数据库的过程,进去 mysql 库中

mysql -u root -p123456

执行一下的语句进行初始化建库

create database hive default charset utf8 collate utf8_general_ci;
create database hue default charset utf8 collate utf8_general_ci;
create database scm default charset utf8 collate utf8_general_ci;
create database amon default charset utf8 collate utf8_general_ci;
create database sentry default charset utf8 collate utf8_general_ci;
create database oozie default charset utf8 collate utf8_general_ci;
create database reports default charset utf8 collate utf8_general_ci;
grant all privileges on *.* to ‘root’@’locolhost’;
grant all on *.* to ‘root’@’%’ identified by ‘123456’ with grant option;
grant all on *.* to ‘root’@’Hadoop’ identified by ‘123456’ with grant option;
flush privileges;

然后重启数据库就 ok 了

service mysql restart

重点说明一下:mysql 的安装是前期准备工作的重要一步,不建议使用 yum 安装,我就是因为图省事,直接用 yum 安装了 mysql,导致在创建 cmf 数据的时候总是报连不上 mysql 服务的错误(即执行 /opt/cm-5.11.1/share/cmf/schema/scmpreparedatabase.sh mysql cmf -hhadoop -uroot -p123456 –scm-host hadoop scm scm scm 命令),最后只得卸载了 yum 安装的 mysql 重新用 rmp 包安装的。

二、启动 cloudera-scm-server

在启动 cloudera-scm-server 的时候报如下的错误 (启来 30 秒左右自动关闭,查看日志文件:/opt/cm-5.11.1/log/cloudera-scm-server/cloudera-scm-server.log)

Caused by: javax.persistence.PersistenceException: org.hibernate.exception.GenericJDBCException: Could not open connection

错误原因:
1. 缺少 mysql 的驱动包,检查 /opt/cm-5.11.1/share/cmf/lib 目录下是否有 mysql 的驱动;
2. 检查 mysql 是否启动;
3.mysql 本身的问题,只能卸载 mysql 重新安装(我就是这种方案解决的);

三、启动 cloudera-scm-agent

在启动 cloudera-scm-server 的时候报如下的错误(启来 30 秒左右自动关闭,查看日志文件:/opt/cm-5.11.1/log/cloudera-scm-agent/cloudera-scm-agent.log)

ERROR Failed to connect to newly launched supervisor. Agent will exit

这种错误是因为主节点的 uuid 和从节点的一样,所以造成代理紊乱

错误原因:在主节点启动了 agent 后,再 scp 到其他节点,这样会把已经生成好的 uuid 带过去。所以必须等所有的 agent 节点都准备好之后,再启动 agent

那遇到这种 error 如何处理:
1. 删除 /opt/cm-5.11.1/lib/cloudera-scm-agent 目录下的所有文件 (首先要保证 server 和 agent 服务都是关闭的)
2. 删除 mysql 中 cmf 数据库
3. 删除从节点中 /opt/cm-5.11.1 目录

4. 重新复制到从节点

scp -r /opt/cm-5.11.1 root@hadoop001:/opt

5. 创建 cmf 数据库,执行一下代码

/opt/cm-5.11.1/share/cmf/schema/scm_prepare_database.sh mysql cmf -hhadoop -uroot -p123456 –scm-host hadoop scm scm scm

6. 重新启动 server 和 agent 就 ok 了

四、启动集群时报错

错误提示:

Cloudera Manager 安装集群遇到的问题及解决

看服务的状态:

service cloudera-scm-agent status

以上错误的意思是:agent 服务死了,但是 pid 文件换是存在

解决方法:进入到 /opt/cm-5.11.1/run/cloudera-scm-agent 目录下删除 pid 文件

Cloudera Manager 安装集群遇到的问题及解决

五、hive 分析运算时报错

错误提示:org.apache.hadoop.security.AccessControlException: Permission denied: user=root, access=WRITE, inode=”/user”:hdfs:supergroup:drwxr-xr-x

Cloudera Manager 安装集群遇到的问题及解决

错误原因:我当前所在的用户的是 root,root 没有操作 hdfs 文件中 /user 的权限

当前文件的权限:

Cloudera Manager 安装集群遇到的问题及解决

执行以下赋权限语句

sudo -u hdfs hadoop fs -chmod -R 777 /user

sudo -u hdfs 说明需要指定 hdfs 用户来执行赋权限的操作

以上内容仅是个人学习过程中的总结和见解,仅供参考,如果发现有错误也请批评指正!谢谢你的查阅。

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计2965字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7997374
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
2025年11月28日-Cloudflare史诗级事故:一次配置失误,引爆全球宕机

2025年11月28日-Cloudflare史诗级事故:一次配置失误,引爆全球宕机

2025 年 11 月 28 日 -Cloudflare 史诗级事故: 一次配置失误,引爆全球宕机 前言 继今...
如何免费使用强大的Nano Banana Pro?附赠邪修的用法

如何免费使用强大的Nano Banana Pro?附赠邪修的用法

如何免费使用强大的 Nano Banana Pro?附赠邪修的用法 前言 大家好,我是星哥,今天来介绍谷歌的 ...
星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定! 前言 作为 NAS 玩家,你是否总被这些...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你 为什么要用宝塔跑分? 宝塔跑分其实就是对 CPU、内存、磁盘、IO 做...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
每年0.99刀,拿下你的第一个顶级域名,详细注册使用

每年0.99刀,拿下你的第一个顶级域名,详细注册使用

每年 0.99 刀,拿下你的第一个顶级域名,详细注册使用 前言 作为长期折腾云服务、域名建站的老玩家,星哥一直...
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板 前言 大家好,我是星哥。星哥发现很多新手刚接触服务器时,都会被“选购...
还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手! 前言 对于个人开发者、建站新手或是想搭建测试站点的从业者...
每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站 - 手机博物馆 -CHAZ 3D Experience 一句话介绍:一个用 3D 方式重温...