阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Cloudera Manager 5.3.2 和 CDH5.3.2 环境配置

458次阅读
没有评论

共计 2517 个字符,预计需要花费 7 分钟才能阅读完成。

系统环境

9 台 DELL R720xd 服务器(192.168.3.245-253),1 台 R410master 节点(192.168.3.243)
网卡:1000M
9 台 DELL R720xd 服务器各有 12*4T 磁盘。
网络环境内网
CentOS6.6 x64 (Final)
 

1、准备工作卸载系统自带 OPEN-JDK(所有节点)
安装好的 Centos 系统有时会自动安装 OpenJdk,用命令 Java -version 查看:

java version “1.6.0”

OpenJDK Runtime Environment (build 1.6.0-b09)

OpenJDK 64-Bit Server VM (build 1.6.0-b09, mixed mode)

如有上述显示,说明系统里已经有 OpenJdk,执行以下命令查看系统中有哪些 OpenJdk 相关包:

rpm -qa | grep java

其中有如下包必须卸载,

rpm -e –nodeps java-1.5.0-gcj-1.5.0.0-29.1.el6.x86_64

rpm -e –nodeps java-1.6.0-openjdk-1.6.0.0-1.66.1.13.0.el6.x86_64

rpm -e –nodeps java-1.6.0-openjdk-devel-1.6.0.0-1.66.1.13.0.el6.x86_64

这里我们初始环境已经是卸载了 OpenJDK,安装了 1.7 版本的 JDK

查看:

java -version

javac -version

 

2、修改主机名(所以节点)
我们初始环境已经将 host 文件配置好了,所有节点都要同步 host 文件,这步省略

 

3、打通 SSH(所有节点)
目的是从 master 节点到所有的节点不需要输入密码即可登录

4、关闭防火墙(所有节点)
防火墙会引起 Hadoop 相关组件通讯的各种异常。

防火墙:
service iptables stop (临时关闭)

chkconfig iptables off (重启后生效)

SELINUX:
setenforce 0 (临时生效)

修改 /etc/selinux/config 下的 SELINUX=disabled(重启后生效)。

 

5、安装 NTP 服务
启动 NTP 服务,开机自启动

service ntpd start

chkconfig ntpd on

6、安装 Cloudera Manager
1. 创建一个本地目录,如 /data/var/cloudera_manager,下载相应的 rpm 包到本地,选择 CM5.3.2,rpm 包地址
http://archive.cloudera.com/cm5/RedHat/6/x86_64/cm/5.3.2/RPMS/x86_64/

下载全部的 rpm 包

2. 安装 createrepo,创建 yum 源

1) yum -y install createrepo

2)进入到第一步下载的 rpm 包目录 /data/var/cloudera_manager 下运行 createrepo .(注意有一个点号)

3. 安装 httpd,提供 http 服务

yum -y install httpd

4. 在 /etc/www/http 目录下建立一个软链接到 /data/var/cloudera_manager

ln -s /data/var/cloudera_manager cloudera_manager
5. 启动 httpd 服务

/etc/init.d/httpd start, 之后可以通过浏览器查看是否能够访问 http://192.168.3.243/cloudera_manager

6. 在 /etc/yum.repo.d 下增加 cloudera-manager.repo 文件,内容如下

[cloudera-manager]

name=Cloudera Manager

baseurl=http://192.168.3.243/cloudera_manager

gpgcheck=0

7. 运行 cloudera-manager-installer.bin, 并在后边增加参数使其不再在 /etc/yum.repo.d/ 下生成 cloudera-manager.repo 文件

./cloudera-manager-installer.bin –skip_repo_package=1

至此,按提示页面进行对应选择即可成功在内网服务器上安装 ClouderaManager

安装好后,会提示一个 URL,通过浏览器地址即可访问,用户密码都是 admin

7、安装 CDH5.3.2
下载 http://archive.cloudera.com/cdh5/parcels/5.3.2/, 选择相应的版本,我们是 centos6.6,下载圈住的即可,放在 /data/var/cloudera_manager 目录下面

Cloudera Manager 5.3.2 和 CDH5.3.2 环境配置

在安装 cloudera_manager 时候,需要配置选择 yum 源,需要改为自定义,地址填上边的 baseurl:http://192.168.3.243/cloudera_manager,这样 cm 就会在添加的服务器上放置的 yum.repo 中的地址就是你内网服务器可访问的 yum 源,后续安装就不会有问题了。

Cloudera Manager 5.3.2 和 CDH5.3.2 环境配置

Cloudera Manager 5.3.2 和 CDH5.3.2 环境配置

 

Cloudera Manager 5.3.2 和 CDH5.3.2 环境配置

如果在安装时选择了安装 Hive,可能会遇到安装失败的问题,查看一下日志发现时安装 Hive 时需要安装 JDBC 驱动,所以同样我们将 Mysql 的驱动包拷贝到 /opt/cloudera/parcels/CDH-5.3.2-1.cdh5.3.2.p0.47/lib/hive/lib/ 目录下,之后再继续安装就不会遇到问题了。

CentOS 6.5 下 Cloudera Manager5.3.2 的安装  http://www.linuxidc.com/Linux/2015-04/116180.htm

Cloudera Manager 和 CDH 4 终极安装  http://www.linuxidc.com/Linux/2014-03/98842.htm

通过 Cloudera Manager 来安装 Hadoop  http://www.linuxidc.com/Linux/2013-12/94180.htm

本文永久更新链接地址:http://www.linuxidc.com/Linux/2015-04/116192.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计2517字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7964847
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare 也瘫了连监控都挂,根因藏在哪? 最近两天的互联网堪称“故障...
你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你 为什么要用宝塔跑分? 宝塔跑分其实就是对 CPU、内存、磁盘、IO 做...
星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的 NAS 中! 大家对「数据安全感」的需求越来越高 ...
星哥带你玩飞牛NAS-16:不再错过公众号更新,飞牛NAS搭建RSS

星哥带你玩飞牛NAS-16:不再错过公众号更新,飞牛NAS搭建RSS

  星哥带你玩飞牛 NAS-16:不再错过公众号更新,飞牛 NAS 搭建 RSS 对于经常关注多个微...
星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛 NAS 硬件 03:五盘位 +N5105+ 双网口的成品 NAS 值得入手吗 前言 大家好,我...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸

一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸

一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸 前言 作为天天跟架构图、拓扑图死磕的...
三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

  三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Andr...
150元打造低成本NAS小钢炮,捡一块3865U工控板

150元打造低成本NAS小钢炮,捡一块3865U工控板

150 元打造低成本 NAS 小钢炮,捡一块 3865U 工控板 一块二手的熊猫 B3 工控板 3865U,搭...
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...