阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

CentOS7下CDH2.7.2安装部署

466次阅读
没有评论

共计 3384 个字符,预计需要花费 9 分钟才能阅读完成。

CentOS7 下 CDH2.7.2 安装部署

克隆 3 台虚拟机

CentOS7 下 CDH2.7.2 安装部署

配置虚拟

主机 内存 IP 软件
node1 5G 192.168.2.211 jdk、
node2 2G 192.168.2.212 jdk、
node3 2G 192.168.2.213 jdk、

准备


1、修改 IP

vi /etc/sysconfig/network-scripts/ifcfg-eno16777736
# 重启网络
/etc/init.d/network restart

2、修改主机名

hostnamectl set-hostname node1
hostnamectl set-hostname node2
hostnamectl set-hostname node3

3、修改 /etc/hosts

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.2.211 node1
192.168.2.212 node2
192.168.2.213 node3

4、配置免密码登录

ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

将公钥拷贝到其它要免登录的机器

ssh-copy-id node2
ssh-copy-id node3

将 /etc/hosts 拷贝到其它的机器

scp /etc/hosts root@node2:/etc
scp /etc/hosts root@node3:/etc

5、安装 JDK

上传解压到 /opt/jdk1.8.0_91 目录下

设置环境变量

vi ~/.bash_profile

export Java_HOME=/opt/jdk1.8.0_91
export PATH=$PATH:$JAVA_HOME/bin

刷新环境变量

source ~/.bash_profile

并将 JDK 拷贝到其它主机

6、安装 ntp 同步时间

yum install -y ntp
ntpdate -u ntp.sjtu.edu.cn

7、安装依赖

yum install -y Python bind-utils  psmisc  libxslt  zlib  sqlite  cyrus-sasl-plain  cyrus-sasl-gssapi  fuse  portmap  fuse-libs  RedHat-lsb

开始安装 CM

1、下载

#CM 下载地址
http://archive-primary.cloudera.com/cm5/cm/5/

#CDH 下载地址
http://archive.cloudera.com/cdh5/parcels/4

将.sha1 结尾的文件重命名为.sha 结尾
CentOS7 下 CDH2.7.2 安装部署

上传到虚拟机

2、安装 Cloudera Manager Server、Agent

mkdir /opt/cloudera-manager
tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager

3、创建用户 cloudera-scm (三台)

useradd --system --home=/opt/cloudera-manager/cm-5.7.2/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

4、配置 CM Agent (三台)
修改文件 /opt/cloudera-manager/cm-5.7.2/etc/cloudera-scm-agent/config.ini 中
server_host 以及 server_port

vi /opt/cloudera-manager/cm-5.7.2/etc/cloudera-scm-agent/config.ini

5、配置 CM Server 数据库 为 MySQL
拷贝 mysql jar 文件到目录 /usr/share/Java/
注意 jar 包名称要修改为 mysql-connector-java.jar

mkdir /usr/share/java/
cp mysql-connector-java-5.1.26-bin.jar /usr/share/java/mysql-connector-java.jar

配置 MySql

# 创建 temp 用户并授权
GRANT ALL ON *.* TO 'temp'@'%' IDENTIFIED BY 'temp' WITH GRANT OPTION;
FLUSH PRIVILEGES;

cd /opt/cloudera-manager/cm-5.7.2/share/cmf/schema/
./scm_prepare_database.sh mysql temp -h 192.168.2.1 -utemp -ptemp --scm-host node1 scm scm scm
                    格式:数据库类型、数据库、数据库服务器、用户名、密码、cm server 服务器

CentOS7 下 CDH2.7.2 安装部署

6、创建 Parcel 目录

Server 节点(node1)
    mkdir -p /opt/cloudera/parcel-repo
    chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
Agent 节点(node1、node2、node3)
    mkdir -p /opt/cloudera/parcels
    chown cloudera-scm:cloudera-scm /opt/cloudera/parcels


CDH-5.7.2-1.cdh5.7.2.p0.18-el7.parcel
CDH-5.7.2-1.cdh5.7.2.p0.18-el7.parcel.sha
manifest.json
移动到:
/opt/cloudera/parcel-repo 文件夹下

7、启动 CM Server、Agent

# 启动服务端(node1)
/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-server start
# 启动客户端(node1、node2、node3)
/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-agent start

8、访问网址测试
查看启动日志:
/opt/cloudera-manager/cm-5.7.2/log/cloudera-scm-server

192.168.2.211:7180

出现如下界面说明启动成功

CentOS7 下 CDH2.7.2 安装部署

开始配置 CM

1、登录
用户名:admin,密码 admin

2、
免费
CentOS7 下 CDH2.7.2 安装部署

全选
CentOS7 下 CDH2.7.2 安装部署

默认
CentOS7 下 CDH2.7.2 安装部署

等待
CentOS7 下 CDH2.7.2 安装部署

2 个警告
CentOS7 下 CDH2.7.2 安装部署

解决

echo never > /sys/kernel/mm/transparent_hugepage/defrag
echo 10 > /proc/sys/vm/swappiness

然后单机重新运行。

CDH 的安装和设置 http://www.linuxidc.com/Linux/2017-02/140707.htm

yum 安装 CDH5.5 Hadoop 集群 http://www.linuxidc.com/Linux/2017-02/140186.htm

CDH5.9.0 集群部署与搭建 http://www.linuxidc.com/Linux/2017-01/139615.htm

CDH5.7.2 离线部署笔记 http://www.linuxidc.com/Linux/2016-08/133924.htm

Cloudera Manager 5 和 CDH5 离线安装  http://www.linuxidc.com/Linux/2016-07/133360.htm

CDH5 发行版 Hadoop 集群部署实例  http://www.linuxidc.com/Linux/2017-05/143677.htm

Hadoop 项目之基于 CentOS7 的 Cloudera 5.10.1(CDH)的安装部署  http://www.linuxidc.com/Linux/2017-04/143095.htm

本文永久更新链接地址:http://www.linuxidc.com/Linux/2017-05/143694.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计3384字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7956488
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛 NAS-12:开源笔记的进化之路,效率玩家的新选择 前言 如何高效管理知识与笔记,已经成为技术...
240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

  240 元左右!五盘位 NAS 主机,7 代 U 硬解 4K 稳如狗,拓展性碾压同价位 在 NA...
国产开源公众号AI知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率

国产开源公众号AI知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率

国产开源公众号 AI 知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率 大家好,我是星哥,...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比

小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比

小白也能看懂:什么是云服务器?腾讯云 vs 阿里云对比 星哥玩云,带你从小白到上云高手。今天咱们就来聊聊——什...
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板 前言 大家好,我是星哥。星哥发现很多新手刚接触服务器时,都会被“选购...
240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

  240 元左右!五盘位 NAS 主机,7 代 U 硬解 4K 稳如狗,拓展性碾压同价位 在 NA...
星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛 NAS-12:开源笔记的进化之路,效率玩家的新选择 前言 如何高效管理知识与笔记,已经成为技术...