阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Ubuntu 14.04安装Hadoop2.5.2(伪分布模式)

369次阅读
没有评论

共计 4491 个字符,预计需要花费 12 分钟才能阅读完成。

记录下 Ubuntu 14.04 下安装 Hadoop2.5.2(伪分布模式)的详细过程,希望对大家有所帮助。

Hadoop 也可以运行在一个伪分布模式,每个 Hadoop 守护进程运行在一个单独的 Java 程序的一个节点。

伪分布模式需要在单机模式基础上进行配置。

在 /software/hadoop/etc/hadoop/ 目录下
core-site.xml,hdfs-site.xml,mapred-site.xml,yarn-site.xml 等文件。
下面对以上文件进行配置。

一、etc/hadoop/core-site.xml
包含了 hadoop 启动时的配置信息。

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

二、etc/hadoop/hdfs-site.xml
用来配置集群中每台主机都可用,指定主机上作为 namenode 和 datanode 的目录。

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

三、etc/hadoop/mapred-site.xml
默认情况下,/usr/local/hadoop/etc/hadoop/ 文件夹下有 mapred.xml.template 文件,我们要复制该文件,并命名为 mapred.xml,该文件用于指定 MapReduce 使用的框架

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

四、etc/hadoop/yarn-site.xml
包含了 MapReduce 启动时的配置信息。

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

五、格式化 hdfs

 hdfs namenode -format    

只需要执行一次即可,如果在 hadoop 已经使用后再次执行,会清除掉 hdfs 上的所有数据。
Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

六、启动 Hadoop
经过上文所描述配置和操作后,下面就可以启动这个单节点的集群
执行启动命令:

 sbin/start-dfs.sh    
  • 1

执行该命令时,如果有 yes /no 提示,输入 yes 回车 即可。
Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)
接下来,执行:

sbin/start-yarn.sh    

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

执行完这两个命令后,Hadoop 会启动并运行。
执行 jps命令,会看到 Hadoop 相关的进程。

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

浏览器打开 http://localhost:50070/,会看到 hdfs 管理页面。

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

浏览器打开 http://localhost:8088,会看到 hadoop 进程管理页面。

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

更多详情见请继续阅读下一页的精彩内容:http://www.linuxidc.com/Linux/2015-03/115188.htm

————————————– 分割线 ————————————–

Ubuntu14.04 下 Hadoop2.4.1 单机 / 伪分布式安装配置教程  http://www.linuxidc.com/Linux/2015-02/113487.htm

CentOS 安装和配置 Hadoop2.2.0  http://www.linuxidc.com/Linux/2014-01/94685.htm

Ubuntu 13.04 上搭建 Hadoop 环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1 版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu 上搭建 Hadoop 环境(单机模式 + 伪分布模式)http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu 下 Hadoop 环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建 Hadoop 环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建 Hadoop 环境(在 Winodws 环境下用虚拟机虚拟两个 Ubuntu 系统进行搭建)http://www.linuxidc.com/Linux/2011-12/48894.htm

七、WordCount 验证
dfs 上创建 input 目录

bin/Hadoop fs -mkdir -p input

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

把 hadoop 目录下的 README.txt 拷贝到 dfs 新建的 input 里

hadoop fs -copyFromLocal README.txt input

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

运行 WordCount

hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.5.2-sources.jar org.apache.hadoop.examples.WordCount input output

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)
执行过程:

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

运行完毕后,查看单词统计结果

hadoop fs -cat output/*

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

更多 Hadoop 相关信息见Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

本文永久更新链接地址:http://www.linuxidc.com/Linux/2015-03/115188.htm

记录下 Ubuntu 14.04 下安装 Hadoop2.5.2(伪分布模式)的详细过程,希望对大家有所帮助。

Hadoop 也可以运行在一个伪分布模式,每个 Hadoop 守护进程运行在一个单独的 Java 程序的一个节点。

伪分布模式需要在单机模式基础上进行配置。

在 /software/hadoop/etc/hadoop/ 目录下
core-site.xml,hdfs-site.xml,mapred-site.xml,yarn-site.xml 等文件。
下面对以上文件进行配置。

一、etc/hadoop/core-site.xml
包含了 hadoop 启动时的配置信息。

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

二、etc/hadoop/hdfs-site.xml
用来配置集群中每台主机都可用,指定主机上作为 namenode 和 datanode 的目录。

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

三、etc/hadoop/mapred-site.xml
默认情况下,/usr/local/hadoop/etc/hadoop/ 文件夹下有 mapred.xml.template 文件,我们要复制该文件,并命名为 mapred.xml,该文件用于指定 MapReduce 使用的框架

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

四、etc/hadoop/yarn-site.xml
包含了 MapReduce 启动时的配置信息。

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

五、格式化 hdfs

 hdfs namenode -format    

只需要执行一次即可,如果在 hadoop 已经使用后再次执行,会清除掉 hdfs 上的所有数据。
Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

六、启动 Hadoop
经过上文所描述配置和操作后,下面就可以启动这个单节点的集群
执行启动命令:

 sbin/start-dfs.sh    
  • 1

执行该命令时,如果有 yes /no 提示,输入 yes 回车 即可。
Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)
接下来,执行:

sbin/start-yarn.sh    

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

执行完这两个命令后,Hadoop 会启动并运行。
执行 jps命令,会看到 Hadoop 相关的进程。

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

浏览器打开 http://localhost:50070/,会看到 hdfs 管理页面。

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

浏览器打开 http://localhost:8088,会看到 hadoop 进程管理页面。

Ubuntu 14.04 安装 Hadoop2.5.2(伪分布模式)

更多详情见请继续阅读下一页的精彩内容:http://www.linuxidc.com/Linux/2015-03/115188.htm

————————————– 分割线 ————————————–

Ubuntu14.04 下 Hadoop2.4.1 单机 / 伪分布式安装配置教程  http://www.linuxidc.com/Linux/2015-02/113487.htm

CentOS 安装和配置 Hadoop2.2.0  http://www.linuxidc.com/Linux/2014-01/94685.htm

Ubuntu 13.04 上搭建 Hadoop 环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1 版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu 上搭建 Hadoop 环境(单机模式 + 伪分布模式)http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu 下 Hadoop 环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建 Hadoop 环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建 Hadoop 环境(在 Winodws 环境下用虚拟机虚拟两个 Ubuntu 系统进行搭建)http://www.linuxidc.com/Linux/2011-12/48894.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计4491字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7999621
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
开发者福利:免费 .frii.site 子域名,一分钟申请即用

开发者福利:免费 .frii.site 子域名,一分钟申请即用

  开发者福利:免费 .frii.site 子域名,一分钟申请即用 前言 在学习 Web 开发、部署...
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你 为什么要用宝塔跑分? 宝塔跑分其实就是对 CPU、内存、磁盘、IO 做...
让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级 大家好,我是星哥,之前写了一篇文章 自己手撸一...
如何免费使用强大的Nano Banana Pro?附赠邪修的用法

如何免费使用强大的Nano Banana Pro?附赠邪修的用法

如何免费使用强大的 Nano Banana Pro?附赠邪修的用法 前言 大家好,我是星哥,今天来介绍谷歌的 ...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛 NAS-12:开源笔记的进化之路,效率玩家的新选择 前言 如何高效管理知识与笔记,已经成为技术...
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
150元打造低成本NAS小钢炮,捡一块3865U工控板

150元打造低成本NAS小钢炮,捡一块3865U工控板

150 元打造低成本 NAS 小钢炮,捡一块 3865U 工控板 一块二手的熊猫 B3 工控板 3865U,搭...
240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

  240 元左右!五盘位 NAS 主机,7 代 U 硬解 4K 稳如狗,拓展性碾压同价位 在 NA...
星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定! 前言 作为 NAS 玩家,你是否总被这些...