阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Hadoop2.2.0单节点安装及测试

547次阅读
没有评论

共计 6147 个字符,预计需要花费 16 分钟才能阅读完成。

摘要:本文记录了 Hadoop 单节点安装过程,并做了基本配置,启动运行和测试了一个单词统计例子。

一:环境准备:基于 Windows 下的 VMware Player4.0.3 中的 Ubuntu12.04-64server.

下载免费的 VMware Player 并安装好;
下载 免费的 Ubuntu 12.04 server 版并在 VMware 中安装好;
二:基础安装:

执行如下命令升级部分软件和把 ssh 安装好:
  (1) sudo apt-get update;

  (2) sudo apt-get upgrade;

  (3) sudo apt-get install openssh-server;

有两种方法可以安装 Oracle JDK(本文采用第一种)。
方法一:通过 webupd8team 自动安装,执行命令如下:

(1)  sudo apt-get install python-software-properties

(2)  sudo add-apt-repository ppa:webupd8team/java

(3)  sudo apt-get update

(4)  sudo apt-get install oracle-java6-installer

方法二:手动安装 JDK1.6

(1)  下载 jdk1.6http://www.oracle.com/technetwork/java/javase/downloads/jdk6u37-downloads-1859587.html,选择 jdk-6u37-linux-x64.bin。

(2)  执行 chmod +x jdk-6u37-linux-x64.bin 增加可执行权限;

(3)  ./ jdk-6u37-linux-x64.bin 直接解压即可,建议放在 /opt 目录下。

(4)  然后将解压后的 bin 目录加入到 PATH 环境变量中即可。

创建 hadoop 用户。
(1)  sudo addgroup hadoop

(2)  sudo adduser –ingroup hadoop hduser

建立 SSH 信任关系,登录 localhost 就不需要密码
$ cd /home/hduser

$ ssh-keygen -t rsa -P “”    #直接回车

$cat .ssh/id_rsa.pub >>.ssh/authorized_keys

        注:可通过 ssh localhost 命令验证。

三:正式安装:

注:以下操作以 hduser 登录进行操作。

下载 hadoop2.2 版本。地址:http://apache.dataguru.cn/hadoop/common/hadoop-2.2.0/hadoop-2.2.0.tar.gz。
 执行 tar zxf hadoop-2.2.0.tar.gz 解压至当前目录 /home/hduser 目录下。
mv hadoop-2.2.0 hadoop

接下来请看第 2 页精彩内容:http://www.linuxidc.com/Linux/2013-10/91911p2.htm

相关阅读

Hadoop 2.0 安装向导 (0.23.x)  http://www.linuxidc.com/Linux/2012-05/61463.htm

Hadoop 1.2.1 单节点安装 (Single Node Setup) 步骤  http://www.linuxidc.com/Linux/2013-08/89377.htm

在 CentOS 上安装 Hadoop  http://www.linuxidc.com/Linux/2013-08/88600.htm

Ubuntu 12.04 安装 Hadoop  http://www.linuxidc.com/Linux/2013-08/88187.htm

CentOS 6.3 x86_64 安装与配置 Hadoop-1.0  http://www.linuxidc.com/Linux/2013-07/87959.htm

Hadoop 入门 –Hadoop2 伪分布式安装  http://www.linuxidc.com/Linux/2013-06/86403.htm

四:配置 Hadoop:

编辑 /home/hduser/hadoop/etc/hadoop/hadoop-env.sh
替换 exportJAVA_HOME=${JAVA_HOME}为如下:

exportJAVA_HOME=/usr/lib/jvm/java-6-Oracle

编辑 /home/hduser/hadoop/etc/hadoop/core-site.xml,在 <configuration> 中添加如下:
<property>

  <name>hadoop.tmp.dir</name>

 <value>/home/hduser/hadoop/tmp/hadoop-${user.name}</value>

 <description>A base for other temporarydirectories.</description>

</property>

<property>

 <name>fs.default.name</name>

 <value>hdfs://localhost:8010</value>

 <description>The name of the default file system.  A URI whose

 scheme and authority determine the FileSystem implementation.  The

 uri’s scheme determines the config property (fs.SCHEME.impl) naming

 the FileSystem implementation class. The uri’s authority is used to

 determine the host, port, etc. for a filesystem.</description>

</property>

备注:配置了 /home/hduser/hadoop/tmp/ 这个目录,必须执行 mkdir /home/hduser/hadoop/tmp/ 创建它,否则后面运行会报错。

编辑 /home/hduser/hadoop/etc/hadoop/mapred-site.xml:
(1)  mv /home/hduser/hadoop/etc/hadoop/mapred-site.xml.template/home/hduser/hadoop/etc/hadoop/mapred-site.xml

(2)  在 <configuration> 中添加如下:

<property>

 <name>mapred.job.tracker</name>

 <value>localhost:54311</value>

 <description>The host and port that the MapReduce job tracker runs

 at.  If “local”, thenjobs are run in-process as a single map

 and reduce task.

  </description>

</property>

<property>

 <name>mapred.map.tasks</name>

 <value>10</value>

 <description>As a rule of thumb, use 10x the number of slaves(i.e., number of tasktrackers).

  </description>

</property>

<property>

 <name>mapred.reduce.tasks</name>

 <value>2</value>

 <description>As a rule of thumb, use 2x the number of slaveprocessors (i.e., number of tasktrackers).

  </description>

</property>

编辑 /home/hduser/hadoop/etc/hadoop/hdfs-site.xml,在 <configuration> 中添加如下:
<property>

 <name>dfs.replication</name>

 <value>1</value>

 <description>Default block replication.

 The actual number of replications can be specified when the file iscreated.

 The default is used if replication is not specified in create time.

  </description>

</property>

五:运行 Hadoop

在初次运行 Hadoop 的时候需要初始化 Hadoop 文件系统,命令如下:

$cd /home/hduser/hadoop/bin

$./hdfs namenode -format

如果执行成功,你会在日志中 (倒数几行) 找到如下成功的提示信息:

common.Storage: Storage directory/home/hduser/hadoop/tmp/hadoop-hduser/dfs/name has been successfully formatted.

运行命令如下:

$cd /home/hduser/hadoop/sbin/

$./start-dfs.sh

注:该过程需要多次输入密码, 如果不想多次输入密码,可先用 ssh 建立信任。

hduser@Ubuntu:~/hadoop/sbin$ jps

4266 SecondaryNameNode

4116 DataNode

4002 NameNode

注:用 jps 查看启动了三个进程。

$./start-yarn.sh

hduser@ubuntu:~/hadoop/sbin$ jps

4688 NodeManager

4266 SecondaryNameNode

4116 DataNode

4002 NameNode

4413 ResourceManager

 

六:查看 Hadoop 资源管理器

http://192.168.128.129:8088/,将其中的 192.168.128.129 替换为你的实际 IP 地址。

 

七:测试 Hadoop

cd /home/hduser

$wget http://www.gutenberg.org/cache/epub/20417/pg20417.txt

$cd hadoop

$ bin/hdfs dfs -mkdir /tmp

$ bin/hdfs dfs -copyFromLocal /home/hduser/pg20417.txt /tmp

bin/hdfs dfs -ls /tmp

$bin/hadoop jar./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.2.0.jar wordcount /tmp//tmp-output

如果一切正常的话,会输入相应的结果,可以从屏幕输出看到。

 

八:停止 Hadoop

若停止 hadoop,依次运行如下命令:

$./stop-yarn.sh

$./stop-dfs.sh

摘要:本文记录了 Hadoop 单节点安装过程,并做了基本配置,启动运行和测试了一个单词统计例子。

一:环境准备:基于 Windows 下的 VMware Player4.0.3 中的 Ubuntu12.04-64server.

下载免费的 VMware Player 并安装好;
下载 免费的 Ubuntu 12.04 server 版并在 VMware 中安装好;
二:基础安装:

执行如下命令升级部分软件和把 ssh 安装好:
  (1) sudo apt-get update;

  (2) sudo apt-get upgrade;

  (3) sudo apt-get install openssh-server;

有两种方法可以安装 Oracle JDK(本文采用第一种)。
方法一:通过 webupd8team 自动安装,执行命令如下:

(1)  sudo apt-get install python-software-properties

(2)  sudo add-apt-repository ppa:webupd8team/java

(3)  sudo apt-get update

(4)  sudo apt-get install oracle-java6-installer

方法二:手动安装 JDK1.6

(1)  下载 jdk1.6http://www.oracle.com/technetwork/java/javase/downloads/jdk6u37-downloads-1859587.html,选择 jdk-6u37-linux-x64.bin。

(2)  执行 chmod +x jdk-6u37-linux-x64.bin 增加可执行权限;

(3)  ./ jdk-6u37-linux-x64.bin 直接解压即可,建议放在 /opt 目录下。

(4)  然后将解压后的 bin 目录加入到 PATH 环境变量中即可。

创建 hadoop 用户。
(1)  sudo addgroup hadoop

(2)  sudo adduser –ingroup hadoop hduser

建立 SSH 信任关系,登录 localhost 就不需要密码
$ cd /home/hduser

$ ssh-keygen -t rsa -P “”    #直接回车

$cat .ssh/id_rsa.pub >>.ssh/authorized_keys

        注:可通过 ssh localhost 命令验证。

三:正式安装:

注:以下操作以 hduser 登录进行操作。

下载 hadoop2.2 版本。地址:http://apache.dataguru.cn/hadoop/common/hadoop-2.2.0/hadoop-2.2.0.tar.gz。
 执行 tar zxf hadoop-2.2.0.tar.gz 解压至当前目录 /home/hduser 目录下。
mv hadoop-2.2.0 hadoop

接下来请看第 2 页精彩内容:http://www.linuxidc.com/Linux/2013-10/91911p2.htm

相关阅读

Hadoop 2.0 安装向导 (0.23.x)  http://www.linuxidc.com/Linux/2012-05/61463.htm

Hadoop 1.2.1 单节点安装 (Single Node Setup) 步骤  http://www.linuxidc.com/Linux/2013-08/89377.htm

在 CentOS 上安装 Hadoop  http://www.linuxidc.com/Linux/2013-08/88600.htm

Ubuntu 12.04 安装 Hadoop  http://www.linuxidc.com/Linux/2013-08/88187.htm

CentOS 6.3 x86_64 安装与配置 Hadoop-1.0  http://www.linuxidc.com/Linux/2013-07/87959.htm

Hadoop 入门 –Hadoop2 伪分布式安装  http://www.linuxidc.com/Linux/2013-06/86403.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计6147字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7963469
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你 为什么要用宝塔跑分? 宝塔跑分其实就是对 CPU、内存、磁盘、IO 做...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站 - 手机博物馆 -CHAZ 3D Experience 一句话介绍:一个用 3D 方式重温...
星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛 NAS 硬件 03:五盘位 +N5105+ 双网口的成品 NAS 值得入手吗 前言 大家好,我...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...
恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击 PHP-FPM(FastCGl Process M...