阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Windows平台下安装Hadoop

429次阅读
没有评论

共计 6236 个字符,预计需要花费 16 分钟才能阅读完成。

1、安装 JDK1.6 或更高版本

官网下载 JDK,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置 Hadoop 的配置文件时会找不到 JDK(按相关说法,配置文件中的路径加引号即可解决,但我没测试成功)。

2、安装 Cygwin

Cygwin 是 Windows 平台下模拟 Unix 环境的工具,需要在安装 Cygwin 的基础上安装 Hadoop,下载地址:http://www.cygwin.com/

根据操作系统的需要下载 32 位或 64 的安装文件。

1)、双击下载好的安装文件,点击下一步,选择 install from internet

Windows 平台下安装 Hadoop

2)、选择安装路径

3)、选择 local Package Directory

4)、选择您的 Internet 连接方式

5)、选择合适的安装源,点击下一步

Windows 平台下安装 Hadoop

6)、在 Select Packages 界面里,Category 展开 net,选择如下 openssh 和 openssl 两项

Windows 平台下安装 Hadoop

如果要在 Eclipe 上编译 Hadoop,需要安装 Category 为 Base 下的 sed

Windows 平台下安装 Hadoop

如果想在 Cygwin 上直接修改 hadoop 的配置文件,可以安装 Editors 下的 vim

Windows 平台下安装 Hadoop

7)、点击“下一步”,等待安装完成。

3、配置环境变量

在“我的电脑”上点击右键,选择菜单中的“属性 ”,点击属性对话框上的高级页签,点击”环境变量 ” 按钮,在系统变量列表里双击“Path”变量,在变量值后输入安装的 Cygwin 的 bin 目录,例如:D:\hadoop\cygwin64\bin

4、安装 sshd 服务

双击桌面上的 Cygwin 图标,启动 Cygwin,执行 ssh-host-config - y 命令

Windows 平台下安装 Hadoop

执行后,会提示输入密码,否则会退出该配置,此时输入密码和确认密码,回车。最后出现 Host configuration finished.Have fun! 表示安装成功。

输入 net start sshd,启动服务。或者在系统的服务里找到并启动 Cygwin sshd 服务。

  可能会遇到无法安装和启动 sshd 服务的问题,可参考此连接 http://www.cnblogs.com/kinglau/p/3261886.html。

另外如果是 Win8 操作系统,启动 Cygwin 时,需要以管理员身份运行(右键图标,选择以管理员身份运行),否则会因为权限问题,提示“发生系统错误 5”。

5、配置 SSH 免密码登录

执行 ssh-keygen 命令生成密钥文件

如下图所示,输入:ssh-keygen -t dsa -P ” -f ~/.ssh/id_dsa,注意 -t -P - f 参数区分大小写。

ssh-keygen 是生成密钥命令

-t 表示指定生成的密钥类型 (dsa,rsa)

- P 表示提供的密语

- f 指定生成的密钥文件。

注意:~ 代表当前用户的文件夹,/home/ 用户名

Windows 平台下安装 Hadoop

执行此命令后,在你的 Cygwin\home\ 用户名 路径下面会生成.ssh 文件夹,可以通过命令 ls -a /home/ 用户名  查看,ssh -version 命令查看版本。

执行完 ssh-keygen 命令后,再执行下面命令,就可以生成 authorized_keys 文件了。

cd ~/.ssh/

cp id_dsa.pub authorized_keys

如下图所示:

Windows 平台下安装 Hadoop

然后执行 exit 命令,退出 Cygwin 窗口

6、再次在桌面上双击 Cygwin 图标,打开 Cygwin 窗口,执行 ssh localhost 命令,第一次执行该命令会有提示,输入 yes 后,回车即可。如下图所示

Windows 平台下安装 Hadoop

 

CentOS 安装和配置 Hadoop2.2.0  http://www.linuxidc.com/Linux/2014-01/94685.htm

Ubuntu 13.04 上搭建 Hadoop 环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1 版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu 上搭建 Hadoop 环境(单机模式 + 伪分布模式)http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu 下 Hadoop 环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建 Hadoop 环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建 Hadoop 环境(在 Winodws 环境下用虚拟机虚拟两个 Ubuntu 系统进行搭建)http://www.linuxidc.com/Linux/2011-12/48894.htm

 

更多详情见请继续阅读下一页的精彩内容 :http://www.linuxidc.com/Linux/2015-01/112374p2.htm

7、安装 Hadoop

hadoop 官网下载 http://hadoop.apache.org/releases.html。

把 hadoop 压缩包解压到 /home/ 用户名 目录下,文件夹名称更改为 hadoop,可以不修改,但后边在执行命令时稍显麻烦。

(1)单机模式配置方式

单机模式不需要配置,这种方式下,Hadoop 被认为是一个单独的 Java 进程,这种方式经常用来调试。

(2)伪分布模式

可以把伪分布模式看作是只有一个节点的集群,在这个集群中,这个节点既是 Master,也是 Slave,既是 NameNode,也是 DataNode,既是 JobTracker,也是 TaskTracker。

这种模式下修改几个配置文件即可。

配置 hadoop-env.sh,记事本打开改文件,设置 JAVA_HOME 的值为你的 JDK 安装路径,例如:

JAVA_HOME=”D:\hadoop\Java\jdk1.7.0_25″

配置 core-site.xml

<?xml version=”1.0″?>
<?xml-stylesheet type=”text/xsl” href=”https://www.linuxidc.com/Linux/2015-01/configuration.xsl”?>
<!– Put site-specific property overrides in this file. –>
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>mapred.child.tmp</name>
<value>/home/u/hadoop/tmp</value>
</property>
</configuration>

配置 hdfs-site.xml

<?xml version=”1.0″?>
<?xml-stylesheet type=”text/xsl” href=”https://www.linuxidc.com/Linux/2015-01/configuration.xsl”?>
<!– Put site-specific property overrides in this file. –>
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>

配置 mapred-site.xml

<?xml version=”1.0″?>
<?xml-stylesheet type=”text/xsl” href=”https://www.linuxidc.com/Linux/2015-01/configuration.xsl”?>

<!– Put site-specific property overrides in this file. –>
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
<property>
<name>mapred.child.tmp</name>
<value>/home/u/hadoop/tmp</value>
</property>
</configuration>

8、启动 Hadoop

打开 Cgywin 窗口,执行 cd ~/hadoop 命令,进入 hadoop 文件夹,如下图:

Windows 平台下安装 Hadoop

启动 Hadoop 前,需要先格式化 Hadoop 的文件系统 HDFS,执行命令:bin/hadoop namenode -format

注意 namenode 要小些,否则如果输入 NameNode,会提示错误,找不到或无法加载主类 NameNode。执行正确命令后如下图所示:

Windows 平台下安装 Hadoop

输入命令 bin/start-all.sh,启动所有进程,如下图:

Windows 平台下安装 Hadoop

接下来,验证是否安装成功

打开浏览器,分别输入下列网址,如果能够正常浏览,说明安装成功。

http://localhost:50030,回车打开 MapReduce 的 web 页面,如下图(页面部分截图):

Windows 平台下安装 Hadoop

http://localhost:50070,回车打开 HDFS 的 web 页面,如下图(页面部分截图):

Windows 平台下安装 Hadoop

第一次启动后,如果都不能浏览,或不能浏览某一个,退出 Cygwin,重新打开 Cygwin,执行 bin/start-all.sh 命令。

如果只想启动 MapReduce,可执行 bin/start-mapred.sh 命令。

如果只想启动 HDFS,可执行 bin/start-dfs.sh 命令。

更多 Hadoop 相关信息见 Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

1、安装 JDK1.6 或更高版本

官网下载 JDK,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置 Hadoop 的配置文件时会找不到 JDK(按相关说法,配置文件中的路径加引号即可解决,但我没测试成功)。

2、安装 Cygwin

Cygwin 是 Windows 平台下模拟 Unix 环境的工具,需要在安装 Cygwin 的基础上安装 Hadoop,下载地址:http://www.cygwin.com/

根据操作系统的需要下载 32 位或 64 的安装文件。

1)、双击下载好的安装文件,点击下一步,选择 install from internet

Windows 平台下安装 Hadoop

2)、选择安装路径

3)、选择 local Package Directory

4)、选择您的 Internet 连接方式

5)、选择合适的安装源,点击下一步

Windows 平台下安装 Hadoop

6)、在 Select Packages 界面里,Category 展开 net,选择如下 openssh 和 openssl 两项

Windows 平台下安装 Hadoop

如果要在 Eclipe 上编译 Hadoop,需要安装 Category 为 Base 下的 sed

Windows 平台下安装 Hadoop

如果想在 Cygwin 上直接修改 hadoop 的配置文件,可以安装 Editors 下的 vim

Windows 平台下安装 Hadoop

7)、点击“下一步”,等待安装完成。

3、配置环境变量

在“我的电脑”上点击右键,选择菜单中的“属性 ”,点击属性对话框上的高级页签,点击”环境变量 ” 按钮,在系统变量列表里双击“Path”变量,在变量值后输入安装的 Cygwin 的 bin 目录,例如:D:\hadoop\cygwin64\bin

4、安装 sshd 服务

双击桌面上的 Cygwin 图标,启动 Cygwin,执行 ssh-host-config - y 命令

Windows 平台下安装 Hadoop

执行后,会提示输入密码,否则会退出该配置,此时输入密码和确认密码,回车。最后出现 Host configuration finished.Have fun! 表示安装成功。

输入 net start sshd,启动服务。或者在系统的服务里找到并启动 Cygwin sshd 服务。

  可能会遇到无法安装和启动 sshd 服务的问题,可参考此连接 http://www.cnblogs.com/kinglau/p/3261886.html。

另外如果是 Win8 操作系统,启动 Cygwin 时,需要以管理员身份运行(右键图标,选择以管理员身份运行),否则会因为权限问题,提示“发生系统错误 5”。

5、配置 SSH 免密码登录

执行 ssh-keygen 命令生成密钥文件

如下图所示,输入:ssh-keygen -t dsa -P ” -f ~/.ssh/id_dsa,注意 -t -P - f 参数区分大小写。

ssh-keygen 是生成密钥命令

-t 表示指定生成的密钥类型 (dsa,rsa)

- P 表示提供的密语

- f 指定生成的密钥文件。

注意:~ 代表当前用户的文件夹,/home/ 用户名

Windows 平台下安装 Hadoop

执行此命令后,在你的 Cygwin\home\ 用户名 路径下面会生成.ssh 文件夹,可以通过命令 ls -a /home/ 用户名  查看,ssh -version 命令查看版本。

执行完 ssh-keygen 命令后,再执行下面命令,就可以生成 authorized_keys 文件了。

cd ~/.ssh/

cp id_dsa.pub authorized_keys

如下图所示:

Windows 平台下安装 Hadoop

然后执行 exit 命令,退出 Cygwin 窗口

6、再次在桌面上双击 Cygwin 图标,打开 Cygwin 窗口,执行 ssh localhost 命令,第一次执行该命令会有提示,输入 yes 后,回车即可。如下图所示

Windows 平台下安装 Hadoop

 

CentOS 安装和配置 Hadoop2.2.0  http://www.linuxidc.com/Linux/2014-01/94685.htm

Ubuntu 13.04 上搭建 Hadoop 环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1 版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu 上搭建 Hadoop 环境(单机模式 + 伪分布模式)http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu 下 Hadoop 环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建 Hadoop 环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建 Hadoop 环境(在 Winodws 环境下用虚拟机虚拟两个 Ubuntu 系统进行搭建)http://www.linuxidc.com/Linux/2011-12/48894.htm

 

更多详情见请继续阅读下一页的精彩内容 :http://www.linuxidc.com/Linux/2015-01/112374p2.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计6236字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7985966
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
【1024程序员】我劝你赶紧去免费领一个AWS、华为云等的主机

【1024程序员】我劝你赶紧去免费领一个AWS、华为云等的主机

【1024 程序员】我劝你赶紧去免费领一个 AWS、华为云等的主机 每年 10 月 24 日,程序员们都会迎来...
恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击 PHP-FPM(FastCGl Process M...
三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

  三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Andr...
CSDN,你是老太太喝粥——无齿下流!

CSDN,你是老太太喝粥——无齿下流!

CSDN,你是老太太喝粥——无齿下流! 大家好,我是星哥,今天才思枯竭,不写技术文章了!来吐槽一下 CSDN。...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
星哥带你玩飞牛NAS-14:解锁公网自由!Lucky功能工具安装使用保姆级教程

星哥带你玩飞牛NAS-14:解锁公网自由!Lucky功能工具安装使用保姆级教程

星哥带你玩飞牛 NAS-14:解锁公网自由!Lucky 功能工具安装使用保姆级教程 作为 NAS 玩家,咱们最...
Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集 在云原生体系中,Prometheus 已成为最主流的监控与报警...
星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定! 前言 作为 NAS 玩家,你是否总被这些...
150元打造低成本NAS小钢炮,捡一块3865U工控板

150元打造低成本NAS小钢炮,捡一块3865U工控板

150 元打造低成本 NAS 小钢炮,捡一块 3865U 工控板 一块二手的熊猫 B3 工控板 3865U,搭...