阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Spark2.0安装配置文档

127次阅读
没有评论

共计 2043 个字符,预计需要花费 6 分钟才能阅读完成。

Spark 安装指南

该文档是建立在已经安装好 Hadoop 和 jdk 的基础上,并且已经设置好 HADOOP_HOME 环境变量以及 JAVA_HOME 环境变量,测试和现网环境需要在原来的 hadoop 环境中安装。

1   下载安装包 

从 scala 官网下载 scala-2.11.8.tgz、spark-2.0.0-bin-hadoop2.7.tgz 两个安装包到集群各个节点机器上。(下面是两个官网地址)

http://www.scala-lang.org/files/archive/scala-2.11.8.tgz

http://d3kbcqa49mib13.cloudfront.net/spark-2.0.0-bin-hadoop2.7.tgz

  2      安装 Scala

解压安装包:tar -zxvf scala-2.11.8.tgz,可以解压到 /usr/local 目录下(根据自己需要解压到某个路径),配置环境变量 /etc/profile,

添加如下两行:

export SCALA_HOME=/usr/local/scala-2.11.8

export  PATH=$PATH:$SCALA_HOME/sbin

测试输入 scala 命令,返回如下界面,安装成功

Spark2.0 安装配置文档

 

3    配置 Spark

1、解压添加环境变量

    解压安装包:tar -zxvf  spark-2.0.0-bin-hadoop2.7.tgz,可以解压到 /usr/local/hadoop/ 下(可根据具体环境修改),配置环境变量 /etc/profile,添加如下两行内容。

export SPARK_HOME=/housr/local/hadoop/spark-2.0.0-bin-hadoop2.7

export PATH=$SPARK_HOME/bin:$PATH

2、修改配置文件 spark-env.sh

    在主节点上进入 spark 安装目录 conf 目录执行如下命令:

  •   cp spark-env.sh.template  spark-env.sh
  •   vi  spark-env.sh 
  •   添加 hadoop、scala、java 环境变量

3、编辑 slaves 文件,你可以执行如下命令:

  • cp slaves.template  slaves
  •  vi  slaves
  • 添加集群里面所有主机名(注,需在 hosts 文件中添加各主机的 hostname 和 ip 的对应关系)

  至此,master 节点上的 Spark 已配置完毕。

 把 master 上 Spark 相关配置复制到集群从节点中,注意,三台机器 spark 所在目录必须一致,因为 master 会登陆到 worker 上执行命令,master 认为 worker 的 spark 路径与自己一样。

5      启动

执行如下命令:

1、cd $SPARK_HOME/bin

2、./start-all.sh

6      测试

通过浏览器输入 主节点集群 ip 地址加上默认 8080 端口号访问,出现如下图所示界面,表示安装成功。

Spark2.0 安装配置文档

更多 Spark 相关教程见以下内容

CentOS 7.0 下安装并配置 Spark  http://www.linuxidc.com/Linux/2015-08/122284.htm

Spark1.0.0 部署指南 http://www.linuxidc.com/Linux/2014-07/104304.htm

Spark 官方文档 – 中文翻译  http://www.linuxidc.com/Linux/2016-04/130621.htm

CentOS 6.2(64 位)下安装 Spark0.8.0 详细记录 http://www.linuxidc.com/Linux/2014-06/102583.htm

Spark 简介及其在 Ubuntu 下的安装使用 http://www.linuxidc.com/Linux/2013-08/88606.htm

安装 Spark 集群(在 CentOS 上) http://www.linuxidc.com/Linux/2013-08/88599.htm

Hadoop vs Spark 性能对比 http://www.linuxidc.com/Linux/2013-08/88597.htm

Spark 安装与学习 http://www.linuxidc.com/Linux/2013-08/88596.htm

Spark 并行计算模型 http://www.linuxidc.com/Linux/2012-12/76490.htm

Ubuntu 14.04 LTS 安装 Spark 1.6.0(伪分布式)http://www.linuxidc.com/Linux/2016-03/129068.htm

Spark 的详细介绍:请点这里
Spark 的下载地址:请点这里

更多 Hadoop 相关信息见Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

本文永久更新链接地址:http://www.linuxidc.com/Linux/2016-09/135352.htm

正文完
星哥说事-微信公众号
post-qrcode
 
星锅
版权声明:本站原创文章,由 星锅 2022-01-21发表,共计2043字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中