搭建Spark高可用集群

190次阅读

共计 5767 个字符，预计需要花费 15 分钟才能阅读完成。

官网地址：http://spark.apache.org/

搭建 Spark 高可用集群

Apache Spark™是用于大规模数据处理的统一分析引擎。

从右侧最后一条新闻看，Spark 也用于 AI 人工智能 spark 是一个实现快速通用的集群计算平台。它是由加州大学伯克利分校 AMP 实验室开发的通用内存并行计算框架，用来构建大型的、低延迟的数据分析应用程序。它扩展了广泛使用的 MapReduce 计算模型。高效的支撑更多计算模式，包括交互式查询和流处理。spark 的一个主要特点是能够在内存中进行计算，及时依赖磁盘进行复杂的运算，Spark 依然比 MapReduce 更加高效。

为什么要学 Spark

中间结果输出：基于 MapReduce 的计算引擎通常会将中间结果输出到磁盘上，进行存储和容错。出于任务管道承接的，考虑，当一些查询翻译到 MapReduce 任务时，往往会产生多个 Stage，而这些串联的 Stage 又依赖于底层文件系统（如 HDFS）来存储每一个 Stage 的输出结果。Spark 是 MapReduce 的替代方案，而且兼容 HDFS、Hive，可融入 Hadoop 的生态系统，以弥补 MapReduce 的不足。

高效性

运行速度提高 100 倍。Apache Spark 使用最先进的 DAG 调度程序，查询优化程序和物理执行引擎，实现批量和流式数据的高性能。

易用性

Spark 支持 Java、Python 和 Scala 的 API，还支持超过 80 种高级算法，使用户可以快速构建不同的应用。而且 Spark 支持交互式的 Python 和 Scala 的 shell，可以非常方便地在这些 shell 中使用 Spark 集群来验证解决问题的方法。

通用性

Spark 提供了统一的解决方案。Spark 可以用于批处理、交互式查询（Spark SQL）、实时流处理（Spark Streaming）、机器学习（Spark MLlib）和图计算（GraphX）。这些不同类型的处理都可以在同一个应用中无缝使用。Spark 统一的解决方案非常具有吸引力，毕竟任何公司都想用统一的平台去处理遇到的问题，减少开发和维护的人力成本和部署平台的物力成本。

兼容性

Spark 可以非常方便地与其他的开源产品进行融合。比如，Spark 可以使用 Hadoop 的 YARN 和 Apache Mesos 作为它的资源管理和调度器，器，并且可以处理所有 Hadoop 支持的数据，包括 HDFS、HBase 和 Cassandra 等。这对于已经部署 Hadoop 集群的用户特别重要，因为不需要做任何数据迁移就可以使用 Spark 的强大处理能力。Spark 也可以不依赖于第三方的资源管理和调度器，它实现了 Standalone 作为其内置的资源管理和调度框架，这样进一步降低了 Spark 的使用门槛，使得所有人都可以非常容易地部署和使用 Spark。此外，Spark 还提供了在 EC2 上部署 Standalone 的 Spark 集群的工具。

Mesos：Spark 可以运行在 Mesos 里面（Mesos 类似于 yarn 的一个资源调度框架）standalone：Spark 自己可以给自己分配资源（master，worker）YARN：Spark 可以运行在 yarn 上面 Kubernetes：Spark 接收 Kubernetes 的资源调度

Spark 组成 (BDAS)：全称伯克利数据分析栈，通过大规模集成算法、机器、人之间展现大数据应用的一个平台。也是处理大数据、云计算、通信的技术解决方案。

它的主要组件有：

SparkCore：将分布式数据抽象为弹性分布式数据集（RDD），实现了应用任务调度、RPC、序列化和压缩，并为运行在其上的上层组件提供 API。

SparkSQL：Spark Sql 是 Spark 来操作结构化数据的程序包，可以让我使用 SQL 语句的方式来查询数据，Spark 支持多种数据源，包含 Hive 表，parquest 以及 JSON 等内容。

SparkStreaming：是 Spark 提供的实时数据进行流式计算的组件。

MLlib：提供常用机器学习算法的实现库。

GraphX：提供一个分布式图计算框架，能高效进行图计算。

BlinkDB：用于在海量数据上进行交互式 SQL 的近似查询引擎。

Tachyon：以内存为中心高容错的的分布式文件系统。

Yahoo 将 Spark 用在 Audience Expansion 中的应用，进行点击预测和即席查询等淘宝技术团队使用了 Spark 来解决多次迭代的机器学习算法、高计算复杂度的算法等。应用于内容推荐、社区发现等腾讯大数据精准推荐借助 Spark 快速迭代的优势，实现了在“数据实时采集、算法实时训练、系统实时预测”的全流程实时并行高维算法，最终成功应用于广点通 pCTR 投放系统上。优酷土豆将 Spark 应用于视频推荐 (图计算)、广告业务，主要实现机器学习、图计算等迭代计算。

上传 spark- 安装包到 Linux 上

[root@hdp-01 ~]# wget https://d3kbcqa49mib13.cloudfront.net/spark-2.2.0-bin-hadoop2.7.tgz
[root@hdp-01 ~]# tar -zxvf spark-2.2.0-bin-hadoop2.7.tgz -C apps/
[root@hdp-01 apps]# mv spark-2.2.0-bin-hadoop2.7  /spark

进入 conf 目录并重命名并修改 spark-env.sh.template 文件

[root@hdp-01 conf]# mv spark-env.sh.template spark-env.sh
[root@hdp-01 conf]# vi spark-env.sh

在该配置文件中添加如下配置

export JAVA_HOME=/root/apps/jdk1.8.0_152
export SPARK_MASTER_IP=hdp-01
export SPARK_MASTER_PORT=7077

重命名并修改 slaves.template 文件

[root@hdp-01 conf]# mv slaves.template slaves
[root@hdp-01 conf]# vi slaves

在该文件中添加子节点所在的位置（Worker 节点）

hdp-02
hdp-03
hdp-04

将配置好的 Spark 拷贝到其他节点上

[root@hdp-01 apps]# scp -r spark/ hdp-02:$PWD
[root@hdp-01 apps]# scp -r spark/ hdp-03:$PWD
[root@hdp-01 apps]# scp -r spark/ hdp-04:$PWD

Spark 集群配置完毕，目前是 1 个 Master，3 个 Work，在 hdp-01 上启动 Spark 集群

[root@hdp-01 spark]# sbin/start-all.sh

启动后执行 jps 命令，主节点上有 Master 进程，其他子节点上有 Work 进程，登录 Spark 管理界面查看集群状态（主节点）：http://hdp-01:8080/

搭建 Spark 高可用集群

到此为止，Spark 集群安装完毕，但是有一个很大的问题，那就是 Master 节点存在单点故障，要解决此问题，就要借助 zookeeper，并且启动至少两个 Master 节点来实现高可靠

配置 Spark 集群之前一定要把 zookper 集群启动

Spark 集群规划：hdp-01，hdp-02 是 Master；hdp-03，hdp-04 是 Worker 安装配置 zk 集群，并启动 zk 集群停止 spark 所有服务

集群中 Master 地址是不固定的所以必须把 export SPARK_MASTER_IP=hdp-01 注释掉

[root@hdp-01 sbin]# ./stop-all.sh
[root@hdp-01 conf]# vi spark-env.sh

export JAVA_HOME=/root/apps/jdk1.8.0_152
#export SPARK_MASTER_IP=hdp-01
export SPARK_MASTER_PORT=7077
export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER
-Dspark.deploy.zookeeper.url=hdp-01:2181,hdp-02:2181,hdp-03:2181 -Dspark.deploy.zookeeper.dir=/spark"

[root@hdp-01 conf]#scp -r spark-env.sh/ hdp-02:$PWD
[root@hdp-01 conf]#scp -r spark-env.sh/ hdp-03:$PWD
[root@hdp-01 conf]#scp -r spark-env.sh/ hdp-04:$PWD
[root@hdp-01 sbin]# ./start-all.sh
// 启动 hdp-02 上的 master，如果 hdp-01 宕机 hdp-02 会有 worker 变为 master
[root@hdp-02 spark]# sbin/start-master.sh

打开浏览器输入 http://hdp-01:8080/ http://hdp-02:8080/

搭建 Spark 高可用集群

standby: 备用状态

现在停掉 hdp-01 上的 Master

[root@hdp-01 sbin]# jps
35473 Master
1682 NameNode
15109 NodeManager
35575 Jps
2200 SecondaryNameNode
14984 ResourceManager
14636 QuorumPeerMain
1839 DataNode
[root@hdp-01 sbin]# kill -9  35473

搭建 Spark 高可用集群

hdp-02 接替 hdp-01 工作从 Master 变为 Worker 如果现在再启动 hdp-01 hdp-01 为从节点不会变为主节点

如果 hdp-02 发生故障后 hdp-01 就会自动变成 Master

spark-shell 是 Spark 自带的交互式 Shell 程序，方便用户进行交互式编程，用户可以在该命令行下用 scala 编写 spark 程序。

启动 spark shell

[root@hdp-01 spark]# bin/spark-shell --master spark:/hdp-01:7077 --executor-memory 1g --total-executor-cores 1

搭建 Spark 高可用集群

出现此 logo 证明 spark shell 启动成功

集群模式下启动 spark shell

[root@hdp-01 spark]# bin/spark-shell --master spark://hdp-01:7077,hdp-04:7077

注意：如果启动 spark shell 时没有指定 master 地址，但是也可以正常启动 spark shell 和执行 spark shell 中的程序，其实是启动了 spark 的 local 模式，该模式仅在本机启动一个进程，没有与集群建立联系。Spark Shell 中已经默认将 SparkContext 类初始化为对象 sc。用户代码如果需要用到，则直接应用 sc 即可

Spark 控制台有一个 Running Applications 也就是刚刚启动的 spark shell

Spark 程序求圆周率

[root@hdp-01 spark]# bin/spark-submit --master spark://hdp-01:7077 --class org.apache.spark.examples.SparkPi  --executor-memory 1G --total-executor-cores 1 examples/jars/spark-examples_2.11-2.2.0.jar 100

搭建 Spark 高可用集群

[root@hdp-01 spark]# bin/spark-submit –class org.apache.spark.examples.SparkPi –master spark://hdp-01:7077 examples/jars/spark-examples_2.11-2.2.0.jar 100

参数说明：–master spark://hdp-01:7077 指定 Master 的地址 –executor-memory 1G 指定每个 worker 可用内存为 1G –total-executor-cores 1 指定整个集群使用的 cup 核数为 1

集群模式执行 spark 程序

[root@hdp-01 spark]# bin/spark-submit --class org.apache.spark.examples.SparkPi --master spark://hdp-01:7077,hdp-04:7077 --executor-memory 1G --total-executor-cores 2 examples/jars/spark-examples_2.11-2.2.0.jar 100

启动 hdfs 上传单词文件到 hdfs 中

[root@hdp-01 ~]# start-all.sh
[root@hdp-01 ~]# vi spark.txt

helo java
hello spark
hello hdfs
hello yarn
yarn hdfs

[root@hdp-01 ~]# hadoop fs -mkdir -p /spark
[root@hdp-01 ~]# hadoop fs -put spark.txt /spark

spark shell 执行任务

scala> sc.textFile("hdfs://hdp-01:9000/spark").flatMap(split(" ")).map((,1)).reduceByKey(+).collect

将结果输出到 hdfs 中

scala> sc.textFile("hdfs://hdp-01:9000/spark").flatMap(.split("")).map((,1)).reduceByKey(+).saveAsTextFile("hdfs://hdp-01:9000/outText")
2019-06-25 Comments

：

正文完

星哥说事-微信公众号