本书以Spark 1.02版本源码为切入点，着力于探寻Spark所要解决的主要问题及其解决办法，通过一系列精心设计的小实验来分析每一步背后的处理逻辑。 本书第3～5章详细介绍了Spark Core中作业的提交与执行，对容错处理也进行了详细分析，有助读者深刻把握Spark实现机理。第6～9章对Spark Lib库进行了初步的探索。在对源码有了一定的分析之后，读者可尽快掌握Spark技术。

前言 笔者接触Spark时间不算很长，而本书之所以能够出版，凭借的是浓厚的兴趣和执着之心。 这一切还要从Storm说起。笔者一直在做互联网相关工作，但接触大数据的时间并不长，当时Hadoop和Storm等非常红火，引起了笔者的“窥视”之心。从2013年开始，笔者打算看看Hadoop的源码实现，观察其代码规模，发觉所花时间可能会很长。恰好其时Storm风头正劲，于是转向Storm源码，0.8版的Storm代码规模不过20 000行左右，感觉还是比较好入手的。 Storm源码分析期间，笔者还学习了Clojure、ZeroMQ、Thrift、ZooKeeper、LMAX Disruptor等新技术，对于实时流数据处理算是有了一个大概的了解。由于听说在实时流数据处理领域Spark技术也很强悍，而且在容错性方面具有天生的优势，更引发了笔者的兴趣，为了弄清楚究竟，于是开始了Spark的源码走读过程。 笔者是以读Spark论文开始的，说老实话觉得晦涩难懂，因为无法将其映射到内存使用、进 程启动、线程运行、消息传递等基本问题上。或许换个方法会更好，故笔者选择直接从源码入手，如此一来事情反而变简单了。在源码分析的过程中，笔者始终抓住资源分配、消息传递、容错处理等基本问题设问，然后一步步努力寻找答案，所有的问题渐渐迎刃而解。 笔者关于源码分析有一个心得，就是要紧紧把握住计算的基本模型，然后结合新分析问题 的业务领域，将业务上的新问题转换到计算处理的老套路上来，然后就可以以不变应万变，而不被一些新技术名词晃花了眼。这里所说的老套路是指从操作系统的角度来看，如果能事先深度了解操作系统，将对分析一些新应用程序大有裨益。 Spark源码采用Scala语言编写，那么阅读Spark源码之前，是否一定要先学Scala呢？笔者个人以为不必，只要你有一些Java或C++编程语言的基础，就可以开始看Spark源码，遇到不懂的地方再去学习，效率反而会大大提高，做到有的放矢。将学习中遇到的知识点，从函数式编程、泛型编程、面向对象、并行编程等几个方面去整理归纳，这样能够快速将Scala语言的框架勾勒出来。 本书第1章和第2章简要介绍了大数据分析技术的产生背景和演进过程；第3～5章详细分析 了Spark Core中的作业规划、提交及任务执行等内容，对于要深刻把握Spark实现机理的读者来说，这几章值得反复阅读；第6～9章就Spark提供的高级Lib库进行了简要的分析，分析的思路是解决的主要问题是什么、解决的方案是如何产生的，以及方案是如何通过代码来具体实现的。 在对源码有了一定的分析和掌握之后，再回过头来看一下Spark相关的论文，这时候对论文 的理解可能会更顺畅。 Spark的整体框架非常庞大，涵盖的范围也很广，随着笔者在工作中使用得越来越具体，这 样的感受也越来越深。另外，必须要说对于Spark来说，笔者所做的分析实在有限，个中错误在所难免，读者诸君还请多多谅解。 在本书成稿期间，电子工业出版社的付睿编辑和李云静编辑给出了极为详细的改进意见， 在这里表示衷心的感谢。最后感谢家人的支持和鼓励，亲爱的老婆和懂事的儿子给了笔者坚持的理由和勇气。 许　鹏 2015年2月

目录 第一部分Spark概述1 第1章初识Spark 3 1.1 大数据和Spark 3 1.1.1 大数据的由来4 1.1.2 大数据的分析4 1.1.3 Hadoop 5 1.1.4 Spark简介6 1.2 与Spark的第一次亲密接触7 1.2.1 环境准备7 1.2.2 下载安装Spark 8 1.2.3 Spark下的WordCount 8 第二部分Spark核心概念13 第2章Spark整体框架 15 2.1 编程模型15 2.1.1 RDD 17 2.1.2 Operation 17 2.2 运行框架18 2.2.1 作业提交18 2.2.2 集群的节点构成18 2.2.3 容错处理19 2.2.4 为什么是Scala 19 2.3 源码阅读环境准备19 2.3.1 源码下载及编译19 2.3.2 源码目录结构21 2.3.3 源码阅读工具21 2.3.4 本章小结22 第3章SparkContext初始化 23 3.1 spark-shell 23 3.2 SparkContext的初始化综述27 3.3 Spark Repl综述30 3.3.1 Scala Repl执行过程31 3.3.2 Spark Repl 32 第4章Spark作业提交 33 4.1 作业提交33 4.2 作业执行38 4.2.1 依赖性分析及Stage划分39 4.2.2 Actor Model和Akka 46 4.2.3 任务的创建和分发47 4.2.4 任务执行53 4.2.5 Checkpoint和Cache 62 4.2.6 WebUI和Metrics 62 4.3 存储机制71 4.3.1 Shuffle结果的写入和读取71 4.3.2 Memory Store 80 4.3.3 存储子模块启动过程分析81 4.3.4 数据写入过程分析82 4.3.5 数据读取过程分析84 4.3.6 TachyonStore 88 第5章部署方式分析 91 5.1 部署模型91 5.2 单机模式local 92 5.3 伪集群部署local-cluster 93 5.4 原生集群Standalone Cluster 95 5.4.1 启动Master 96 5.4.2 启动Worker 97 5.4.3 运行spark-shell 102 5.4.4 容错性分析106 5.5 Spark On YARN 112 5.5.1 YARN的编程模型112 5.5.2 YARN中的作业提交112 5.5.3 Spark On YARN实现详解113 5.5.4 SparkPi on YARN 122 第三部分Spark Lib 129 第6章Spark Streaming 131 6.1 Spark Streaming整体架构131 6.1.1 DStream 132 6.1.2 编程接口133 6.1.3 Streaming WordCount 134 6.2 Spark Streaming执行过程135 6.2.1 StreamingContext初始化过程136 6.2.2 数据接收141 6.2.3 数据处理146 6.2.4 BlockRDD 155 6.3 窗口操作158 6.4 容错性分析159 6.5 Spark Streaming vs. Storm 165 6.5.1 Storm简介165 6.5.2 Storm和Spark Streaming对比168 6.6 应用举例168 6.6.1 搭建Kafka Cluster 168 6.6.2 KafkaWordCount 169 第7章SQL 173 7.1 SQL语句的通用执行过程分析175 7.2 SQL On Spark的实现分析178 7.2.1 SqlParser 178 7.2.2 Analyzer 184 7.2.3 Optimizer 191 7.2.4 SparkPlan 192 7.3 Parquet 文件和JSON数据集196 7.4 Hive简介197 7.4.1 Hive 架构197 7.4.2 HiveQL On MapReduce执行过程分析199 7.5 HiveQL On Spark详解200 7.5.1 Hive On Spark环境搭建206 7.5.2 编译支持Hadoop 2.x的Spark 211 7.5.3 运行Hive On Spark测试用例213 第8章GraphX 215 8.1 GraphX简介215 8.1.1 主要特点216 8.1.2 版本演化216 8.1.3 应用场景217 8.2 分布式图计算处理技术介绍218 8.2.1 属性图218 8.2.2 图数据的存储与分割219 8.3 Pregel计算模型220 8.3.1 BSP 220 8.3.2 像顶点一样思考220 8.4 GraphX图计算框架实现分析223 8.4.1 基本概念223 8.4.2 图的加载与构建226 8.4.3 图数据存储与分割227 8.4.4 操作接口228 8.4.5 Pregel在GraphX中的源码实现230 8.5 PageRank 235 8.5.1 什么是PageRank 235 8.5.2 PageRank核心思想235 第9章MLLib 239 9.1 线性回归239 9.1.1 数据和估计240 9.1.2 线性回归参数求解方法240 9.1.3 正则化245 9.2 线性回归的代码实现246 9.2.1 简单示例246 9.2.2 入口函数train 247 9.2.3 最优化算法optimizer 249 9.2.4 权重更新update 256 9.2.5 结果预测predict 257 9.3 分类算法257 9.3.1 逻辑回归258 9.3.2 支持向量机260 9.4 拟牛顿法261 9.4.1 数学原理261 9.4.2 代码实现265 9.5 MLLib与其他应用模块间的整合268 第四部分附录271 附录A Spark源码调试 273 附录B 源码阅读技巧 283