本书围绕大型网站和支撑大型网站架构的Java 中间件的实践展开介绍。从分布式系统的知识切入，让读者对分布式系统有基本的了解；然后介绍大型网站随着数据量、访问量增长而发生的架构变迁；接着讲述构建Java 中间件的相关知识；之后的几章都是根据笔者的经验来介绍支撑大型网站架构的Java 中间件系统的设计和实践。希望读者通过本书可以了解大型网站架构变迁过程中的较为通用的问题和解法，并了解构建支撑大型网站的Java 中间件的实践经验。

推荐序一 从事互联网系统开发的人员大多希望成为资深的架构师或领域专家。但大部分人员由于自身工作环境及条件的限制，缺少大型系统实践经验，或者对核心的案例缺乏真实的了解，因此很难有机会理解分布式设计中的关键问题及应对方案。如何才能找到有效的方法并早日成为资深系统架构师呢？ 《大型网站系统与Java中间件实践》一书介绍了大型网站分布式领域的各种问题，并且以互联网语言Java语言为主。这对于希望提升架构能力的技术人员来说，一方面有助于他们了解理论层面体系，掌握大型系统的全貌；另一方面，由于作者具有淘宝平台的丰富的架构及中间件开发经验，因而书中的要点都是大型网站在实际运行中的精华经验，不管你是使用一个已有的分布式开源解决方案，还是自行开发分布式组件，了解这些关键点都会帮助你快速深入地驾驭分布式领域的核心架构。 书中内容尽是实战经验，虽不布道，但所述内容却不乏硝烟——因为是作者在分布式系统的构建、拆分、服务化、部署、实战过程中所经历的教训、积累的经验。书中还有很多性能优化分析、多种方案选择时的tradeoff及实战中的方案。方案选择无所谓最佳，只有最适合，这本书不仅给出了方案选择的方法，更给出了方案选择的原因。本书除了适合希望提升架构能力的技术人员阅读，对于正在从事大数据、高并发、中间件使用或研发的一线开发人员也很有价值。 ——杨卫华（@TimYang） 新浪网技术总监 推荐序二 看了华黎寄给我的样章有很深的感触，时间仿佛又回到两年多前，当时“去哪儿”网的业务飞速发展，系统遇到了各种各样的问题。 首先是系统无节制地变得臃肿庞大，大量的web service的调用将我们的系统变成了一个蜘蛛网，新进入的工程师需要很长时间的熟悉才能对原有系统做出修改。 其次系统随着业务量的不断增大变得不堪重负，开始还能通过增加硬件来扩容，后来增加硬件能够带来的效果已无济于事。 还有，质量越来越难以保证，测试的时间变得越来越长，无法跟上和满足业务发展和变化的需要，团队的压力也越来越大，各个团队都需要增加人员，但是生产力的提升并不明显。 回顾那段时间，故障频发，效率低下，团队人困马乏，成就感变得越来越低。于是我们参考了国内外经历过这个阶段的公司的做法，引入了服务化框架，将系统拆小，重视了系统层次，控制了系统之间的调用关系，也采用了可靠消息系统来应对业务系统之间的强耦合问题。经过两年的努力，现在终于看到了胜利的曙光。 总结下来系统发展的困难也是演进推动力，主要来自于三个方面：一是系统的负载规模，二是系统的复杂度，三是由前两个方面带来的开发团队的规模扩张。而中间件技术是解决上述三个问题的重要方法。 如果在两年甚至三年前华黎的这本书就已经出版，那么去哪儿网的系统发展就能少走很多弯路。过去两年中，我们为了概念和做法进行了无数次的讨论、争执、尝试、修正。因为我们当时获得经验的途径主要是通过阅读国内外各大网站的同行在各种技术会议上的演讲、PPT，或者与他们交流过程中得到各种启示，这对于一个快速成长中的系统来讲太不成体系了，无法对日常的工作进行指导。而华黎写的这本书融合了他过去在淘宝的经验，书中的做法、理念经过了淘宝系统的爆炸性增长的检验，详实地阐述了Java中间件技术在大型网站，尤其是大型交易类网站的建设和应用经验。 书若其人，这本书很实在，用现在流行的话语来讲，就是干货多。我认识华黎有三年了，三年内见过几面，每次见面我都有很多收获。这次他把他的经验和领悟集结成书，相信对很多正在投身于互联网系统开发，特别是高负载、高复杂度的系统开发的工程师们会有很大帮助。也衷心祝福华黎在未来的日子里，儿子健康成长，家庭幸福，工作顺利。 ——吴永强（@吴永强去哪） 去哪网 CTO 前言 由于2007年一个很偶然的机会，我加入了淘宝平台架构组，职位是C++工程师。然后我就在只完成了C语言的一个小功能后，开始了Java中间件的研究生涯。从2007年下半年到2013年年初，近6年时间我都在和支撑整个网站应用的Java中间件打交道——从设计实现消息中间件到参与数据访问层设计，再到负责整个Java中间件团队，我也从一个不太懂Java的C++工程师成长为对Java中间件有一定了解和积累的工程负责人。在这个过程中，我也有幸参与了淘宝从集中式的Java应用到分布式Java应用的架构变迁。 本书从分布式系统说起，然后介绍大型网站的变迁中遇到的挑战和应对策略，接着讲解Java中间件的内容，重点介绍了笔者在实践中自主开发的支撑大型网站应用的几个Java中间件产品，包括对它们的思考及其设计和实现原理。最后介绍了支撑大型网站的其他基础要素，包括CDN、搜索、存储、计算平台，以及运维相关的系统等内容。 通过阅读本书，笔者希望读者能够尽量完整地了解大型网站的挑战和应对办法，并且能够了解淘宝在大型网站变迁过程中产生的这几个中间件的具体产品及其背后的思考和设计，并能够对除中间件之外的支撑大型网站的其他系统有一定的了解。希望初学者能够更多地关注全貌，也希望有相关经验的人士可以从本书中得到一些启发，汲取一些经验。 2013年5月，我的岗位有了调整，在接下来的时间中我将带领淘宝技术部承担淘宝业务应用的开发工作。这本书也是对自己淘宝中间件6年工作生涯的一份纪念。 最后要说的是，能够完成本书有很多的人要感谢，首先要感谢淘宝给我这么好的平台和机会，没有这个机会就不会有本书。然后也非常感谢太太王海凤对我的支持，4年前和林昊合著《OSGi原理与最佳实践》一书的时候，我们刚谈恋爱，我把很多本应陪你的时间用在了写作上；4年后，我又把本应陪你和儿子的时间用在了写作上，没有你的支持和理解，我不可能完成这次写作。最后也要感谢我的父母、岳父母、姑姑和小表妹，有你们照顾宸宸，我才能专心地写作本书。 曾宪杰 2013年11月于杭州

目录 第1章 分布式系统介绍 1 1.1 初识分布式系统 1 1.1.1 分布式系统的定义 1 1.1.2 分布式系统的意义 3 1.2 分布式系统的基础知识 5 1.2.1 组成计算机的5要素 5 1.2.2 线程与进程的执行模式 6 1.2.3 网络通信基础知识 13 1.2.4 如何把应用从单机扩展到分布式 18 1.2.5 分布式系统的难点 31 第2章 大型网站及其架构演进过程 35 2.1 什么是大型网站 35 2.2 大型网站的架构演进 37 2.2.1 用Java技术和单机来构建的网站 37 2.2.2 从一个单机的交易网站说起 38 2.2.3 单机负载告警，数据库与应用分离 40 2.2.4 应用服务器负载告警，如何让应用服务器走向集群 41 2.2.5 数据读压力变大，读写分离吧 50 2.2.6 弥补关系型数据库的不足，引入分布式存储系统 56 2.2.7 读写分离后，数据库又遇到瓶颈 58 2.2.8 数据库问题解决后，应用面对的新挑战 60 2.2.9 初识消息中间件 63 2.2.10 总结 64 第3章 构建Java中间件 67 3.1 Java中间件的定义 67 3.2 构建Java中间件的基础知识 68 3.2.1 跨平台的Java运行环境——JVM 69 3.2.2 垃圾回收与内存堆布局 70 3.2.3 Java并发编程的类、接口和方法 72 3.2.4 动态代理 89 3.2.5 反射 91 3.2.6 网络通信实现选择 93 3.3 分布式系统中的Java中间件 94 第4章 服务框架 97 4.1 网站功能持续丰富后的困境与应对 97 4.2 服务框架的设计与实现 100 4.2.1 应用从集中式走向分布式所遇到的问题 100 4.2.2 透过示例看服务框架原型 101 4.2.3 服务调用端的设计与实现 107 4.2.4 服务提供端的设计与实现 132 4.2.5 服务升级 137 4.3 实战中的优化 138 4.4 为服务化护航的服务治理 142 4.5 服务框架与ESB的对比 146 4.6 总结 147 第5章 数据访问层 149 5.1 数据库从单机到分布式的挑战和应对 149 5.1.1 从应用使用单机数据库开始 149 5.1.2 数据库垂直/水平拆分的困难 150 5.1.3 单机变为多机后，事务如何处理 152 5.1.4 多机的Sequence问题与处理 165 5.1.5 应对多机的数据查询 168 5.2 数据访问层的设计与实现 174 5.2.1 如何对外提供数据访问层的功能 174 5.2.2 按照数据层流程的顺序看数据层设计 177 5.2.3 独立部署的数据访问层实现方式 192 5.2.4 读写分离的挑战和应对 194 5.3 总结 200 第6章 消息中间件 203 6.1 消息中间件的价值 203 6.1.1 消息中间件的定义 203 6.1.2 透过示例看消息中间件对应用的解耦 204 6.2 互联网时代的消息中间件 208 6.2.1 如何解决消息发送一致性 209 6.2.2 如何解决消息中间件与使用者的强依赖问题 218 6.2.3 消息模型对消息接收的影响 222 6.2.4 消息订阅者订阅消息的方式 229 6.2.5 保证消息可靠性的做法 230 6.2.6 订阅者视角的消息重复的产生和应对 245 6.2.7 消息投递的其他属性支持 249 6.2.8 保证顺序的消息队列的设计 252 6.2.9 Push和Pull方式的对比 257 第7章 软负载中心与集中配置管理 259 7.1 初识软负载中心 259 7.2 软负载中心的结构 261 7.3 内容聚合功能的设计 263 7.4 解决服务上下线的感知 267 7.5 软负载中心的数据分发的特点和设计 269 7.5.1 数据分发与消息订阅的区别 269 7.5.2 提升数据分发性能需要注意的问题 271 7.6 针对服务化的特性支持 272 7.6.1 软负载数据分组 272 7.6.2 提供自动感知以外的上下线开关 273 7.6.3 维护管理路由规则 273 7.7 从单机到集群 274 7.7.1 数据统一管理方案 275 7.7.2 数据对等管理方案 276 7.8 集中配置管理中心 280 7.8.1 客户端实现和容灾策略 282 7.8.2 服务端实现和容灾策略 284 7.8.3 数据库策略 285 第8章 构建大型网站的其他要素 287 8.1 加速静态内容访问速度的CDN 287 8.2 大型网站的存储支持 291 8.2.1 分布式文件系统 292 8.2.2 NoSQL 294 8.2.3 缓存系统 298 8.3 搜索系统 301 8.3.1 爬虫问题 302 8.3.2 倒排索引 302 8.3.3 查询预处理 304 8.3.4 相关度计算 304 8.4 数据计算支撑 304 8.5 发布系统 307 8.6 应用监控系统 310 8.7 依赖管理系统 312 8.8 多机房问题分析 315 8.9 系统容量规划 317 8.10 内部私有云 319 后记 321