
本书作者具有丰富的分布式服务框架、平台中间件的架构设计和实践经验,主导设计的华为分布式服务框架已经在全球数十个国家成功商用。书中依托工作实践,从分布式服务框架的架构设计原理到实践经验总结,涵盖了服务化架构演进、订阅发布、路由策略、集群容错和服务治理等多个专题,全方位剖析服务框架的设计原则和原理,结合大量实践案例与读者分享作者对分布式服务框架设计和运维的体会。同时,对基于Docker部署微服务以及基于微服务架构开发、部署和运维业务系统进行了详细介绍。
序一 IT 的体系架构在历史上经历了几次大的变化。从主机瘦客户机时代,到Client Server兴起,然后过渡到Browser Server 的架构,再到移动+云计算+大数据的大热。总结起来,IT 的核心变迁轨迹是在客户端不断提升体验,易联易用,而在服务器端则是不断追求性能和成本优化改进。近几年,还有一个非常明显的趋势是技术的成熟度和融合度不断提高,移动、云计算领域平台型的公司(Android、iOS、AWS)使得整个IT 能力的使用成本很低,进入速度非常快,现在的高中生也可以利用手头的工具非常快速方便地参与到软件构建中来,这在以前是不可想象的。移动互联网兴起以后,大概在短短5 年内,世界上绝大部分原来在PC 端可以满足的需求都由移动端的应用实现了一遍。IT 已经变成了一个快速消费品,而不是一个奢侈品。技术的进步使得IT 的敏捷性大大提升,但是对于一个大型系统来说,如何能够降低系统的复杂度,提升敏捷性是关键而又头疼的问题。我们也看到一些通用的标准和最佳实践已经建立起来了,降低模块之间的耦合度,提升组件的内聚性,规范对外的接口,实现分布式的系统架构,把一个大型系统通过服务化的方式规划治理起来,已经成为一个共识。一个现代的大型IT 系统,服务可以多至十万、百万级,如此众多的服务,从设计、开发、运行、编排、维护到治理,每一个环节都需要大量深入仔细的考虑,才能够运转起来。我们可以把这样一个系统比喻成一个城市,城市里面有成千上万的公司,每一个公司都有自己的业务来往,同时又需要现代化的交通、电力、通信、金融等体系的支持。无论是小公司还是大公司,都依赖于整个城市的运作和治理体系。公司和城市是相辅相成的关系。IT系统里面的业务模块和服务化框架也是相辅相成的关系。服务化框架对于一个大型IT 系是不可或缺的。业界有很多介绍服务化理念和技术点的文章和书籍。但真正能够在理论、实践、技术要点、眼界多方面全面覆盖的资料,还是比较缺乏的。我很高兴看到林锋能够总结自己在理论、产品和客户实践多方面的认知和经验,为读者奉献《分布式服务框架原理与实践》一书,深入浅出地介绍分布式服务的概念、体系和关键技术点。希望这本书能够帮助你了解分布式服务框架,掌握分布式服务体系和技术要点,同时也能实践服务化给你的IT 系统带来的敏捷。黄省江 华为软件PaaS 平台&云中间件技术总监 序二 容器SDN 技术与微服务架构实践从20 世纪末期的第一波互联网浪潮开始,软件架构的主流就逐步从Office 这类纯客户端软件逐步过渡到服务端的架构设计。与传统的客户端设计相比,服务端的架构设计更关注伸缩性、可用性和可维护性。很可惜的是,现在市面上讲语言、讲算法、讲设计模式或者讲某一门独立的技术的书都不少,但服务端架构设计的书却寥寥无几。从私下沟通的结果来看,大部分互联网企业都没有解决好上面的几个问题。正如建筑设计的现代化是从结构工程师开始的,软件设计的现代化会从架构师开始,希望李林锋这本书能够帮助广大的架构师或者有志于成为架构师的人掌握好这些知识,让架构师能够带领开发团队构建出稳定、安全、可维护、可伸缩的合格产品,让架构师在软件开发现代化这条路上起到领路人的作用。本书最末一章讲述了最近很火的微服务架构,微服务架构的思想包含了对以前种种架构模式的反思,也通过Docker、Mesos 等技术变成第一个可以轻松产品化的架构思想。我相信再过几年对于开发人员,特别是服务端的开发人员,他们所面临的开发模式将与现在的开发模式有很大的差异,这种差异我觉得甚至会大过程序可以有服务端这个概念的引入。在微服务架构下,开发的门槛将进一步降低,分布式将更加自然而不是依赖于艰难的设计,运维的负担也将降低至一个极低的水平。我们可以期望通过微服务架构,从想法到产品的距离将更短,也能期待涌现出更多让人叹为观止的产品,还能期待能出现些我们现在完全无法预测的技术和产品。李道兵 七牛云首席架构师 前 言 2008 年9 月份,我有幸参与了一个华为软件公司的国内Top3 项目,作为一名有经验的开发,项目经理安排我负责整个系统的实时交易和后台服务端设计。尽管有ERP 软件开发经验,但是第一次参与这么大项目的架构设计和开发,压力还是非常大,经常夜不能寐。好在公司当时已经研发了Java Web 框架,它基于Spring + Struts + iBatis 构建,利用公司成熟的MVC 框架我们很顺利地完成了项目的开发和交付,并最终成功上线运行。随着业务的发展,用户数和需求逐步增多,团队规模越来越大,我们遇到了很多棘手的问题: 1) 代码重复率高:一些业务层的公共功能,被多个模块重复开发,导致研发成本上升,代码质量下降,架构腐化,为后续系统的运维和新功能的开发带来巨大的挑战。 2) 需求变更困难:由于长流程无法有效拆分、代码重复率高等因素,导致每次需求变更就影响一大片,需要做大量的回归测试来保证质量,需求的交付周期被拉长。 3) 部署效率低:业务没有拆分,很多功能模块都打到同一个war 包中,一旦有一个功能发生变更,就需要重新打包和部署;巨无霸应用由于包含功能模块过多,编译、打包时间比较长,一旦编译过程出错,需要根据错误重新修改代码再编译,耗时较长。 4) 学习成本高:业务流程是由一长串本地接口或者方法调用串联起来的,臃肿而冗长,而且往往由一个人负责开发和维护。随着业务的发展和需求变化,本地代码在不断的迭代和变更,最后形成了一个个垂直的功能孤岛,只有原来的开发者才理解接口调用关系和功能需求,一旦原有的开发者离职或者调到其他项目组,这些功能模块的运维就会变得非常困难。 5) 缺乏统一的RPC 框架:由于Web 框架只提供了HTTP/HTTPS 协议,例如SOAP、SMPP 等协议栈需要业务自行集成第三方的开源框架,超时重发、网络断连等底层故障需要在应用上层统一封装和处理,工作繁琐而且容易出错,对业务开发人员的技能要求也非常高。随着公司业务的不断发展,传统MVC 架构已经无法再满足业务对平台的诉求,因此在2010 年下半年我们开始研发新的SOA 中间件,它包括企业集成总线ESB、流程编排引擎BPM、RPC 通信框架等。新的RPC 通信框架底层封装了Java NIO 通信框架Netty、常用的序列化/反序列化框架,以及为应用层提供线程池和消息调度器,基于RPC 通信框架,业务可以快速的实现跨进程的远程通信,而不需要关心底层的通信细节,例如链路的闪断、失败重试等,极大的提升了应用的开发效率。在很长一段时间,自研的RPC 框架成为业务首选的Java 服务端框架。随着RPC 框架的推广和使用日益深入,一些新的公共需求被反馈过来: 1) 依赖管理:当服务越来越多时,服务URL 配置管理变得非常困难,希望有一个统一的服务注册中心管理服务的依赖关系。 2) 透明路由:通过订阅发布机制,消费者只需要关心服务本身,并不需要配置具体的服务提供者地址,实现服务的自动发现。 3) 服务治理:业务失败之后的放通处理,超时时间控制、流控等常用运维功能,希望能够独立出一个服务治理中心,统一对集群各节点的服务做在线治理,提升治理效率,保障服务SLA。 4) 其他…… 为了解决这些问题,以RPC 框架为核心,我们构建了全新的分布式服务框架,相比于传统RPC 框架,它提供了如下新特性: 1) 基于注册中心的服务订阅/发布机制,支持服务自动发现和健康状态检测。 2) 集群容错。 3) 依赖解耦,全配置化开发,对应用零侵入。 4) 服务治理,包括服务降级、服务调用链跟踪、服务上线审批和下线通知等。 5) 服务化最佳实践等。 分布式服务框架不仅仅包含核心的运行时类库,还包括服务划分原则、服务化最佳实践、服务治理、服务监控、服务开发框架等,它是一套完整的解决方案,用来协助应用做服务化改造,以及指导用户如何构建适合自己业务场景的服务化体系,将服务化的价值发挥到极致。基于分布式服务框架,业务终于可以把全部精力都放到应用层的逻辑开发,研发效率、系统可靠性都得到了极大的提升。目前,华为电信软件主要解决方案几乎所有的Java 系统都基于分布式服务框架构建,底层的基础框架实现了统一。最近一年多来,随着DevOps 和以Docker 为首的容器技术的发展,微服务架构逐渐流行起来,微服务架构的流行有其必然的历史原因,它是敏捷开发、基础设施服务化、DevOps和互联网行业快速发展的综合产物。亚马逊AWS、Netflix 等都是微服务的成功实践者,相信未来国内越来越多的大型应用也会演进到微服务架构。华为软件公司的Java 架构经历了传统的MVC 垂直架构-RPC 框架-分布式服务框架,目前正在向Docker + 微服务方向演进,整个服务化架构的演进历程也是业界技术变迁的一个缩影。在这7 年的演进历程中,我有幸全程参与了相关框架的架构设计和核心模块的开发,深有感触。在此希望将自己设计、开发和运维的相关经验分享出来,为初学者和相关经验人士提供一些启发,汲取相关经验,少走些弯路。?能够完成本书需要感谢很多人,首先感谢华为公司给我提供了足够大的舞台,感谢华为PaaS 平台&中间件团队领导和同事莫晓军、望岳和王世军等,以及与我在分布式服务框架团队一起战斗过的开发、测试和资料。其次要感谢我的家人,你们一直在背后默默的支持我。感谢参与本书编辑的英姐、美工以及其他人员,你们的辛苦换来了本书的如期上市。最后要感谢所有的读者,你们的支持和鼓励是我写作本书的动力源泉。 李林锋 2015 年12 月于南京
目 录 第1 章 应用架构演进 ...................................................................................... 1 1.1 传统垂直应用架构 .................................................................................. 2 1.1.1 垂直应用架构介绍 ............................................................................. 2 1.1.2 垂直应用架构面临的挑战 .................................................................. 4 1.2 RPC 架构 ....................................................................................................... 6 1.2.1 RPC 框架原理 .................................................................................... 6 1.2.2 最简单的RPC 框架实现 .................................................................... 8 1.2.3 业界主流RPC 框架 .......................................................................... 14 1.2.4 RPC 框架面临的挑战 ....................................................................... 17 1.3 SOA 服务化架构 ......................................................................................... 18 1.3.1 面向服务设计的原则........................................................................ 18 1.3.2 服务治理 .......................................................................................... 19 1.4 微服务架构 .................................................................................................. 21 1.4.1 什么是微服务 ................................................................................... 21 1.4.2 微服务架构对比SOA ....................................................................... 22 1.5 总结 ............................................................................................................. 23 第2 章 分布式服务框架入门 .................................................................................... 25 2.1 分布式服务框架诞生背景 ........................................................................... 26 2.1.1 应用从集中式走向分布式 ................................................................ 26? 2.1.2 亟需服务治理 ................................................................................... 28 2.2 业界分布式服务框架介绍 ........................................................................... 29 2.2.1 阿里Dubbo ....................................................................................... 30 2.2.2 淘宝HSF .......................................................................................... 33 2.2.3 亚马逊Coral Service ........................................................................ 35 2.3 分布式服务框架设计 ................................................................................... 36 2.3.1 架构原理 .......................................................................................... 36 2.3.2 功能特性 .......................................................................................... 37 2.3.3 性能特性 .......................................................................................... 39 2.3.4 可靠性 .............................................................................................. 39 2.3.5 服务治理 .......................................................................................... 40 2.4 总结 ............................................................................................................. 41 第3 章 通信框架 ..................................................................................................... 42 3.1 关键技术点分析 ........................................................................................... 43 3.1.1 长连接还是短连接 ........................................................................... 43 3.1.2 BIO 还是NIO ................................................................................... 43 3.1.3 自研还是选择开源NIO 框架 ........................................................... 46 3.2 功能设计 ...................................................................................................... 47 3.2.1 服务端设计 ....................................................................................... 48 3.2.2 客户端设计 ....................................................................................... 50 3.3 可靠性设计 .................................................................................................. 53 3.3.1 链路有效性检测 ............................................................................... 54 3.3.2 断连重连机制 ................................................................................... 56 3.3.3 消息缓存重发 ................................................................................... 57 3.3.4 资源优雅释放 ................................................................................... 58 3.4 性能设计 ...................................................................................................... 59 3.4.1 性能差的三宗罪 ............................................................................... 59 3.4.2 通信性能三原则 ............................................................................... 60 3.4.3 高性能之道 ....................................................................................... 61 3.5 最佳实践 ...................................................................................................... 61 3.6 总结 ............................................................................................................. 64 第4 章 序列化与反序列化 ....................................................................................... 65 4.1 几个关键概念澄清 ....................................................................................... 66 4.1.1 序列化与通信框架的关系 ................................................................ 66 4.1.2 序列化与通信协议的关系 ................................................................ 66 4.1.3 是否需要支持多种序列化方式 ........................................................ 67 4.2 功能设计 ...................................................................................................... 67 4.2.1 功能丰富度 ....................................................................................... 67 4.2.2 跨语言支持 ....................................................................................... 68 4.2.3 兼容性 .............................................................................................. 69 4.2.4 性能 .................................................................................................. 70 4.3 扩展性设计 .................................................................................................. 71 4.3.1 内置的序列化/反序列化功能类 ....................................................... 71 4.3.2 反序列化扩展 ................................................................................... 72 4.3.3 序列化扩展 ....................................................................................... 75 4.4 最佳实践 ...................................................................................................... 77 4.4.1 接口的前向兼容性规范 .................................................................... 77 4.4.2 高并发下的稳定性 ........................................................................... 78 4.5 总结 ............................................................................................................. 78 第5 章 协议栈 ......................................................................................................... 79 5.1 关键技术点分析........................................................................................... 80 5.1.1 是否必须支持多协议 ....................................................................... 80 5.1.2 公有协议还是私有协议 .................................................................... 80 5.1.3 集成开源还是自研 ........................................................................... 81 5.2 功能设计 ...................................................................................................... 82 5.2.1 功能描述 .......................................................................................... 82 5.2.2 通信模型 .......................................................................................... 82 5.2.3 协议消息定义 ................................................................................... 84 5.2.4 协议栈消息序列化支持的字段类型 ................................................. 85 5.2.5 协议消息的序列化和反序列化 ........................................................ 86 5.2.6 链路创建 .......................................................................................... 89 5.2.7 链路关闭 .......................................................................................... 90 5.3 可靠性设计 .................................................................................................. 90 5.3.1 客户端连接超时 ............................................................................... 90 5.3.2 客户端重连机制 ............................................................................... 91 5.3.3 客户端重复握手保护 ........................................................................ 91 5.3.4 消息缓存重发 ................................................................................... 92 5.3.5 心跳机制 .......................................................................................... 92 5.4 安全性设计 .................................................................................................. 92 5.5 最佳实践—协议的前向兼容性 ................................................................ 94 5.6 总结 ............................................................................................................. 95 第6 章 服务路由 ..................................................................................................... 96 6.1 透明化路由 .................................................................................................. 97 6.1.1 基于服务注册中心的订阅发布 ........................................................ 97 6.1.2 消费者缓存服务提供者地址 ............................................................ 98 6.2 负载均衡 ...................................................................................................... 98 6.2.1 随机 .................................................................................................. 98 6.2.2 轮循 .................................................................................................. 99 6.2.3 服务调用时延 ................................................................................... 99 6.2.4 一致性哈希 ...................................................................................... 100 6.2.5 粘滞连接 ......................................................................................... 101 6.3 本地路由优先策略 ...................................................................................... 102 6.3.1 injvm 模式 ....................................................................................... 102 6.3.2 innative 模式 .................................................................................... 102 6.4 路由规则 ..................................................................................................... 103 6.4.1 条件路由规则 .................................................................................. 103 6.4.2 脚本路由规则 .................................................................................. 104 6.5 路由策略定制 ............................................................................................. 105 6.6 配置化路由 ................................................................................................. 106 6.7 最佳实践—多机房路由 ........................................................................... 107 6.8 总结 ............................................................................................................ 108 第7章 集群容错 ................................................................................................... 109 7.1 集群容错场景 ............................................................................................. 110 7.1.1 通信链路故障 .................................................................................. 110 7.1.2 服务端超时 ..................................................................................... 111 7.1.3 服务端调用失败 .............................................................................. 111 7.2 容错策略 ..................................................................................................... 112 7.2.1 失败自动切换(Failover) .............................................................. 112 7.2.2 失败通知(Failback) ..................................................................... 113 7.2.3 失败缓存(Failcache) ................................................................... 113 7.2.4 快速失败(Failfast) ...................................................................... 114 7.2.5 容错策略扩展 .................................................................................. 114 7.3 总结 ............................................................................................................ 115 第8 章 服务调用 ................................................................................................... 116 8.1 几个误区 ..................................................................................................... 117 8.1.1 NIO 就是异步服务 .......................................................................... 117 8.1.2 服务调用天生就是同步的 ............................................................... 118 8.1.3 异步服务调用性能更高 ................................................................... 120 8.2 服务调用方式 ............................................................................................. 120 8.2.1 同步服务调用 .................................................................................. 120 8.2.2 异步服务调用 .................................................................................. 121 8.2.3 并行服务调用 .................................................................................. 125 8.2.4 泛化调用 ......................................................................................... 129 8.3 最佳实践 ..................................................................................................... 130 8.4 总结 ............................................................................................................ 131 第9章 服务注册中心 ............................................................................................. 132 9.1 几个概念 ..................................................................................................... 133 9.1.1 服务提供者 ..................................................................................... 133 9.1.2 服务消费者 ..................................................................................... 133 9.1.3 服务注册中心 .................................................................................. 133 9.2 关键功能特性设计 ...................................................................................... 134 9.2.1 支持对等集群 .................................................................................. 135 9.2.2 提供CRUD 接口 ............................................................................. 136 9.2.3 安全加固 ......................................................................................... 136 9.2.4 订阅发布机制 .................................................................................. 137 9.2.5 可靠性 ............................................................................................. 138 9.3 基于ZooKeeper 的服务注册中心设计 ........................................................ 139 9.3.1 服务订阅发布流程设计 ................................................................... 139 9.3.2 服务健康状态检测 .......................................................................... 141 9.3.3 对等集群防止单点故障 ................................................................... 142 9.3.4 变更通知机制 .................................................................................. 144 9.4 总结 ............................................................................................................ 144 第10 章 服务发布和引用 ....................................................................................... 145 10.1 服务发布设计 ........................................................................................... 146 10.1.1 服务发布的几种方式 ..................................................................... 146 10.1.2 本地实现类封装成代理 ................................................................. 148 10.1.3 服务发布成指定协议 ..................................................................... 148 10.1.4 服务提供者信息注册 ..................................................................... 149 10.2 服务引用设计 ........................................................................................... 150 10.2.1 本地接口调用转换成远程服务调用 .............................................. 150 10.2.2 服务地址本地缓存 ........................................................................ 151 10.2.3 远程服务调用 ................................................................................ 151 10.3 最佳实践 ................................................................................................... 152 10.3.1 对等设计原则 ................................................................................ 152 10.3.2 启动顺序问题 ................................................................................ 153 10.3.3 同步还是异步发布服务 ................................................................. 153 10.3.4 警惕网络风暴 ................................................................................ 154 10.3.5 配置扩展 ....................................................................................... 154 10.4 总结 .......................................................................................................... 156 第11 章 服务灰度发布 .......................................................................................... 157 11.1 服务灰度发布流程设计............................................................................. 158 11.1.1 灰度环境准备 ................................................................................ 158 11.1.2 灰度规则设置 ................................................................................ 159 11.1.3 灰度规则下发 ................................................................................ 160 11.1.4 灰度路由 ........................................................................................ 161 11.1.5 失败回滚 ........................................................................................ 162 11.1.6 灰度发布总结 ................................................................................ 163 11.2 总结 ........................................................................................................... 163 第12 章 参数传递 ................................................................................................. 164 12.1 内部传参 ................................................................................................... 165 12.1.1 业务内部参数传递 ........................................................................ 165 12.1.2 服务框架内部参数传递 ................................................................. 168 12.2 外部传参 ................................................................................................... 169 12.2.1 通信协议支持 ................................................................................ 169 12.2.2 传参接口定义 ................................................................................ 170 12.3 最佳实践 ................................................................................................... 171 12.3.1 防止参数互相覆盖 ........................................................................ 171 12.3.2 参数生命周期管理 ........................................................................ 171 12.4 总结 .......................................................................................................... 172 第13 章 服务多版本 .............................................................................................. 173 13.1 服务多版本管理设计 ................................................................................ 174 13.1.1 服务版本号管理 ............................................................................ 174 13.1.2 服务提供者 .................................................................................... 175 13.1.3 服务消费者 .................................................................................... 175 13.1.4 基于版本号的服务路由 ................................................................. 176 13.1.5 服务热升级 .................................................................................... 177 13.2 与OSGi 的对比 ......................................................................................... 178 13.2.1 模块化开发 .................................................................................... 179 13.2.2 插件热部署和热升级 ..................................................................... 184 13.2.3 不使用OSGi 的其他理由 .............................................................. 185 13.3 总结 .......................................................................................................... 185 第14 章 流量控制 ................................................................................................. 186 14.1 静态流控 ................................................................................................... 187 14.1.1 传统静态流控设计方案 ................................................................. 187 14.1.2 传统方案的缺点 ............................................................................ 188 14.1.3 动态配额分配制 ............................................................................ 188 14.1.4 动态配额申请制 ............................................................................ 190 14.2 动态流控 ................................................................................................... 191 14.2.1 动态流控因子 ................................................................................ 192 14.2.2 分级流控 ....................................................................................... 192 14.3 并发控制 ................................................................................................... 193 14.3.1 服务端全局控制 ............................................................................ 193 14.3.2 服务消费者流控 ............................................................................ 194 14.4 连接控制 ................................................................................................... 195 14.4.1 服务端连接数流控 ........................................................................ 195 14.4.2 服务消费者连接数流控 ................................................................. 195 14.5 并发和连接控制算法 ................................................................................ 195 14.6 总结 .......................................................................................................... 197 第15 章 服务降级 ................................................................................................. 198 15.1 屏蔽降级 ................................................................................................... 199 15.1.1 屏蔽降级的流程 ............................................................................ 199 15.1.2 屏蔽降级的设计实现 ..................................................................... 200 15.2 容错降级 ................................................................................................... 202 15.2.1 容错降级的工作原理 ..................................................................... 202 15.2.2 运行时容错降级 ............................................................................ 204 15.3 业务层降级 ............................................................................................... 205 15.4 总结 .......................................................................................................... 205 第16 章 服务优先级调度 ....................................................................................... 207 16.1 设置服务优先级 ........................................................................................ 208 16.2 线程调度器方案 ........................................................................................ 209 16.3 Java 优先级队列 ....................................................................................... 210 16.4 加权优先级队列 ........................................................................................ 211 16.5 服务迁入迁出 ........................................................................................... 212 16.6 总结 .......................................................................................................... 213 第17 章 服务治理 ................................................................................................. 214 17.1 服务治理技术的历史变迁 ......................................................................... 215 17.1.1 SOA Governance ............................................................................ 215 17.1.2 分布式服务框架服务治理 ............................................................. 217 17.1.3 AWS 云端微服务治理 ................................................................... 217 17.2 应用服务化后面临的挑战 ......................................................................... 218 17.2.1 跨团队协作问题 ............................................................................ 219 17.2.2 服务的上下线管控 ........................................................................ 220 17.2.3 服务安全 ....................................................................................... 220 17.2.4 服务SLA 保障............................................................................... 221 17.2.5 故障快速定界定位 ........................................................................ 221 17.3 服务治理 ................................................................................................... 222 17.3.1 服务治理架构设计 ........................................................................ 223 17.3.2 运行态服务治理功能设计 ............................................................. 225 17.3.3 线下服务治理 ................................................................................ 232 17.3.4 安全和权限管理 ............................................................................ 234 17.4 总结 .......................................................................................................... 237 第18 章 分布式消息跟踪 ....................................................................................... 239 18.1 业务场景分析 ........................................................................................... 240 18.1.1 故障的快速定界定位 ..................................................................... 240 18.1.2 调用路径分析 ................................................................................ 241 18.1.3 调用来源和去向分析 ..................................................................... 242 18.2 分布式消息跟踪系统设计 ......................................................................... 242 18.2.1 系统架构 ....................................................................................... 243 18.2.2 埋点日志 ....................................................................................... 244 18.2.3 采样率 ........................................................................................... 247 18.2.4 采集和存储埋点日志 ..................................................................... 248 18.2.5 计算和展示 .................................................................................... 249 18.2.6 调用链扩展 .................................................................................... 251 18.3 总结 .......................................................................................................... 251 第19 章 可靠性设计 .............................................................................................. 253 19.1 服务状态检测 ........................................................................................... 254 19.1.1 基于服务注册中心状态检测 ......................................................... 254 19.1.2 链路有效性状态检测机制 ............................................................. 255 19.2 服务健康度检测 ........................................................................................ 256 19.3 服务故障隔离 ........................................................................................... 257 19.3.1 进程级故障隔离 ............................................................................ 257 19.3.2 VM 级故障隔离 ............................................................................. 259 19.3.3 物理机故障隔离 ............................................................................ 260 19.3.4 机房故障隔离 ................................................................................ 261 19.4 其他可靠性特性 ........................................................................................ 262 19.4.1 服务注册中心 ................................................................................ 262 19.4.2 监控中心 ....................................................................................... 262 19.4.3 服务提供者 .................................................................................... 262 19.5 总结 .......................................................................................................... 263 第20 章 微服务架构 .............................................................................................. 264 20.1 微服务架构产生的历史背景 ..................................................................... 265 20.1.1 研发成本挑战 ................................................................................ 265 20.1.2 运维成本高 .................................................................................... 267 20.1.3 新需求上线周期长 ........................................................................ 268 20.2 微服务架构带来的改变 ............................................................................ 268 20.2.1 应用解耦 ....................................................................................... 268 20.2.2 分而治之 ....................................................................................... 270 20.2.3 敏捷交付 ....................................................................................... 271 20.3 微服务架构解析 ........................................................................................ 271 20.3.1 微服务划分原则 ............................................................................ 272 20.3.2 开发微服务 .................................................................................... 272 20.3.3 基于Docker 容器部署微服务 ........................................................ 274 20.3.4 治理和运维微服务 ........................................................................ 277 20.3.5 特点总结 ....................................................................................... 278 20.4 总结 .......................................................................................................... 279 第21 章 服务化最佳实践 ....................................................................................... 280 21.1 性能和时延问题 ........................................................................................ 281 21.1.1 RPC 框架高性能设计 .................................................................... 281 21.1.2 业务最佳实践 ................................................................................ 285 21.2 事务一致性问题 ........................................................................................ 286 21.2.1 分布式事务设计方案 ..................................................................... 287 21.2.2 分布式事务优化 ............................................................................ 288 21.3 研发团队协作问题 .................................................................................... 289 21.3.1 共用服务注册中心 ........................................................................ 290 21.3.2 直连提供者 .................................................................................... 290 21.3.3 多团队进度协同 ............................................................................ 291 21.3.4 服务降级和Mock 测试 .................................................................. 291 21.3.5 协同调试问题 ................................................................................ 292 21.3.6 接口前向兼容性 ............................................................................ 292 21.4 总结 .......................................................................................................... 292
李林锋,现任华为PaaS平台架构师,8年Java NIO通信框架、平台中间件架构设计和开发经验,主导设计和开发的华为分布式服务框架已经在全球数十个国家成功商用。精通Netty、Mina、RPC框架、企业ESB总线、分布式服务框架等技术,《Netty权威指南》作者,公司总裁技术创新奖获得者。__eol__微博、微信:Nettying__eol__微信公众号:Netty之家__eol__