分布式服务框架：原理与实践

第1 章应用架构演进 1
1 1 传统垂直应用架构 2
1 1 1 垂直应用架构介绍 2
1 1 2 垂直应用架构面临的挑战 4
1 2 RPC 架构  6
1 2 1 RPC 框架原理 6
1 2 2 最简单的RPC 框架实现 8
1 2 3 业界主流RPC 框架  14
1 2 4 RPC 框架面临的挑战  17
1 3 SOA 服务化架构  18
1 3 1 面向服务设计的原则 18
1 3 2 服务治理  19
1 4 微服务架构  21
1 4 1 什么是微服务  21
1 4 2 微服务架构对比SOA  22
1 5 总结 23
第2 章分布式服务框架入门 25
2 1 分布式服务框架诞生背景 26
2 1 1 应用从集中式走向分布式 26?
2 1 2 亟需服务治理  28
2 2 业界分布式服务框架介绍 29
2 2 1 阿里Dubbo 30
2 2 2 淘宝HSF  33
2 2 3 亚马逊Coral Service  35
2 3 分布式服务框架设计  36
2 3 1 架构原理  36
2 3 2 功能特性  37
2 3 3 性能特性  39
2 3 4 可靠性  39
2 3 5 服务治理  40
2 4 总结 41
第3 章通信框架  42
3 1 关键技术点分析 43
3 1 1 长连接还是短连接 43
3 1 2 BIO 还是NIO  43
3 1 3 自研还是选择开源NIO 框架 46
3 2 功能设计 47
3 2 1 服务端设计 48
3 2 2 客户端设计 50
3 3 可靠性设计  53
3 3 1 链路有效性检测 54
3 3 2 断连重连机制 56
3 3 3 消息缓存重发 57
3 3 4 资源优雅释放  58
3 4 性能设计  59
3 4 1 性能差的三宗罪  59
3 4 2 通信性能三原则 60
3 4 3 高性能之道 61
3 5 最佳实践  61
3 6 总结 64
第4 章序列化与反序列化 65
4 1 几个关键概念澄清  66
4 1 1 序列化与通信框架的关系 66
4 1 2 序列化与通信协议的关系 66
4 1 3 是否需要支持多种序列化方式  67
4 2 功能设计 67
4 2 1 功能丰富度 67
4 2 2 跨语言支持 68
4 2 3 兼容性  69
4 2 4 性能  70
4 3 扩展性设计  71
4 3 1 内置的序列化/反序列化功能类 71
4 3 2 反序列化扩展  72
4 3 3 序列化扩展 75
4 4 最佳实践 77
4 4 1 接口的前向兼容性规范 77
4 4 2 高并发下的稳定性 78
4 5 总结 78
第5 章协议栈 79
5 1 关键技术点分析 80
5 1 1 是否必须支持多协议  80
5 1 2 公有协议还是私有协议 80
5 1 3 集成开源还是自研 81
5 2 功能设计 82
5 2 1 功能描述  82
5 2 2 通信模型  82
5 2 3 协议消息定义  84
5 2 4 协议栈消息序列化支持的字段类型  85
5 2 5 协议消息的序列化和反序列化  86
5 2 6 链路创建  89
5 2 7 链路关闭  90
5 3 可靠性设计  90
5 3 1 客户端连接超时 90
5 3 2 客户端重连机制 91
5 3 3 客户端重复握手保护  91
5 3 4 消息缓存重发  92
5 3 5 心跳机制  92
5 4 安全性设计  92
5 5 最佳实践—协议的前向兼容性 94
5 6 总结 95
第6 章服务路由  96
6 1 透明化路由  97
6 1 1 基于服务注册中心的订阅发布  97
6 1 2 消费者缓存服务提供者地址 98
6 2 负载均衡 98
6 2 1 随机  98
6 2 2 轮循  99
6 2 3 服务调用时延  99
6 2 4 一致性哈希 100
6 2 5 粘滞连接  101
6 3 本地路由优先策略 102
6 3 1 injvm 模式 102
6 3 2 innative 模式 102
6 4 路由规则  103
6 4 1 条件路由规则 103
6 4 2 脚本路由规则 104
6 5 路由策略定制 105
6 6 配置化路由 106
6 7 最佳实践—多机房路由 107
6 8 总结  108
第７章集群容错  109
7 1 集群容错场景 110
7 1 1 通信链路故障 110
7 1 2 服务端超时  111
7 1 3 服务端调用失败 111
7 2 容错策略  112
7 2 1 失败自动切换（Failover）  112
7 2 2 失败通知（Failback） 113
7 2 3 失败缓存（Failcache）  113
7 2 4 快速失败（Failfast） 114
7 2 5 容错策略扩展 114
7 3 总结  115
第8 章服务调用  116
8 1 几个误区  117
8 1 1 NIO 就是异步服务  117
8 1 2 服务调用天生就是同步的  118
8 1 3 异步服务调用性能更高  120
8 2 服务调用方式 120
8 2 1 同步服务调用 120
8 2 2 异步服务调用 121
8 2 3 并行服务调用 125
8 2 4 泛化调用  129
8 3 最佳实践  130
8 4 总结  131
第９章服务注册中心 132
9 1 几个概念  133
9 1 1 服务提供者  133
9 1 2 服务消费者  133
9 1 3 服务注册中心 133
9 2 关键功能特性设计 134
9 2 1 支持对等集群 135
9 2 2 提供CRUD 接口 136
9 2 3 安全加固  136
9 2 4 订阅发布机制 137
9 2 5 可靠性 138
9 3 基于ZooKeeper 的服务注册中心设计  139
9 3 1 服务订阅发布流程设计  139
9 3 2 服务健康状态检测  141
9 3 3 对等集群防止单点故障  142
9 3 4 变更通知机制 144
9 4 总结  144
第10 章服务发布和引用 145
10 1 服务发布设计 146
10 1 1 服务发布的几种方式 146
10 1 2 本地实现类封装成代理  148
10 1 3 服务发布成指定协议 148
10 1 4 服务提供者信息注册 149
10 2 服务引用设计 150
10 2 1 本地接口调用转换成远程服务调用 150
10 2 2 服务地址本地缓存  151
10 2 3 远程服务调用  151
10 3 最佳实践  152
10 3 1 对等设计原则  152
10 3 2 启动顺序问题  153
10 3 3 同步还是异步发布服务  153
10 3 4 警惕网络风暴  154
10 3 5 配置扩展 154
10 4 总结 156
第11 章服务灰度发布  157
11 1 服务灰度发布流程设计  158
11 1 1 灰度环境准备  158
11 1 2 灰度规则设置  159
11 1 3 灰度规则下发  160
11 1 4 灰度路由 161
11 1 5 失败回滚 162
11 1 6 灰度发布总结  163
11 2 总结  163
第12 章参数传递 164
12 1 内部传参  165
12 1 1 业务内部参数传递  165
12 1 2 服务框架内部参数传递  168
12 2 外部传参  169
12 2 1 通信协议支持  169
12 2 2 传参接口定义  170
12 3 最佳实践  171
12 3 1 防止参数互相覆盖  171
12 3 2 参数生命周期管理  171
12 4 总结 172
第13 章服务多版本  173
13 1 服务多版本管理设计  174
13 1 1 服务版本号管理  174
13 1 2 服务提供者 175
13 1 3 服务消费者 175
13 1 4 基于版本号的服务路由  176
13 1 5 服务热升级 177
13 2 与OSGi 的对比  178
13 2 1 模块化开发 179
13 2 2 插件热部署和热升级 184
13 2 3 不使用OSGi 的其他理由  185
13 3 总结 185
第14 章流量控制 186
14 1 静态流控  187
14 1 1 传统静态流控设计方案  187
14 1 2 传统方案的缺点  188
14 1 3 动态配额分配制  188
14 1 4 动态配额申请制  190
14 2 动态流控  191
14 2 1 动态流控因子  192
14 2 2 分级流控 192
14 3 并发控制  193
14 3 1 服务端全局控制  193
14 3 2 服务消费者流控  194
14 4 连接控制  195
14 4 1 服务端连接数流控  195
14 4 2 服务消费者连接数流控  195
14 5 并发和连接控制算法  195
14 6 总结 197
第15 章服务降级 198
15 1 屏蔽降级  199
15 1 1 屏蔽降级的流程  199
15 1 2 屏蔽降级的设计实现 200
15 2 容错降级  202
15 2 1 容错降级的工作原理 202
15 2 2 运行时容错降级  204
15 3 业务层降级 205
15 4 总结 205
第16 章服务优先级调度 207
16 1 设置服务优先级 208
16 2 线程调度器方案 209
16 3 Java 优先级队列 210
16 4 加权优先级队列 211
16 5 服务迁入迁出 212
16 6 总结 213
第17 章服务治理 214
17 1 服务治理技术的历史变迁 215
17 1 1 SOA Governance  215
17 1 2 分布式服务框架服务治理 217
17 1 3 AWS 云端微服务治理  217
17 2 应用服务化后面临的挑战 218
17 2 1 跨团队协作问题  219
17 2 2 服务的上下线管控  220
17 2 3 服务安全 220
17 2 4 服务SLA 保障  221
17 2 5 故障快速定界定位  221
17 3 服务治理  222
17 3 1 服务治理架构设计  223
17 3 2 运行态服务治理功能设计 225
17 3 3 线下服务治理  232
17 3 4 安全和权限管理  234
17 4 总结 237
第18 章分布式消息跟踪 239
18 1 业务场景分析 240
18 1 1 故障的快速定界定位 240
18 1 2 调用路径分析  241
18 1 3 调用来源和去向分析 242
18 2 分布式消息跟踪系统设计 242
18 2 1 系统架构 243
18 2 2 埋点日志 244
18 2 3 采样率 247
18 2 4 采集和存储埋点日志 248
18 2 5 计算和展示 249
18 2 6 调用链扩展 251
18 3 总结 251
第19 章可靠性设计  253
19 1 服务状态检测 254
19 1 1 基于服务注册中心状态检测 254
19 1 2 链路有效性状态检测机制 255
19 2 服务健康度检测 256
19 3 服务故障隔离 257
19 3 1 进程级故障隔离  257
19 3 2 VM 级故障隔离 259
19 3 3 物理机故障隔离  260
19 3 4 机房故障隔离  261
19 4 其他可靠性特性 262
19 4 1 服务注册中心  262
19 4 2 监控中心 262
19 4 3 服务提供者 262
19 5 总结 263
第20 章微服务架构  264
20 1 微服务架构产生的历史背景 265
20 1 1 研发成本挑战  265
20 1 2 运维成本高 267
20 1 3 新需求上线周期长  268
20 2 微服务架构带来的改变  268
20 2 1 应用解耦 268
20 2 2 分而治之 270
20 2 3 敏捷交付 271
20 3 微服务架构解析 271
20 3 1 微服务划分原则  272
20 3 2 开发微服务 272
20 3 3 基于Docker 容器部署微服务  274
20 3 4 治理和运维微服务  277
20 3 5 特点总结 278
20 4 总结 279
第21 章服务化最佳实践 280
21 1 性能和时延问题 281
21 1 1 RPC 框架高性能设计 281
21 1 2 业务最佳实践  285
21 2 事务一致性问题 286
21 2 1 分布式事务设计方案 287
21 2 2 分布式事务优化  288
21 3 研发团队协作问题 289
21 3 1 共用服务注册中心  290
21 3 2 直连提供者 290
21 3 3 多团队进度协同  291
21 3 4 服务降级和Mock 测试 291
21 3 5 协同调试问题  292
21 3 6 接口前向兼容性  292
21 4 总结 292