本书介绍了 PostgreSQL 内部的工作原理，包括数据库对象的逻辑组织与物理实现，进程与内存的架构。并依次剖析了几个重要的子系统：查询处理、外部数据包装器、并发控制、清理过程、缓冲 区管理、WAL、备份及流复制。本书为 DBA 与系统开发者提供了一幅全景概念地图，有助于读者形 成对数据库实现的整体认识，亦可作为深入学习 PostgreSQL 源代码的导读手册，对于理解数据库原 理与 PostgreSQL 内部实现大有裨益。 本书适合数据库开发人员及相关领域的研究人员、数据库 DBA 及高等院校相关专业的学生阅读。

推荐序 PostgreSQL已获得DB-Engines排行榜2017年和2018年的“年度数据库”称号，发展速度迅猛，PostgreSQL被广泛应用的主要原因在于PostgreSQL和Oracle一样，特别适合于非常复杂的企业应用场景，代替Oracle的位置。同时PostgreSQL的开源协议允许用户非常友好地应用在自用业务、对外商用业务中，没有法律风险，也不要求用户开源等。 很多大型企业应用PostgreSQL也有数年，例如阿里巴巴、邮储、平安、中兴、苏宁、亚信、探探等，长期的PostgreSQL数据库应用使得公司内部的数据库团队在PostgreSQL的管理、开发、内核等各方面的经验、人才都得到了大量的积累。 文升是我多年的好友，同时也是PostgreSQL核心组成员，为PostgreSQL中文技术社区做出了巨大的贡献。 2019年，张文升及其技术团队又要出书了，这次带来的是《The Internals of PostgreSQL for Database Administrators and System Developers》一书的中文翻译书籍，作者为日本PostgreSQL数据库专家Suzuki，对数据库的集群、架构、SQL处理、外部表接口、并发控制、垃圾回收、HOT、堆表、索引存储结构、WAL日志、时间点恢复、流复制等原理进行了深入浅出的讲解，对期望了解PG内部原理的开发者、管理员、架构师来说，无疑是一本非常好的入门书籍。 感谢译者对PostgreSQL社区的付出，期待这本图书的出版。 德哥 2019年3月 译者序 相信选择这本书的读者，大多已经对PostgreSQL有所了解。本书从PostgreSQL的整体架构展开，依次介绍了各个功能模块的来龙去脉，方便DBA（数据库管理员）与数据库系统开发人员了解数据库内部原理、阅读学习PostgreSQL源码。 数据库是信息系统的核心组件，关系型数据库则是数据库皇冠上的明珠，而PostgreSQL的头衔是“世界上最先进的开源关系型数据库”。PostgreSQL在各行各业的各种场景下都有着广泛应用。但是会用只是“知其然”，知道背后的原理才能“知其所以然”。理解数据库原理及其具体实现，能让架构师以最小复杂度的代价实现所需的功能，让程序员以最小复杂度的代价写出更加高效可靠的代码，让DBA在遇到“疑难杂症”时拥有精准的直觉与深刻的洞察。 数据库是一个博大精深的领域，存储、I/O、计算，无所不包。PostgreSQL可以视作关系型数据库实现的典范，用100万行不到的C代码实现了功能如此丰富的软件系统，非常凝练。它的每一个功能模块都值得用一本甚至几本书的篇幅去介绍。本书虽限于篇幅而无法一一深入所有细节，但它为读者进一步深入理解PostgreSQL提供了一幅全局的概念地图。读者完全可以顺着各个章节的线索，以点破面，深入挖掘源码背后的设计思路。 我们偶然发现了本书的英文版本，读完之后感觉受益匪浅。看到这么好的书没有中文译本，实在是遗憾，遂萌生了翻译的念头。译者不才，愿为PostgreSQL在中国的发展贡献一份力量，但鉴于水平有限，翻译如有疏漏，还望读者海涵。 作者序 中国的PostgreSQL用户们： 你们好！ 本书详细解释了PostgreSQL的内部工作细节，目标读者为DBA与系统开发人员。理解数据库内部机制很有挑战，愿本书能在你们精通PostgreSQL的道路上有所助益。 本书能出中文版，我真的感到非常高兴，我这样认为是有原因的。 首先，这是我写的书中第一本被翻译的。当自己的书出版时，心情愉悦自不必说，而自己的作品能被翻译出版，更是一件非常令人激动的事情。 其次，我收到了来自世界各地的电子邮件，请求将这本书翻译成各种语言。实际上，至少有一半的邮件来自中国。许多邮件提及“这本书对中国PostgreSQL用户而言很有帮助”，因此，我很高兴终于能对他们的要求做出回应。 而最重要的原因与我的家族史有关。先父曾在中国的哈尔滨市住过几年，此后他回到日本，我出生了。他患心脏病很长时间，因此在我的印象中，他的心情总是不好，除了提到一件事时。 当我还是孩子的时候，每晚睡觉前父亲都会给我和妹妹讲他在中国的经历。在讲这些经历时，他总是显得非常高兴，经常说中国人民帮助了他。 他的故事给我留下了深刻的印象，当然也影响了我的人生。因为这些故事，我从小就对这个世界和未知的事物有强烈的好奇心，而我的好奇心也引领我走入软件工程领域。现在，我已经在中国出版了第一本书。简而言之，这是一个关于在日本家庭与中国之间传递爱的故事。 我很高兴终于可以回报中国人民了。当然，这本书只是一份很小的礼物，然而我想充满感激之情地将它献给您。 2017年，我有幸访问中国，亲眼目睹了中国令人惊叹的发展。对我而言，这是一次非常难忘的经历。我希望能再去中国，如果有机会，我还想在中国工作。 无论如何，让我们享受PostgreSQL吧！ 铃木启修 2018年11月

第1章 数据库集簇、数据库和数据表 1 1.1　数据库集簇的逻辑结构 1 1.2　数据库集簇的物理结构 2 1.2.1　数据库集簇的布局 3 1.2.2　数据库布局 4 1.2.3　表和索引相关文件的布局 5 1.2.4　PostgreSQL中表空间的布局 7 1.3　堆表文件的内部布局 8 1.4　读写元组的方式 11 1.4.1　写入堆元组 11 1.4.2　读取堆元组 12 第2章 进程和内存架构 14 2.1　进程架构 14 2.1.1　Postgres服务器进程 15 2.1.2　后端进程 15 2.1.3　后台进程 16 2.2　内存架构 17 2.2.1　本地内存区域 17 2.2.2　共享内存区域 18 第3章 查询处理 19 3.1　概览 20 3.1.1　解析器 20 3.1.2　分析器 22 3.1.3　重写器 24 3.1.4　计划器与执行器 25 3.2　单表查询的代价估计 27 3.2.1　顺序扫描 28 3.2.2　索引扫描 29 3.2.3　排序 36 3.3　创建单表查询的计划树 38 3.3.1　预处理 41 3.3.2　找出代价最小的访问路径 42 3.3.3　创建计划树 51 3.4　执行器如何工作 55 3.5　连接 57 3.5.1　嵌套循环连接 57 3.5.2　归并连接 63 3.5.3　散列连接 67 3.5.4　连接访问路径与连接节点 73 3.6　创建多表查询计划树 76 3.6.1　预处理 76 3.6.2　获取代价最小的路径 77 3.6.3　获取三表查询代价最小的路径 81 参考文献 83 第4章 外部数据包装器 84 4.1　概述 85 4.1.1　创建一棵查询树 86 4.1.2　连接至远程服务器 86 4.1.3　使用EXPLAIN命令创建计划树（可选） 87 4.1.4　逆解析 87 4.1.5　发送SQL命令并接收结果 88 4.2　POSTGRES_FDW的工作原理 90 4.2.1　多表查询 91 4.2.2　排序操作 97 4.2.3　聚合函数 98 第5章 并发控制 101 5.1　事务标识 103 5.2　元组结构 104 5.3　元组的增、删、改 106 5.3.1　插入 106 5.3.2　删除 107 5.3.3　更新 108 5.3.4　空闲空间映射 109 5.4　提交日志 110 5.4.1　事务状态 110 5.4.2　提交日志如何工作 110 5.4.3　提交日志的维护 111 5.5　事务快照 111 5.6　可见性检查规则 114 5.6.1　t_xmin的状态为ABORTED 115 5.6.2　t_xmin的状态为IN_PROGRESS 115 5.6.3　t_xmin的状态为COMMITTED 116 5.7　可见性检查 118 5.7.1　可见性检查的过程 118 5.7.2　PostgreSQL可重复读等级中的幻读 122 5.8　防止丢失更新 122 5.8.1　并发UPDATE命令的行为 123 5.8.2　例子 125 5.9　可串行化快照隔离 127 5.9.1　SSI实现的基本策略 127 5.9.2　PostgreSQL的SSI实现 128 5.9.3　SSI的原理 129 5.9.4　假阳性的串行化异常 132 5.10　需要的维护进程 134 参考文献 136 第6章 清理过程 137 6.1　并发清理概述 138 6.1.1　第一部分 139 6.1.2　第二部分 140 6.1.3　第三部分 140 6.1.4　后续处理 141 6.2　可见性映射 141 6.3　冻结过程 142 6.3.1　惰性模式 142 6.3.2　迫切模式 143 6.3.3　改进迫切模式中的冻结过程 146 6.4　移除不必要的CLOG文件 147 6.5　自动清理守护进程 148 6.6　完整清理 148 第7章 堆内元组和仅索引扫描 153 7.1　堆内元组 153 7.1.1　没有HOT时的行更新 153 7.1.2　HOT如何工作 154 7.2　仅索引扫描 157 第8章 缓冲区管理器 160 8.1　概览 161 8.2　缓冲区管理器的结构 163 8.2.1　缓冲表 164 8.2.2　缓冲区描述符 165 8.2.3　缓冲区描述符层 167 8.2.4　缓冲池 169 8.3　缓冲区管理器锁 169 8.3.1　缓冲表锁 170 8.3.2　缓冲区描述符相关的锁 170 8.4　缓冲区管理器的工作原理 174 8.4.1　访问存储在缓冲池中的页面 174 8.4.2　将页面从存储加载到空槽 175 8.4.3　将页面从存储加载到受害者缓冲池槽 176 8.4.4　页面替换算法：时钟扫描 178 8.5　环形缓冲区 180 8.6　脏页刷盘 181 第9章 WAL 182 9.1　概述 183 9.1.1　没有WAL的插入操作 183 9.1.2　插入操作与数据库恢复 184 9.1.3　整页写入 186 9.2　事务日志与WAL段文件 188 9.3　WAL段文件的内部布局 190 9.4　WAL记录的内部布局 191 9.4.1　WAL记录首部部分 191 9.4.2　XLOG记录的数据部分（9.4及更低版本） 193 9.4.3　XLOG记录的数据部分（9.5及更高版本） 196 9.5　WAL记录的写入 200 9.6　WAL写入进程 203 9.7　POSTGRESQL中的检查点进程 203 9.7.1　检查点进程概述 204 9.7.2　pg_crontrol文件 205 9.8　POSTGRESQL中的数据库恢复 206 9.9　WAL段文件管理 209 9.9.1　WAL段切换 209 9.9.2　WAL段管理（9.5及更高版本） 209 9.9.3　WAL段管理（9.4及更低版本） 211 9.10　持续归档与归档日志 212 第10章 基础备份与时间点恢复 214 10.1　基础备份 215 10.1.1　pg_start_backup 215 10.1.2　pg_stop_backup 217 10.2　时间点恢复（PITR）的工作原理 217 10.3　时间线与时间线历史文件 220 10.3.1　时间线标识 220 10.3.2　时间线历史文件 221 10.4　时间点恢复与时间线历史文件 222 第11章 流复制 224 11.1　流复制的启动 225 11.2　如何实施流复制 227 11.2.1　主从间的通信 227 11.2.2　发生故障时的行为 229 11.3　管理多个备库 229 11.3.1　同步优先级与同步状态 229 11.3.2　主库如何管理多个备库 230 11.3.3　发生故障时的行为 231 11.4　备库的故障检测 232