合 《PostgreSQL技术内幕——原理探索》第十章 基础备份与时间点恢复
Tags: PGPostgreSQL翻译《PostgreSQL技术内幕——原理探索》PITR
在线数据库备份大致可分为两类:逻辑备份和物理备份。它们有着各自的优点和缺点。尽管各有优劣,但逻辑备份有一个缺点:执行需要花费太多时间。特别是对于大型数据库而言,需要花费很长时间进行备份,而从备份数据中恢复数据库可能需要更长的时间。相反的是,物理备份可以在相对较短的时间内备份和恢复大型数据库,因此在实际系统中,它是一个非常重要而实用的功能。
在PostgreSQL中,自8.0版本开始提供在线的全量物理备份,整个数据库集簇(即物理备份数据)的运行时快照称为基础备份(base backup)。
PostgreSQL还在8.0版中引入了时间点恢复(Point-In-Time Recovery, PITR)。这一功能可以将数据库恢复至任意时间点,这是通过使用一个基础备份和由持续归档生成的归档日志来实现的。例如,即使你犯了一个严重的错误(例如TRUNCATE
所有的表),此功能使您可以将数据库恢复至错误发生之前的时刻。
本章描述了以下主题:
- 什么是基础备份
- PITR的工作原理
- 时间线标识(TimelineID)是什么
- 时间线历史文件是什么
在7.4或更早版本中,PostgreSQL仅支持逻辑备份(全量逻辑备份、部分逻辑备份,数据导出)。
10.1 基础备份
首先,使用底层命令进行基本备份的标准过程如下所示:
- 发出
pg_start_backup
命令 - 使用你想用的归档命令获取数据库集簇的快照
- 发出
pg_stop_backup
命令
这个简单的过程对于DBA来说很容易操作,因为它不需要特殊工具,只需要常用工具(如复制命令或类似的归档工具)来创建基本备份。此外,在此过程中,不需要获取表上的锁,所有用户都可以在不受备份操作影响的情况下发起查询。相对于其他开源关系型数据库,这是一个巨大的优势。
更简单的方式是使用pg_basebackup
命令来做基础备份,不过在它内部也是使用这些底层命令来工作的。
图10.1 制作基础备份
由于这些命令对显然是理解PITR的关键点之一,我们将在以下小节中探讨它们。
pg_start_backup
和pg_stop_backup
命令定义在:src/backend/access/transam/xlogfuncs.c
。
10.1.1 pg_start_backup
pg_start_backup
开始为制作基础备份进行准备工作。如第9.8节所述,恢复过程从重做点开始,因此pg_start_backup
必须执行检查点,以便在制作基础备份的开始时刻显式创建一个重做点。此外,这次检查点的检查点位置必须保存在不同于pg_control
的其他文件中,因为在备份期间可能会进行多次常规检查点。因此pg_start_backup
执行下列四个操作:
- 强制进入整页写入模式。
- 切换到当前的WAL段文件(8.4或更高版本)。
- 执行检查点。
- 创建
backup_label
文件 —— 该文件创建于基本目录顶层中,包含有关该基本备份本身的关键信息,例如检查点的检查点位置。
第三和第四个操作是该命令的核心。第一和第二个操作是为了更可靠地恢复数据库集簇。
备份标签backup_label
文件包含以下六个项目(11或更新版本为七个项目):
- 检查点位置(
CHECKPOINT LOCATION
) —— 该命令所创建检查点的LSN位置。 - WAL开始位置(
START WAL LOCATION
) —— 这不是给PITR用的,而是为第11章描述的流复制准备的。它被命名为START WAL LOCATION
,因为复制模式下的备用服务器在初始启动时只读取一次该值。 - 备份方法(
BACKUP METHOD
) —— 这是用于进行此基本备份的方法。 (pg_start_backup
或pg_basebackup
) - 备份来源(
BACKUP FROM
) —— 说明此备份是从主库还是备库拉取。 - 开始时间(
START TIME
)—— 这是执行pg_start_backup
时的时间戳。 - 备份标签(
LABEL
) —— 这是pg_start_backup
中指定的标签。 - 开始时间线(
START TIMELINE
) —— 这是备份开始的时间线。这是为了进行正常性检查,在版本11中被引入。
备份标签
一个9.6版本中备份标签的实际例子如下所示:
1234567 postgres> cat /usr/local/pgsql/data/backup_labelSTART WAL LOCATION: 0/9000028 (file 000000010000000000000009)CHECKPOINT LOCATION: 0/9000060BACKUP METHOD: pg_start_backupBACKUP FROM: masterSTART TIME: 2018-7-9 11:45:19 GMTLABEL: Weekly Backup
可以想象,当使用此基础备份恢复数据库时,PostgreSQL从backup_label
文件中取出检查点位置CHECKPOINT LOCATION
,然后从归档日志中的合适位置读取检查点记录,然后从检查点记录中获取重做点的位置,最后从重做点开始进行恢复过程(下一节将介绍细节)。
10.1.2 pg_stop_backup
pg_stop_backup
执行以下五个操作以完成备份。
- 如果
pg_start_backup
打开了整页写入,那么关闭整页写入。 - 写入一条备份结束的XLOG记录。
- 切换WAL段文件。
- 创建一个备份历史记录文件 —— 此文件包含
backup_label
文件的内容,以及已执行pg_stop_backup
的时间戳。 - 删除
backup_label
文件 —— 从基础备份恢复需要backup_label
文件,不过一旦被复制,原始的数据库集簇中就不需要它了。
备份历史文件的命名方法如下所示:
1 {WAL段文件名}.{基础备份开始时的偏移量}.backup
10.2 时间点恢复(PITR)的工作原理
图10.2展示了PITR的基本概念。 PITR模式下的PostgreSQL会在基础备份上重放归档日志中的WAL数据,从pg_start_backup
创建的重做点开始,恢复至你想要的位置为止。在PostgreSQL中,要恢复到的位置,被称为恢复目标(recovery target)。
图10.2 PITR的基本概念
PITR是这样工作的。假设你在GMT时间2018-07-16 12:05:00
搞出了错误。那你应该删掉当前的数据库集簇,并使用之前制作的基础备份恢复一个新的出来。然后,创建一个recovery.conf
文件,并在其中将参数recovery_target_time
参数配置为你犯错误的时间点(在本例中,也就是12:05 GMT) 。recovery.conf
文件如下所示:
1 2 3 | # Place archive logs under /mnt/server/archivedir directory. restore_command = 'cp /mnt/server/archivedir/%f %p' recovery_target_time = "2018-7-16 12:05 GMT" |
当PostgreSQL启动的时候,如果数据库集簇中存在recovery.conf
和backup_label
文件,它就会进入恢复模式。
PITR过程几乎与第九章中描述的常规恢复过程一模一样,唯一的区别只有以下两点:
- 从哪里读取WAL段/归档日志?
- 正常恢复模式 —— 来自基础目录下的
pg_xlog
子目录(10或更新版本,pg_wal
子目录)。 - PITR模式 —— 来自配置参数
archive_command
中设置的归档目录。
- 正常恢复模式 —— 来自基础目录下的
- 从哪里读取检查点位置?
- 正常恢复模式 —— 来自
pg_control
文件。 - PITR模式 —— 来自
backup_label
文件。
- 正常恢复模式 —— 来自
PITR流程概述如下:
为了找到重做点,PostgreSQL使用内部函数
read_backup_label
从backup_label
文件中读取CHECKPOINT LOCATION
的值。PostgreSQL从
recovery.conf
中读取一些参数值;在此示例中为restore_command
和recovery_target_time
。PostgreSQL开始从重做点重放WAL数据,重做点的位置可以简单地从
CHECKPOINT LOCATION
的值中获得。 PostgreSQL执行参数restore_command
中配置的命令,将归档日志从归档区域拷贝到临时区域,并从中读取WAL数据(复制到临时区域中的日志文件会在使用后删除)。在本例中,PostgreSQL从重做点读取并重放WAL数据,直到时间戳
2018-7-16 12:05:00
为止,因为参数recovery_target_time
被设置为该时间戳。如果recovery.conf
中没有配置恢复目标,则PostgreSQL将重放至归档日志的末尾。当恢复过程完成时,会在
pg_xlog
子目录(10或更高版本为pg_wal
子目录)中创建时间线历史文件,例如00000002.history
;如果启用了日志归档功能,则还会在归档目录中创建相同的命名文件。以下各节介绍了此文件的内容和作用。
提交和中止操作的记录包含每个操作完成时的时间戳(两个操作的XLOG数据部分分别在xl_xact_commit
和xl_xact_abort
中定义)。因此,如果将目标时间设置为参数recovery_target_time
,只要PostgreSQL重放提交或中止操作的XLOG记录,它可以选择是否继续恢复。当重放每个动作的XLOG记录时,PostgreSQL会比较目标时间和记录中写入的每个时间戳;如果时间戳超过目标时间,PITR过程将完成。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 | typedef struct xl_xact_commit { TimestampTz xact_time; /* 提交时间 */ uint32 xinfo; /* 信息标记位 */ int nrels; /* RelFileNodes的数量 */ int nsubxacts; /* 子事务XIDs的数量 */ int nmsgs; /* 共享失效消息的数量 */ Oid dbId; /* MyDatabaseId, 数据库Oid */ Oid tsId; /* MyDatabaseTableSpace, 表空间Oid */ /* 在提交时需要丢弃的RelFileNode(s)数组 */ RelFileNode xnodes[1]; /* 变长数组 */ /* 紧接着已提交的子事务XIDs数组 */ /* 紧接着共享失效消息的数组 */ } xl_xact_commit; typedef struct xl_xact_abort { TimestampTz xact_time; /* 中止时间 */ int nrels; /* RelFileNodes的数量 */ int nsubxacts; /* 子事务XIDs的数量 */ /* 在中止时需要丢弃的RelFileNode(s)数组 */ RelFileNode xnodes[1]; /* 变长数组 */ /* 紧接着已提交的子事务XIDs数组 */ } xl_xact_abort; |
函数
read_backup_label
定义于src/backend/access/transam/xlog.c
中。 结构xl_xact_commit
和xl_xact_abort
定义于src/backend/access/transam/xlog.c
。本人提供Oracle(OCP、OCM)、MySQL(OCP)、PostgreSQL(PGCA、PGCE、PGCM)等数据库的培训和考证业务,私聊QQ646634621或微信dbaup66,谢谢!