通过MySQL复制线程SQL_Thread加快增量恢复binlog

共计 4189 个字符，预计需要花费 11 分钟才能阅读完成。

数据回档常常是使用全量备份 +binlog 增量实现的。而数据量很大的情况下，增量恢复 binlog 一直是一个苦恼的问题，因为恢复 binlog 速度十分慢，并且容易出错。

恢复 binlog 文件一般有两种方法：

〇 先解析成 sql 文件，再导入 MySQL

〇 直接管道到 MySQL 中

关于这种方式的更多 info，可以参考：
https://dev.mysql.com/doc/refman/5.7/en/point-in-time-recovery.html

然而这两种方式原理都是一样的，通过 mysqlbinlog 解析成 sql 并导入到 MySQL 中。

〇 优点：
    操作方便，逻辑简单。
    无需关闭 mysqld。

〇 缺点：
    遇到 ERROR 难以定位位置，难以“断点恢复”。
    特殊字符或字符集的问题。
    max_allowed_packet 问题。
    恢复速度慢。
   

因为 relaylog 和 binlog 本质实际上是一样的，所以是否可以利用 MySQL 自身的 sql_thread 来增量 binlog 呢？

〇 处理思路：
    1）重新初始化一个实例，恢复全量备份文件。
    2）找到第一个 binlog 文件的 position，和剩下所有的 binlog。
    3）将 binlog 伪装成 relaylog，通过 sql thread 增量恢复。

这里只介绍核心部分，即伪装成 relaylog 的过程。

① 将 relay log info 的 repository 改到 file 中，并生成这个文件。

通过 change 命令，是为了告诉 MySQL 自己为一个 slave 实例，因为无需用到 IO_Thread，故 host，password，user 等可以随意填写。
并且通过该步骤，生成 relay.info 文件。

② 关闭实例，将需要增量的 binlog 文件伪装成 relaylog。

通过 cp 命令将 binlog 移动到 $relaylogdir 里，该变量取决于实例的选项参数，默认放在 datadir 下。
再将 binlog 批量改名成 relaylog，并且给予对应的权限，否则会报错 OS error code  13:  Permission denied。

③ 修改 relay.info 文件和 relay-log.index 文件
将 relay.info 的第二三行改成需要执行的第一个 binlog（现在是 relaylog）的文件名和 position：

第二三行对应 Relay_log_name 和 Relay_log_pos，等同于：
mysqlbinlog mysql-relay.000003 –start-position=1276895 | mysql -u -p -S
修改该文件是为了告诉 SQL_Thread 从哪一个文件和哪一个 position 开 始执行事务

再修改 relay-log.index，清空原有信息，添加以下信息，为的是告诉 SQL_Thread 还有哪些relaylog 是需要执行的。

④ 启动实例，开启 SQL_Thread：

只需要开启 SQL_Thread 即可

⑤ 检查复制状态：

该测试使用的版本为：MySQL 5.7.16

场景 ：可用于 恢复 将 innodb_force_recovery 设置为 6 仍然无法启动实例等 case
效果 ：恢复 全备文件 +binlog 恢复到故障前的最后一个 position。

其他场景也适用，比如在某一时刻执行了错误的 sql，如 truncate 等操作，同样也可以通过该办法。
只需要将 START SLAVE sql_thread 后添加一个 UNTIL RELAY_LOG_FILE = ‘log_name’, RELAY_LOG_POS = log_pos 即可。
该选项用于控制 SQL_Thread 执行到的最后的 position，类似于 mysqlbinlog mysql-bin.n –stop-position=$log_pos。

除了更准确的能够恢复错误之外，还有一个最大的好处是加快了 binlog增量的速度。

补充一个额外的测试数据
对于 同一组 binlog 文件增量 ：
通过 mysqlbinlog 解析 + 导入的时间为 69min。
而通过 SQL_Thread 的执行时间为 41min。

并且 在需要增量的binlog 文件越大的情况下，效果越明显。

〇 优点：
    可以断点恢复，人为控制进度，比如 stop slave 或者遇到错误时，可以断点恢复。
    性能好，在大量 binlog 的情况下，可以 加快恢复速度。
    在某些版本可以利用多线程复制来加快增量速度，时恢复更快。

〇 缺点：
    需要关闭 mysqld。
    手动执行过程较 mysqlbinlog 方式更为复杂。

〇 总结：
mysqlbinlog –start-position 与 通过修改 relay.info 的第三行等效：
用途都是指定开始执行的第一个 position。

mysqlbinlog –stop-position 与 通过在启动 S QL_Thread 时指定 UNTIL RELAY_LOG_FILE = ‘log_name’, RELAY_LOG_POS = log_pos 等效：
用途都是指定结束执行的最后一个 position。

本文永久更新链接地址：http://www.linuxidc.com/Linux/2017-09/146648.htm