关于IT运维技术的
最佳实践博客网站

使用innobackupex进行mysql数据库备份

大数据量备份与还原,始终是个难点。当MYSQL超10G,用mysqldump来导出就比较慢了。在这里推荐xtrabackup,这个工具比mysqldump要快很多。

一、Xtrabackup介绍

1、Xtrabackup是什么

Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。

Xtrabackup有两个主要的工具:xtrabackup、innobackupex

  1. xtrabackup只能备份InnoDB和XtraDB两种数据表,而不能备份MyISAM数据表
  2. innobackupex是参考了InnoDB Hotbackup的innoback脚本修改而来的.innobackupex是一个perl脚本封装,封装了xtrabackup。

主要是为了方便的同时备份InnoDB和MyISAM引擎的表,但在处理myisam时需要加一个读锁。并且加入了一些使用的选项。如slave-info可以记录备份恢复后,作为slave需要的一些信息,根据这些信息,可以很方便的利用备份来重做slave。

2、Xtrabackup可以做什么 :

  • 在线(热)备份整个库的InnoDB、 XtraDB表
  • 在xtrabackup的上一次整库备份基础上做增量备份(innodb only)以流的形式产生备份,可以直接保存到远程机器上(本机硬盘空间不足时很有用)

MySQL数据库本身提供的工具并不支持真正的增量备份,二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。

Xtrabackup工具支持对InnoDB存储引擎的增量备份,工作原理如下:

  1. 首先完成一个完全备份,并记录下此时检查点的LSN(Log Sequence Number)。
  2. 在进程增量备份时,比较表空间中每个页的LSN是否大于上次备份时的LSN,如果是,则备份该页,同时记录当前检查点的LSN。
  • 首先,在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”);
  • 然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile;
  • 接着,开始拷贝全部的数据文件.ibd;
  • 在拷贝全部数据文件结束之后,才停止拷贝logfile。

因为logfile里面记录全部的数据修改情况,所以,即时在备份过程中数据文件被修改过了,恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。

因为innobackupex支持innodb,myisam,所以本文说一下,怎么使用innobackupex。

二、在 Debian 和 Ubuntu 上安装 Percona XtraBackup

1、从Percona官方的APT库安装 Percona XtraBackup

wget https://repo.percona.com/apt/percona-release_0.1-3.$(lsb_release -sc)_all.deb

2、安装pdkg包可能需要root权限或者使用sudo。

sudo dpkg -i percona-release_0.1-3.$(lsb_release -sc)_all.deb

此时会有一个/etc/apt/sources.list.d/percona-release.list文件

3、更新源并进行安装

sudo apt-get update && sudo apt-get install percona-xtrabackup-24

4、用着不爽可以卸载它

sudo apt-get remove percona-xtrabackup-24

三、在 Red Hat Enterprise Linux 和 CentOS 上安装 Percona XtraBackup

1、从Percona官方的yum源安装 Percona XtraBackup

yum install http://www.percona.com/downloads/percona-release/redhat/0.1-3/percona-release-0.1-3.noarch.rpm

2、安装

yum install percona-xtrabackup-24

四、按标准需要配置my.cnf

查看一下mysqld下面有没有datadir,如果没有加上

[mysqld]
# 你的mysql数据库存放的位置
datadir=/data/mysql

不加的话,还原数据的时候,有可能会出现以下问题:

xtrabackup: Error: Please set parameter 'datadir'
innobackupex: fatal error: no 'mysqld' group in MySQL options
innobackupex: fatal error: OR no 'datadir' option in group 'mysqld' in MySQL options

五、全部数据库备份(全量)与还原

1、全部数据库备份

innobackupex --defaults-file=/etc/my.cnf --user=test --password="XXXXXXXXXXX" /root/daydaybackup

参数解释:

  • —defaults-file=/etc/my.cnf 指定mysql的配置文件
  • —user=test –user 指定用户
  •  —password=”XXXXXXXXXXX” 指定这个用户的用户名
  • /root/daydaybackup 备份文件的路径

会有类似的输出:

160609 23:30:42 innobackupex: Starting the backup operation
.............
........
..
.
xtrabackup: Transaction log of lsn (2524219) to (2524228) was copied.
160609 23:30:53 completed OK!

2、单数据库备份

innobackupex --defaults-file=/etc/my.cnf --user=test --password="XXXXXXXXXXX" --database=test /root/daydaybackup

参数解释:只针对一个数据库备份

  • —database=test 是指定需要备份的数据库

3、数据库备份并压缩

innobackupex --defaults-file=/etc/my.cnf --user=test --password="XXXXXXXXXXX" --stream=tar /root/daydaybackup | gzip > /root/daydaybackup/all_`date +%F_%H-%M-%S`.tar.gz

4、全数据(全量)还原

常规备份恢复的步骤:恢复之前先停止数据库,并且要删除数据和日志文件

  • 第1步是apply-log,为了加快速度,一般建议设置–use-memory,因为我们的文件比较少,因此我们不需要设置–user-memory产数文件,这个步骤完成之后,备份存放的目录会有一个类似2016-06-12_14-10-13备份文件。
  • 第2步是copy-back,即把备份文件拷贝至原数据目录下。
#停掉mysql 
systemctl stop mysqld.service

#数据目录备份 
mv /data/mysql /data/mysql_daydaybackup

#重建数据目录
mkdir /data/mysql

# --apply-log选项的命令是准备在一个备份上启动mysql服务
innobackupex --defaults-file=/etc/my.cnf --user=test --password="XXXXXXXXXXX" --apply-log /root/daydaybackup/2016-06-09_22-10-01/

# --copy-back 选项的命令从备份目录拷贝数据,索引,日志到my.cnf文件里规定的初始位置
innobackupex --defaults-file=/etc/my.cnf --user=test --password="XXXXXXXXXXX" --copy-back /root/daydaybackup/2016-06-09_22-10-01/

#重建权限
chown -R mysql:mysql /data/mysql && chmod -R 755 /data/mysql

#重新启动
systemctl restart mysql

5、增量备份与还原

注意:innobackupex 增量备份仅针对InnoDB这类支持事务的引擎,对于MyISAM等引擎,则仍然是全备。

1、首次应该先有一次全量备份,会自动生成一个目录:2016-06-12_14-10-13

innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --database=test /root/daydaybackup
  • 增量备份是基于一个数据库的全部备份文件的,在刚才我们备份了一个全备份,我们现在的增量备份就基于刚才的全部备份来做。

2、插入一些数据,在进行增量备份一次也就是在增量的基础上在进行增量备份

CREATE DATABASE daydaydata;
CREATE TABLE `daydaydata`.`day01` ( `a` INT(1) NOT NULL , `b` INT(2) NOT NULL , `c` INT(3) NOT NULL , `d` INT(4) NOT NULL ) ENGINE = InnoDB;

需要注意如下两个参数:

  • –incremental-basedir 指向全备目录;
  • –incremental 指向增量备份的目录;
innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --incremental-basedir=/root/daydaybackup/2016-06-12_14-10-13 --incremental /root/daydaybackup

3、在增量备份的基础上再做增量备份,我们需要添加如下参数

在插入一些数据:

CREATE TABLE `daydaydata`.`day02` ( `a` INT(1) NOT NULL , `b` INT(2) NOT NULL , `c` INT(3) NOT NULL , `d` INT(4) NOT NULL ) ENGINE = InnoDB;
  • –incremental-basedir执行上一次增量备份的目录
innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --incremental-basedir=/root/daydaybackup/2016-06-12_14-52-02 --incremental /root/daydaybackup

4、查看lsn号来确认是否有增量备份。

# 2016-06-12_14-10-13 是初次全量的目录
[root@aliyun ~]# cat daydaybackup/2016-06-12_14-10-13/xtrabackup_checkpoints
backup_type = full-backuped
from_lsn = 0
to_lsn = 2557407
last_lsn = 2557416
compact = 0
recover_binlog_info = 0

# 2016-06-12_14-52-02 第一次增量的目录
[root@aliyun ~]# cat daydaybackup/2016-06-12_14-52-02/xtrabackup_checkpoints
backup_type = incremental
from_lsn = 2557407
to_lsn = 2561716
last_lsn = 2561725
compact = 0
recover_binlog_info = 0

# 2016-06-12_15-09-03 第二次增量的目录
[root@aliyun ~]# cat /root/daydaybackup/2016-06-12_15-09-03/xtrabackup_checkpoints
backup_type = incremental
from_lsn = 2561716
to_lsn = 2570148
last_lsn = 2570157
compact = 0
recover_binlog_info = 0

5、测试恢复增量数据库

[root@aliyun ~]# systemctl stop mysqld.service
[root@aliyun ~]# mv /data/mysql /data/mysql.bak.20160612
[root@aliyun ~]# mkdir -p /data/mysql && ll /data/mysql
总用量 0

这个恢复比恢复全部备份稍微复杂点,如果有多个增量备份,需要叠加就可以

方法:

# BASE-DIR指完整的全部备份目录
innobackupex --apply-log --redo-only BASE-DIR

# INCREMENTAL-DIR-1指第一次增量备份的目录
innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-1

# BASE-DIR指完整的全部备份目录 INCREMENTAL-DIR-2第二次增量备份的目录          
innobackupex --apply-log BASE-DIR --incremental-dir=INCREMENTAL-DIR-2

刚才测试的时候添加过两次数据,增量备份过2次。

# 重放全量备份
innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --apply-log --redo-only /root/daydaybackup/2016-06-12_14-10-13

# 重放第一次的增量备份
innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --apply-log --redo-only /root/daydaybackup/2016-06-12_14-10-13 --incremental-dir=/root/daydaybackup/2016-06-12_14-52-02

# 重放第二次的增量备份
innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --apply-log --redo-only /root/daydaybackup/2016-06-12_14-10-13 --incremental-dir=/root/daydaybackup/2016-06-12_15-09-03

恢复重放(叠加)以后的完整全部备份,需要注意的是恢复的时候,我们只恢复完整的全部备份就可以了

innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --apply-log /root/daydaybackup/2016-06-12_14-10-13
innobackupex --defaults-file=/etc/my.cnf --user=root --password="XXXXXXXXXXXXXXXXXXXXXXXXXXXX" --copy-back /root/daydaybackup/2016-06-12_14-10-13

查看是否已经恢复

MySQL [daydaydata]> show tables;                                              +----------------------+
| Tables_in_daydaydata |
+----------------------+
| day01                |
| day02                |
+----------------------+
2 rows in set (0.00 sec)

6、常用参数说明:

# 同xtrabackup的--defaults-file参数
--defaults-file

# 对xtrabackup的--prepare参数的封装
--apply-log

# 做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir ;
--copy-back

# 通过ssh将备份数据存储到进程服务器上;
--remote-host=HOSTNAME

# 备份文件输出格式, tar时使用tar4ibd , 该文件可在XtarBackup binary文件中获得.如果备份时有指定--stream=tar, 则tar4ibd文件所处目录一定要在$PATH中(因为使用的是tar4ibd去压缩, 在XtraBackup的binary包中可获得该文件)。
在使用参数stream=tar备份的时候,你的xtrabackup_logfile可能会临时放在/tmp目录下,如果你备份的时候并发写入较大的话 xtrabackup_logfile可能会很大(5G+),很可能会撑满你的/tmp目录,可以通过参数--tmpdir指定目录来解决这个问题。
--stream=[tar]

# 当有指定--remote-host or --stream时, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir
--tmpdir=DIRECTORY

# 强制备份日志时只redo ,跳过rollback。这在做增量备份时非常必要。
--redo-only --apply-log组,

# 该参数在prepare的时候使用,控制prepare时innodb实例使用的内存量
--use-memory=#

# 同xtrabackup的--throttle参数
--throttle=IOS

--sleep=是给ibbackup使用的,指定每备份1M数据,过程停止拷贝多少毫秒,也是为了在备份时尽量减小对正常业务的影响,具体可以查看ibbackup的手册 ;

# 对备份数据迚行压缩,仅支持ibbackup,xtrabackup还没有实现;
--compress[=LEVEL]

# 对 xtrabackup参数--tables的封装,也支持ibbackup。备份包含的库表,例如:--include="test.*",意思是要备份 test库中所有的表。如果需要全备份,则省略这个参数;如果需要备份test库下的2个表:test1和test2,则写 成:--include="test.test1|test.test2"。也可以使用通配符,如:--include="test.test*"。
--include=REGEXP

# 列出需要备份的databases,如果没有指定该参数,所有包含MyISAM和InnoDB表的database都会被备份;
--databases=LIST

# 解压备份的数据文件,支持ibbackup,xtrabackup还没有实现该功能;
--uncompress

# 备份从库, 加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:CHANGE MASTER TO MASTER_LOG_FILE='', MASTER_LOG_POS=0
--slave-info,

# 指定mysql.sock所在位置,以便备份进程登录mysql.
--socket=SOCKET

 

赞(0)
未经允许不得转载:菜鸟HOW站长 » 使用innobackupex进行mysql数据库备份
分享到: 更多 (0)

留下你的脚印

  订阅  
关注动态