|
|
51CTO旗下网站
|
|
移动端

完整利用Rsync实现服务器/网站数据增量同步备份

我们在选择VPS、服务器架设项目之后,所有的项目、网站数据都需要我们自行备份和维护,即便有些服务商有提供管理型服务器,但是数据自行备份和管理才是较为靠谱的。无论是网站,还是其他项目,数据的备份方式有很多种,有服务商提供的快照备份,也可以我们手工和自动利用脚本备份到本地服务器或者远程服务器。

作者:LaoBuLuo来源:站长那些事儿|2018-11-08 10:13

我们在选择VPS、服务器架设项目之后,所有的项目、网站数据都需要我们自行备份和维护,即便有些服务商有提供管理型服务器,但是数据自行备份和管理才是较为靠谱的。无论是网站,还是其他项目,数据的备份方式有很多种,有服务商提供的快照备份,也可以我们手工和自动利用脚本备份到本地服务器或者远程服务器。

但是,较多的做法都只能做到定期和定时的备份,如果我们网站项目数据吞吐量比较大,那定时备份并不能完美的解决数据的容灾问题,万一数据丢失或者不完整,我们可能只能恢复到上一个备份点,也会产生数据丢失。如果我们项目比较大且数据重要,定时备份的方式肯定不行的。

我们可以在定时备份的同时,采用增量同步备份,比如主服务器数据增加一刹那,也会在备份服务器中同步过去,如果我们数据更为重要的,还可以采用多台备份服务器同步。

第一、准备工作

1、数据备份

如果我们没有把握一次性搞定,我们可以准备两台测试环境服务器实现Rsync同步备份功能之后再用到生产环境。如果用到生产环境,我们可以将服务器快照备份,或者将网站、项目数据备份。

2、服务器准备

这里我们采用的是Rsync同步增量备份,所以我们需要准备主服务器、以及一台备份服务器。鉴于数据备份后的功能,我们可以直接备份到备份服务器某一个目录,或者将备份服务器安装主服务器环境,将需要备份的网站项目备份到对应的同目录中。

3、端口开放

如果我们服务器没有设定iptables防火墙规则,那就不要设置端口。如果我们有设置iptables防火墙,那就需要将873端口添加放行。

  1. vi /etc/sysconfig/iptables 

打开iptables规则文档,添加:

  1. -A INPUT -p tcp -m state --state NEW -m tcp --dport 873 -j ACCEPT 

编辑保存之后,然后/etc/init.d/iptables restart重启才能生效。同样的方法,我们需要在主服务器和备份服务器同时设置。

第二、配置备份服务器

1、安装rsync

  1. yum install rsync xinetd -y 

2、配置文件

  1. vi /etc/xinetd.d/rsync 

将配置文件disable参数从"yes"换成"no"。

3、创建配置文件

  1. vi /etc/rsyncd.conf 

创建文件,然后将下面脚本添加:

  1. log file = /var/log/rsyncd.log 
  2. pidfile = /var/run/rsyncd.pid 
  3. lock file = /var/run/rsync.lock 
  4. secrets file = /etc/rsync.pass 
  5. motd file = /etc/rsyncd.Motd 
  6. #创建一个模块名称,后面需要一致 
  7. [www.laobuluo.com] 
  8. #备份服务器目录地址 
  9. path = /home/wwwroot/www.laobuluo.com 
  10. #对应上面模块名称 
  11. comment = www.laobuluo.com 
  12. uid = root 
  13. gid = root 
  14. port = 873 
  15. use chroot = no 
  16. read only = no 
  17. list = no 
  18. max connections = 200 
  19. timeout = 600 
  20. #创建一个同步用户名,随便取,反正后面出现的时候要一致 
  21. auth users = www.laobuluo.com_user 
  22. #主服务器IP地址 
  23. hosts allow = xxx.xxx.xxx.xxx 

根据我们网站项目以及服务器实际信息创建文件贴到配置文件中保存退出。

4、创建密码配对文件

  1. vi /etc/rsync.pass 

创建密码配对文件:

  1. www.laobuluo.com_user:1234567890passwd 

红色字段需要对应上面的auth users,蓝色部分是我们创建配对的密码。后面主服务器配置的时候也需要用到密码,所以必须一致。

5、开放权限和启动

  1. chmod 600 /etc/rsyncd.conf 
  2. chmod 600 /etc/rsync.pass 
  3. service xinetd restart 

第三、配置主服务器

1、安装rsync

  1. yum install rsync xinetd -y 

2、配置文件

  1. vi /etc/xinetd.d/rsync 

将配置文件disable参数从"yes"换成"no"。

3、创建密码配对文件

  1. vi /etc/passwd.txt 

将我们上面在备份服务器中蓝色的密码丢进来,必须一致。

4、授权和启动

  1. chmod 600 /etc/passwd.txt  
  2. service xinetd restart 

第四、配置主服务器

这一步我们继续配置主服务器,需要安装和配置inotify-tools来实现同步增量备份。

1、安装环境包

  1. yum install make gcc gcc-c++ -y 

2、下载和安装inotify-tools

  1. cd /usr/local/src 
  2. wget https://download.laobuluo.com/tools/inotify-tools-3.14.tar.gz 
  3. tar -zxvf inotify-tools-3.14.tar.gz 
  4. cd inotify-tools-3.14 
  5. ./configure --prefix=/usr/local/inotify 
  6. make 
  7. make install 

3、配置环境变量

  1. echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh 
  2. source /etc/profile.d/inotify.sh 
  3. echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf 
  4. ln -s /usr/local/inotify/include /usr/include/inotify 

4、配置参数

  1. vi /etc/sysctl.conf 

添加到脚本最后:

  1. fs.inotify.max_queued_events=99999999 
  2. fs.inotify.max_user_watches=99999999 
  3. fs.inotify.max_user_instances=65535 

5、创建触发脚本

  1. vi /usr/local/inotify/rsync.sh 

创建脚本:

  1. #!/bin/sh 
  2. #同步主服务器网站目录 
  3. srcdir=/home/wwwroot/www.laobuluo.com 
  4. #目录名称 
  5. dstdir=www.laobuluo.com 
  6. excludedir=/usr/local/inotify/exclude.list 
  7. #对应同步名称要一致 
  8. rsyncuser=www.laobuluo.com_user 
  9. rsyncpassdir=/etc/passwd.txt 
  10. #备份服务器IP地址 
  11. dstip="xxx.xxx.xxx.xxx" 
  12. for ip in $dstip 
  13. do 
  14. rsync -avH --port=873 --progress --delete --exclude-from=$excludedir $srcdir $rsyncuser@$ip::$dstdir --password-file=$rsyncpassdir 
  15. done 
  16. /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e close_write,modify,delete,create,attrib,move $srcdir | while read file 
  17. do 
  18. for ip in $dstip 
  19. do 
  20. rsync -avH --port=873 --progress --delete --exclude-from=$excludedir $srcdir $rsyncuser@$ip::$dstdir --password-file=$rsyncpassdir 
  21. echo " ${file} was rsynced" >> /tmp/rsync.log 2>&1 
  22. done 
  23. done 

修改自行的文件和目录,然后保存退出。

6、创建排除目录列表

  1. vi /usr/local/inotify/exclude.list 

创建一个排除目录,这里可以添加不同步的目录,一行一个目录。如果暂时没有可以留空,以后需要用到在添加。

7、授权和设置开机启动

  1. chmod +x /usr/local/inotify/rsync.sh 

这里我们授权。

  1. vi /etc/rc.d/rc.local 

最后一行添加:

  1. sh /usr/local/inotify/rsync.sh & 

第五、检测以及生效小结

1、检查生效

设置完毕之后,我们可以通过手工检查

  1. sh /usr/local/inotify/rsync.sh & 

在主服务器执行脚本,如果看到有目录在进度,说明完美,然后去备份服务器中可以看到已经备份到的文件目录。

2、自动生效

重启主服务器,然后就会自动生效。如果不放心我们可以在主服务器对应目录丢一个文件看看备份服务器是否有增加。

这样,我们就通过rsync实现主服务器与备份服务器之间的同步增量备份,来解决大数据吞吐的解决容灾问题。如果我们数据不大,可以采用定时和手工备份,毕竟这样一套设置下来确实比较费时间。

【编辑推荐】

  1. 当Serverless到来:都“无服务器”了,运维人员何去何从?
  2. Java技术总结:主流Web服务器有哪些?
  3. 分布式机器学习的参数服务器
  4. 了解超融合与传统服务器部署
  5. 服务器和移动硬盘之间传输数据
【责任编辑:武晓燕 TEL:(010)68476606】


点赞 0
分享:
大家都在看
猜你喜欢
24H热文
一周话题
本月最赞

读 书 +2018手机认证送彩金

Reversing:逆向工程揭密

本书描述的是在逆向与反逆向之间展开的一场旷日持久的拉锯战。作者Eldad Eilam以一个解说人的身份为我们详尽地评述了双方使用的每一招每一...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊
博聚网