Linux和Windows文件实时同步

2020年11月5日16:23:08 发表评论 143
摘要

实现文件同步是借助Linux上面的镜像备份工具rsync,支持本地复制、SSH、rsync主机同步。该工具在windows平台上也有对应的实现cwRsyncServer。本文介绍的是实时监控Linux服务器上面的文件,并同步到windows客户端。
ps:此类的文章在网上已经有大把了,很多都是复制粘贴(我也不例外,但是我会详细的讲解细节。),初学者可能不容易看懂。也是为了以后自己能够再次使用(因为只是工具,你不记录下来,以后就忘记了!)

rsync介绍

rsync是一个开源的提供快速增量文件传输的实用程序。rsyns目前由Wayne Davison维护。rsync官网地址
官网上面主要有两个文档需要看,一个是rsync使用文档,另一个是rsync.conf配置文档参数。

步骤一:

先在Linux上面安装rsync,一般的Linux发行版上面都会带这个工具。所以可以先看看服务器上面是否安装了rsync。
输入命令:rpm -qa | grep rsync
如果没有安装,这个就自行百度一下,rsync的配置文件在/etc/srync.conf
下面是配置文件内容:

  1. # /etc/rsyncd: configuration file for rsync daemon mode  
  2.  
  3. # See rsyncd.conf man page for more options.  
  4.  
  5. # configuration example:  
  6.  
  7. # uid = nobody  
  8. # gid = nobody  
  9. # use chroot = yes  
  10. # max connections = 4  
  11. # pid file = /var/run/rsyncd.pid  
  12. # exclude = lost+found/  
  13. # transfer logging = yes  
  14. # timeout = 900  
  15. # ignore nonreadable = yes  
  16. # dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2  
  17.  
  18. # [ftp]  
  19. #        path = /home/ftp  
  20. #        comment = ftp export area  

因为主要向Windows推送文件,所以不需要更改这里面的配置。

步骤二:

在windows下面安装rsync,windows下面有个rsync的实现叫做cwRsyncServer,官网地址,这个软件在4.1.0以前的版本是免费的。之后就是收费了的。这里贴心提供4.1.0的下载地址
下载之后,自己选好安装路径,注意!在安装的时候,他会生成一个账号,这个账号是用来启动它的一个服务的(ps:相当于Linux下面的daemon)。不过个人觉得这个账户要不要无所谓。

因为是Linux上面向windows上面推送文件,所以在这里需要配置windows安装的cwRsyncServer的配置文件,并启动服务。

找到cwRsyncServer的安装目录ICW,打开里面的配置文件rsyncd.conf,并添加以下内容。

  1. port = 873 #服务端口  
  2. use chroot = false  
  3. strict modes = false  
  4. hosts allow = *  
  5. log file = rsyncd.log  
  6. uid = 0  
  7. gid = 0  
  8.  
  9. # Module definitions  
  10. # Remember cygwin naming conventions : c:\work becomes /cygwin/c/work  
  11. #  
  12. [test]  
  13. path = /cygdrive/d/work #同步的路径  
  14. read only = false  
  15. transfer logging = yes  
  16. auth users = ruser # 允许连接服务器的用户名  
  17. secrets file = rsyncd.secrets #用户密码  

rsyncd.secrets是创建的一个保存密码的文件,这里是放在和rsync.conf同级目录。文件内容如下:

  1. ruser:123456  

上面其实就是rsync的配置文件。在官网配置文档里面有详细的介绍。上面有#号的是我添加的。有些是默认的。

设置好之后就启动RsyncServer服务。

步骤三:

  1. SYNOPSIS  
  2. Local:  rsync [OPTION...] SRC... [DEST]  
  3.   
  4. Access via remote shell:  
  5.   Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]  
  6.   Push: rsync [OPTION...] SRC... [USER@]HOST:DEST  
  7.   
  8. Access via rsync daemon:  
  9.   Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]  
  10.         rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]  
  11.   Push: rsync [OPTION...] SRC... [USER@]HOST::DEST  
  12.         rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST  
  13. Usages with just one SRC arg and no DEST arg will list the source files instead of copying.  

以上是rsync的使用语法,接下来就测试一下Linux服务器是否能够往windows上面推送数据。(ps:这个用法能够在上面的rsync的使用文档里面找到)

  1. rsync -avz /home/ftp ruser@192.168.1.108::test  

上面test是你定义的模块,/home/ftp这个是你要推送的源文件地址。
因为在windows rsync那里定义了用户,所以接下来会要求你输入密码。填之前设置123456就可以了。

步骤四:
如果之前推送文件成功了,那我们就可以进行接下来的操作了。之前都是手动去同步的,但是我们想要自动去同步,那该怎么做呢?
这里有一个工具Sersync。它主要就是监听文件夹,当文件夹发生更改的时候推送文件到远程。
Sersync下载地址

Sersync官网
Sersync作者把资源放在谷歌上面的,所以我这里给一个下载地址。
下载下来后,进行以下操作:

  1. wget http://www.pipizhufangpi.cn/resources/sersync2.5.4_64bit_binary_stable_final.tar.gz  
  2. tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz  #解压Sersync压缩文件  
  3. mv GNU-Linux-x86/ /usr/local/sersync   #将解压后的文件移动到/usr/local/sersync目录下  
  4. cd /usr/local/sersync/  #移动到目录 /usr/local/sersync/  
  5. cp confxml.xml confxml.xml_bak #备份配置文件  

然后就需要对这个confxml.xml配置文件进行配置了,该配置文件,配置监听的目录、错误产生的日志、同步的地址账号和密码等等。
需要改的只有几个地方,修改如下:
修改本地监控文件、修改远程同步模块

  1. <localpath watch="/home/ftp"> <!-- 本地监听文件地址 -->  
  2.     <remote ip="192.168.1.108" name="test"/> <!-- 远程地址和同步的模块 -->  
  3.     <!--<remote ip="192.168.8.39" name="tongbu"/>-->  
  4.     <!--<remote ip="192.168.8.40" name="tongbu"/>-->  
  5. </localpath>  

设置远程模块账号和密码

  1. <rsync>  
  2. <commonParams params="-artuz"/> <!-- 之前rsync的OPTIONS -->  
  3. <auth start="true" users="ruser" passwordfile="/etc/rsync/rsync.passwd"/> <!-- 设置账号和密码 -->  
  4. <userDefinedPort start="false" port="874"/><!-- port=874 -->  
  5. <timeout start="true" time="100"/><!-- timeout=100 -->  
  6. <ssh start="false"/>  
  7. </rsync>  
  1. <failLog path="/usr/local/sersync/logs/rsync_fail_log.sh" timeToExecute="60"/><!-- 设置错误日志 -->  

在上面我们设置了远程模块的账号和密码,这个是对应windows上面设置的test模块账号和密码。在这里要设置该密码文件,还要设置出错日志。
代码如下:

  1. mkdir /etc/rsync #创建文件夹  
  2. echo "123456" > /etc/rsync/rsync.passwd  
  3. chmod 600 /etc/rsync/rsync.passwd #设置只有当前用户具有读写权限,不设置会报错  
  4. mkdir /usr/local/sersync/logs #创建日志文件  
  5. touch /usr/local/sersync/logs/rsync_fail_log.sh #创建日志文件  

步骤五:

完成以上步骤后,就可以开启Sersync了。
代码如下:

  1. /usr/local/sersync/sersync2 -d -r -o /usr/local/sersync/confxml.xml  
  2. echo "PATH=$PATH:/usr/local/sersync/" >> /etc/profile  
  3. source /etc/profile  

配置更多实例只需要对应不同配置文件即可

  1. /usr/local/sersync/sersync2  -d -o /usr/local/sersync/www_confxml.xml  
  2. /usr/local/sersync/sersync2  -d -o /usr/local/sersync/bbs_confxml.xml  
  3. /usr/local/sersync/sersync2  -d -o /usr/local/sersync/blog_confxml.xml   

如果你想停止Sersync,可以通过杀死进程的方式来终止:

  1. ps  -ef |grep  rsync   
  2. pkill  sersync   

更多:

传输参数参考如下:

  1. -v, --verbose 详细模式输出  
  2. -q, --quiet 精简输出模式  
  3. -c, --checksum 打开校验开关,强制对文件传输进行校验  
  4. -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD  
  5. -r, --recursive 对子目录以递归模式处理  
  6. -R, --relative 使用相对路径信息  
  7. -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。  
  8. --backup-dir 将备份文件(如~filename)存放在在目录下。  
  9. -suffix=SUFFIX 定义备份文件前缀  
  10. -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)  
  11. -l, --links 保留软链结  
  12. -L, --copy-links 想对待常规文件一样处理软链结  
  13. --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结  
  14. --safe-links 忽略指向SRC路径目录树以外的链结  
  15. -H, --hard-links 保留硬链结  
  16. -p, --perms 保持文件权限  
  17. -o, --owner 保持文件属主信息  
  18. -g, --group 保持文件属组信息  
  19. -D, --devices 保持设备文件信息  
  20. -t, --times 保持文件时间信息  
  21. -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间  
  22. -n, --dry-run现实哪些文件将被传输  
  23. -W, --whole-file 拷贝文件,不进行增量检测  
  24. -x, --one-file-system 不要跨越文件系统边界  
  25. -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节  
  26. -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步  
  27. --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息  
  28. -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件  
  29. --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件  
  30. --delete 删除那些DST中SRC没有的文件  
  31. --delete-excluded 同样删除接收端那些被该选项指定排除的文件  
  32. --delete-after 传输结束以后再删除  
  33. --ignore-errors 及时出现IO错误也进行删除  
  34. --max-delete=NUM 最多删除NUM个文件  
  35. --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输  
  36. --force 强制删除目录,即使不为空  
  37. --numeric-ids 不将数字的用户和组ID匹配为用户名和组名  
  38. --timeout=TIME IP超时时间,单位为秒  
  39. -I, --ignore-times 不跳过那些有同样的时间和长度的文件  
  40. --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间  
  41. --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0  
  42. -T --temp-dir=DIR 在DIR中创建临时文件  
  43. --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份  
  44. -P 等同于 --partial  
  45. --progress 显示备份过程  
  46. -z, --compress 对备份的文件在传输时进行压缩处理  
  47. --exclude=PATTERN 指定排除不需要传输的文件模式  
  48. --include=PATTERN 指定不排除而需要传输的文件模式  
  49. --exclude-from=FILE 排除FILE中指定模式的文件  
  50. --include-from=FILE 不排除FILE指定模式匹配的文件  
  51. --version 打印版本信息  
  52. --address 绑定到特定的地址  
  53. --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件  
  54. --port=PORT 指定其他的rsync服务端口  
  55. --blocking-io 对远程shell使用阻塞IO  
  56. -stats 给出某些文件的传输状态  
  57. --progress 在传输时现实传输过程  
  58. --log-format=formAT 指定日志文件格式  
  59. --password-file=FILE 从FILE中得到密码  
  60. --bwlimit=KBPS 限制I/O带宽,KBytes per second  
  61. -h, --help 显示帮助信息  

通过观察失败日志,我们可以发现,Sersync所做的就是监控文件夹变化,并定位到那个目录,然后同步。
部分日志如下

  1. #errno 1280  
  2. cd /home/ftp && rsync -artuz -R  --timeout=100 --delete ./   --include="文件验证.txt" --exclude=*  ruser@192.168.1.108::test --password-file=/etc/rsync/rsync.passwd >/dev/null 2>&1  

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: