现在的位置: 首页 > Windows > Windows Server > 正文
Windows下基于cwRsync的文件同步
2014年03月15日 Windows Server ⁄ 共 5064字 Windows下基于cwRsync的文件同步已关闭评论 ⁄ 被围观 10,244 views+

最近一个项目采用IIS+.Net平台,使用了2台服务器实现负载均衡(相关负载均衡文章参考:http://www.toxingwang.com/linux-unix/haandclusters 中lvs部分或http://www.toxingwang.com/?s=nginx&x=0&y=0 中Nginx等相关文章,对于有钱的公司且追求简单的公司,也可以采用硬件负载均衡,这些不在本文讨论范围),以前在linux下实现负载均衡,主要有如下两个问题:

如何实现用户回话保持?

可以使用Session共享和会话保持两种方式。

如何实现实现用户上传文件能在多台服务器上访问?

可以使用共享存储(如NFS、iSCSI、GFS2等)或文件同步(rsync+sersync+inotify)等。

在IIS+.Net平台下,同样面临上述两个问题,关于IIS下Session共享问题在前文已经讨论。今天讨论第二个如何实现多台服务器访问的都是同样的数据。

站点逻辑架构如下:

clip_image002

架构说明:

前端负载均衡在调度上,实现基于Request Method调度,如果Request Method是Post,则调度到APP1上,而其他请求则基于最少连接等方法调度。这样就实现了用户上传是总是访问APP1,而APP2的数据完全与APP1同步。

同步使用cwRsync实现。由于windows没有inotify功能,因此只能实现定时同步,我实际中采用每分钟同步一次(考虑到用户上传的速度实际远低于内网1GB网速,因此此方案是可行的)。具体实现过程如下:

1、软件准备:

客户端版本:cwRsync 4.0.5 Installer(最新版5.22,根据需要选择)

服务器版本:cwRsyncServer 4.0.5 Installer(最新版5.22,根据需要选择)

2、 安装:

在APP1(暂且定义为主服务器)上安装cwRsyncServer;Windows下软件的安装很简单,安装cwRsync时,只需记住如下的密码即可,其他默认:

clip_image003

在APP2上安装cwRsync客户端版本。同样全部默认即可。

3、配置:

3.1 、服务器端配置

在cwRsync的安装目录下(默认路径:C:\Program Files (x86)\ICW),可以找到一个rsyncd.conf的配置文件,先备份一个,然后再修改。

use chroot = false

strict modes = false

hosts allow = *

log file = rsyncd.log

uid = 0  ##指定uid为0,不指定将无法使用

gid = 0

#定义需要同步的路径,名称任意,方便自己识别就好

[bbsapp]

path = /cygdrive/d/APPSYSTEM/bbs/   #表示路径:d:\APPSYSTEM\bbs

read only = false

ignore errors

transfer logging = yes

hosts allow = 192.168.18.0/255.255.255.0

auth users = SvcCWRSYNC   #认证账户,安装时的那个账户

secrets file = rsync.password  #密码文件

在上述安装目录下创建一个密码文件rsync.password,内容如下:

SvcCWRSYNC:pw123456

说明:冒号前面为上述账户名,冒号后面为安装时提示的那个密码,也可以在安装时指定。

配置完毕后,即可重启cwRsync服务了,如下:

3.2、客户端配置

进入客户端的默认安装目录C:\Program Files (x86)\cwRsync,新建一个密码文件rsync.password,将上述用户的密码写入这个文件(仅仅是密码)。注意该文件的权限必须所有者为administrator,且权限为600(即只有管理员有权限),否则同步时会报如下错误:

password file must be owned by root when running as root

然后在任意位置创建一个批处理,命令内容如下:

cd /d "C:\Program Files (x86)\cwRsync\bin"

rsync -avz --delete-after --ignore-errors --progress --password-file=”/cygdrive/c/ Program Files (x86)/cwRsync/rsync.password” SvcCWRSYNC@app1_IP::bbsapp /cygdrive/d/APPSYSTEM/bbs

在计划任务中调用此批处理,并设定为每分钟一次即可。

4、cwRsync客户端命令详解:

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关,强制对文件传输进行校验

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结

-p, --perms 保持文件权限

-o, --owner 保持文件属主信息

-g, --group 保持文件属组信息

-D, --devices 保持设备文件信息

-t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run现实哪些文件将被传输

-W, --whole-file 拷贝文件,不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件

--delete 删除那些DST中SRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

--delete-after 传输结束以后再删除

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输

--force 强制删除目录,即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间,单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0

-T --temp-dir=DIR 在DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

-P 等同于 --partial

--progress 显示备份过程

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

--blocking-io 对远程shell使用阻塞IO

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE 从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽,KBytes per second

-h, --help 显示帮助信息

5、问题点:

5.1、服务无法启动:

服务器在意外重启后,RsyncServer服务不能启动,提示“本地计算机上的reyncserver服务启动后又停止了”,方法是将安装目录下的rsyncd.pid文件删除或改名即可,再重新启动RsyncServer服务,OK,成功了,rsyncd.pid文件会自动重新生成。

5.2、提示“password file must be owned by root when running as root”

客户端使用命令同步时,提示上述错误,原因为密码文件权限不对,文件属主(所有者)必须为administrator,且权限为600(即只有管理员有权限)。

6、排除

两台服务器上,有些缓存目录或临时文件,以及特定配置可能是不需要同步的,因此需要进行排除。所以必须在server的配置文件中添加排除同步的文件,这就需要用到了exclude这个参数。

6.1、目录排除

exclude这个参数可以在client上面使用,也可以直接在server上面的进行配置。下面的例子是在server的rsyncd.conf文件上面配置的。

案例:config文件目录下有test1、test2和test3这三个目录,这三个目录当中都有一个test.txt文件。下面通过不同的配置信息来实现不同的同步要求。

ENVISION——config——test1——test.txt

||———test2——test.txt

||———test3——test.txt

通过exclude关键字实现test1目录的例外

[config]
path= /cygdrive/d/ENVISION/
config
#exclude

from =rsync.exclude

exclude= test1/
read only = falsetransfer
logging = yeslock
file = rsyncd.lock

通过exclude from关键字实现test2和test3目录的例外

[config]
path= /cygdrive/d/ENVISION/
config
exclude

from =rsync.exclude

#exclude= test1/
read only = falsetransfer
logging = yeslock
file = rsyncd.lock

其中rsync.excluede文件跟rsyncd.conf在同一目录下,其中的文件内容是,其中“/”非常重要。

test2/test3/

6.2、文件排除

exclude和exclude from不仅仅指限制与目录,也可以使指定的文件名。

在test1目录下添加一个文件test2.txt,然后进行如下配置

[config]
path= /cygdrive/d/ENVISION/
config
exclude

from =rsync.exclude

exclude= test1/test.txt
read only= falsetransfer
logging = yeslock
file = rsyncd.lock

再次执行同步命令,会发现test1/test2.txt会被同步,而test1/test.txt不会被同步。

如果是客户端,则在命令中添加选项:--exclude= test1/ 即可排除test1目录

抱歉!评论已关闭.

×