实践csync2+inotify实现文件实时同步

一、关键技术

利用csync2+sqlite实现数据的高效实时的增量备份,相关目录及文件信息都存储在sqlite数据库中,
大大提升了同步的速率和效率;利用inotify触发式(实时)执行csync同步命令更新文件。

二、方案适用

图片服务器集群方案: ReiserFS4+csync2+inotify
网站服务程序分布式方案:csync2+inotify+NFS
[
](如,网站程序中存在缓存目录则排除此目录同步,将缓存目录挂载在NFS上)
分布式集群软件配置更新同步方案: csync2+inotify
[
](,集群中heartbeat相关的配置文件,如apache,nginx的配置文件,并能执行相关脚本)

三、实际配置过程

系统:centos5.1
结构: 三台服务器
引用
# vi /etc/hosts
192.168.4.188 csync1
192.168.4.190 csync2
192.168.4.191 csync3


1
、创建下载文件列表
引用
cd /usr/local/src/
vi list //
以下内容:
ftp://ftp.gnupg.org/gcrypt/libgpg-error/libgpg-error-1.7.tar.gz
ftp://ftp.gnupg.org/gcrypt/libgcrypt/libgcrypt-1.4.4.tar.gz
ftp://ftp.gnutls.org/pub/gnutls/libtasn1/libtasn1-2.1.tar.gz
http://www.sqlite.org/sqlite-2.8.17.tar.gz
http://internode.dl.sourceforge.net/sourceforge/librsync/librsync-0.9.7.tar.gz
ftp://ftp.gnu.org/pub/gnu/gnutls/gnutls-2.6.6.tar.bz2
http://oss.linbit.com/csync2/csync2-1.34.tar.gz
http://jaist.dl.sourceforge.net/sourceforge/inotify-tools/inotify-tools-3.13.tar.gz

2
、创建安装脚本并执行
引用
vi install.sh // 以下内容:
wget
i list
cd /usr/local/src/
tar zxvf libgpg-error-1.7.tar.gz
cd libgpg-error-1.7
./configure && make && make install
cd ..
tar zxvf libgcrypt-1.4.4.tar.gz
cd libgcrypt-1.4.4
./configure --with-gpg-error-prefix=/usr/local && make && make install
cd ..
tar zxvf libtasn1-2.1.tar.gz
cd libtasn1-2.1
./configure && make && make install
cd ..
tar zxvf sqlite-2.8.17.tar.gz
cd sqlite-2.8.17
./configure && make && make install
cd ..
tar zxvf librsync-0.9.7.tar.gz
cd librsync-0.9.7
./configure && make && make install
cd ..
tar jxvf gnutls-2.6.6.tar.bz2
cd gnutls-2.6.6
./configure --with-libgcrypt-prefix=/usr/local/ && make && make install
cd ..
echo "/usr/local/lib" >> /etc/ld.so.conf
ldconfig
tar zxvf csync2-1.34.tar.gz
cd csync2-1.34
./configure && make && make install && make cert
cd ..
tar zxvf inotify-tools-3.13.tar.gz
cd inotify-tools-3.13
./configure && make && make install
cd ..
echo "csync2 30865/tcp" >> /etc/services
echo "service csync2
{
disable = no
protocol = tcp
flags = REUSE
socket_type = stream
wait = no
user = root
group = root
server = /usr/local/sbin/csync2
server_args = -i
#only_from = 192.168.10.50 192.168.10.51
}" > /etc/xinetd.d/csync2
chkconfig xinetd on

3
、赋予脚本可执行权限并执行:
引用(注:需要在每个节点执行脚本
chmod 755 install.sh
./install.sh
4 、编辑hosts文件如下内容:
引用
vi /etc/hosts
192.168.4.188 csync1
192.168.4.190 csync2
192.168.4.191 csync3
(三台主机都要修改)


5
、生成密钥并分发到每个节点:
引用
csync2 -k /etc/test.key
scp /etc/test.key root@node2:/etc/

6
、创建备份目录:
引用
mkdir /var/csync_backup

注:用于防止修改错误恢复,如果启用了,分别在其他节点建立相应的目录。

7
、修改csync2配置文件(所有节点相同):
引用
vi /etc/csync2.cfg // 以下内容:
group testgroup
{
host csync1 csync2 csync3; //
定义组成员
key /etc/test.key; //
制定密钥
include /var/www/html; //
需要同步的目录
exclude /var/www/html/temp; //
需要排除的目录。
exclude /var/www/html/templates_; //
需要排除同步的缓存目录。
exclude *~ .*; //
排除同步.开头的文件
backup-directory /var/csync_backup; //
防错备份目录,根据自己的需求设置。
backup-generations 3;
auto younger; //
同步以最新的文件为标准更新.
}

启动服务:
引用
/etc/init.d/xinetd start
或者:
service xinetd start

注:csync2相关测试命令
引用
csync2 vvv T测试csync配置是否正确,可以看到相关SQL执行过程
csync2
xv 执行同步命令
csync2
xvvv 执行同步命令,并显示出详细的信息
8. 做个软链接
32 位系统:
ln -s /usr/local/lib/libinotifytools.so.0 /usr/lib/libinotifytools.so.0
64 位系统:
ln -s /usr/local/lib/libinotifytools.so.0 /usr/lib64/libinotifytools.so.0
9 、配置inotify触发同步脚本(所有节点相同):
引用
vi /usr/local/sbin/csync2_test.sh // 以下内容:
#!/bin/bash
src=/var/www/html
/usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' /
--exclude "/.swp$" /
-e close_write,modify,delete,create,attrib,move /
${src} /
| while read file
do
csync2 -x >/dev/null 2>&1
done

后台执行脚本:
引用
chmod a+x /usr/local/sbin/csync2_test.sh
csync2_test.sh &



10
转载自
、测试文件同步:
在任一节点上创建,修改,移动,或者删除文件或目录,在其他节点检查是否同步,如果没有同步,请使用csync2的相关测试命令测试同步是否正常。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


SQLite架构简单,又有Json计算能力,有时会承担Json文件/RESTful的计算功能,但SQLite不能直接解析Json文件/RESTful,需要用Java代码硬写,或借助第三方类库,最后再拼成insert语句插入数据表,代码非常繁琐,这里就不展示了。参考前面的代码可知,入库的过程比较麻烦,不能只用SQL,还要借助Java或命令行。SPL是现代的数据计算语言,属于简化的面向对象的语言风格,有对象的概念,可以用点号访问属性并进行多步骤计算,但没有继承重载这些内容,不算彻底的面向对象语言。...
使用Python操作内置数据库SQLite以及MySQL数据库。
破解微信数据库密码,用python导出微信聊天记录
(Unity)SQLite 是一个软件库,实现了自给自足的、无服务器的、零配置的、事务性的 SQL 数据库引擎。SQLite 是在世界上最广泛部署的 SQL 数据库引擎。SQLite 源代码不受版权限制。本教程将告诉您如何使用 SQLite 编程,并让你迅速上手。.................................
安卓开发,利用SQLite实现登陆注册功能
相比大多数数据库而言,具有等优势,广泛应用于、等领域。
有时候,一个项目只有一个数据库,比如只有SQLite,或者MySQL数据库,那么我们只需要使用一个固定的数据库即可。但是一个项目如果写好了,有多个用户使用,但是多个用户使用不同的数据库,这个时候,我们就需要把软件设计成可以连接多个数据库的模式,用什么数据库,就配置什么数据库即可。4.Users实体类,这个实体类要和数据库一样的,形成一一对应的关系。11.Sqlite数据库,需要在代码里面创建数据库,建立表,再建立数据。8.我们开启MySQL数据库,然后进行调试,看程序的结果。2.安装SqlSugar。
基于Android的背单词软件,功能强大完整。
SQLite,是一款轻型的数据库,是遵守ACID的关系型数据库管理系统。说白了就是使用起来轻便简单,
Android的简单购物车案例
SQLite,是一款轻型的数据库,是遵守ACID的关系型数据库管理系统,它包含在一个相对小的C库中。它是D.RichardHipp建立的公有领域项目。它的设计目标是嵌入式的,而且已经在很多嵌入式产品中使用了它,它占用资源非常的低,在嵌入式设备中,可能只需要几百K的内存就够了。它能够支持Windows/Linux/Unix等等主流的操作系统,同时能够跟很多程序语言相结合,比如 Tcl、C#、PHP、Java等,还有ODBC接口,同样比起Mysql、PostgreSQL这两款开源的世界著名数据库...
Qt设计较为美观好看的登录注册界面(包含SQLite数据库以及TCP通信的应用)
SQLite是用C语言开发的跨平台小型数据库,可嵌入其他开发语言,也可在单机执行。SPL是用Java开发的跨平台的数据计算语言,可嵌入Java,可在单机执行,可以数据计算服务的形式被远程调用。两者的代码都是解释执行的。...
新建库.openDATA_BASE;新建表createtableLIST_NAME(DATA);语法:NAME关键字...<用逗号分割>删除表droptableNAME;查看表.schema查看表信息新建数据insertintoLIST_NAMEvalues();语法:CLASS,PARAMETER...,CLASS是类别,PARAMETER是参数<用逗号分割新建的
importsqlite3classDemo01:def__init__(self):self.conn=sqlite3.connect("sql_demo_001.db")self.cursor1=self.conn.cursor()self.cursor1.execute("select*fromtable_001wherename=?andid=?",('ssss&#0
 在客户端配置文件<configuration>节点下,添加:<connectionStrings>      <add name="localdb" connectionString="Data Source=config/local.db;Version=3;UseUTF16Encoding=True;" providerName="System.Data.SQLite.SQLiteFactory"/&g
提到锁就不得不说到死锁的问题,而SQLite也可能出现死锁。下面举个例子:连接1:BEGIN(UNLOCKED)连接1:SELECT...(SHARED)连接1:INSERT...(RESERVED)连接2:BEGIN(UNLOCKED)连接2:SELECT...(SHARED)连接1:COMMIT(PENDING,尝试获取EXCLUSIVE锁,但还有SHARED锁未释放,返回SQLITE_BUSY)连接2:INSERT...
SQLite是一种嵌入式数据库,它的数据库就是一个文件。由于SQLite本身是C写的,而且体积很小,所以,经常被集成到各种应用程序中,甚至在iOS和Android的App中都可以集成。Python就内置了SQLite3,所以,在Python中使用SQLite,不需要安装任何东西,直接使用。在使用SQLite前,我们先要搞清楚几个概念:表
设计思想————首先要确定有几个页面、和每个页面的大致布局由于是入门,我也是学习了不是很长的时间,所以项目比较low。。。。第一个页面,也就是打开APP的首页面:今天这个博客,先实现添加功能!:首先对主界面进行布局:其中activity_main.xml的代码为<?xmlversion="1.0"encoding="