1.Linux下rsync+sersync实现数据实时同步
2.对Linux上使用LUKS加密的部分进行备份
3.大神教你:Lsyncd复制并实时同步到远程服务器
4.在Linux系统中批量删除多个文件的方法总结
Linux下rsync+sersync实现数据实时同步
防止数据丢失,确保数据有备份,并且实时备份,是实时同步的目的。实时同步通过检测当前目录的变化并触发同步至远程服务器,以保证数据连续性,促销升级源码降低维护成本。
sersync与rsync是常用的文件同步工具,两者结合实现高效实时数据同步,尤其适合需要实时备份或同步大量数据的环境。当sersync检测到文件变化时,自动调用rsync同步至远程服务器或备份服务器,减少数据传输,提高数据一致性和安全性。
在配置sersync和rsync实现文件同步时,需要分别在两台服务器上进行设置。首先,确保服务器的防火墙已关闭,然后分别安装sersync和rsync。sersync可能不在官方软件仓库中,需从源代码或预编译的二进制文件安装。查看并修改notify参数,itoa 源码确保其值适当。接下来,编辑sersync的confxml.xml配置文件,设置监控目录、目标服务器信息和同步选项。配置完成后,启动sersync服务。
对于目标服务器,确保rsync已安装。若未安装,可通过包管理器安装。在目标服务器上配置rsync,编辑/etc/rsyncd.conf或创建新配置文件,定义模块和同步选项。创建密码文件,并确保其权限严格,只有所有者可读写。启动rsync守护进程,完成同步配置。
测试同步功能时,在源服务器的mobiscroll 源码/home目录下创建用户目录和新建文件,检查目标服务器上是否实时同步显示。确保一切正常工作,以实现有效数据同步。
对Linux上使用LUKS加密的部分进行备份
我们中有些人出于安全原因,在家里或者VPS上通过Linux统一密钥配置(LUKS)为硬盘驱动器加密,而这些驱动器的容量很快会增长到数十或数百GB。因此,虽然我们享受着LUKS设备带来的安全感,但是我们也该开始考虑一个可能的远程备份方案了。对于安全的非现场备份,我们将需要能在LUKS加密的设备上以块级别操作的东西。因此,最后我们发现这么个状况,我们每次都需要传输想要做备份的整个LUKS设备(比如说GB大)。很明显,这是不可行的。我们该怎么来处理这个问题呢?
一个解决方案: Bdsync
这时,一个卓越的开源工具来拯救我们了,它叫Bdsync(多亏了Rolf Fokkens)。顾名思义,Bdsync可以通过网络同步“块设备”。turboshop 源码对于快速同步,Bdsync会生成并对比本地/远程块设备的块的MD5校验和,只同步差异部分。rsync在文件系统级别可以做的,Bdsync可以在块设备级别完成。很自然,对于LUKS加密的设备它也能工作得很好。相当地灵巧!
使用Bdsync,首次备份将拷贝整个LUKS块设备到远程主机,因而会花费大量时间来完成。然而,在初始备份后,如果我们在LUKS设备新建一些文件,再次备份就会很快完成,因为我们只需拷贝修改过的块。经典的增量备份在起作用了!
安装Bdsync到Linux
Bdsync并不包含在Linux发行版的标准仓库中,因而你需要从源代码来构建它。使用以下针对特定版本的指令来安装Bdsync及其手册页到你的系统中。
Debian,Ubuntu或Linux Mint
代码如下:
$ sudo apt-get install git gcc libssl-dev
$ git clone /TargetHolding/bdsync.git
$ cd bdsync
$ make
$ sudo cp bdsync /usr/local/sbin
$ sudo mkdir -p /usr/local/man/man1
$ sudo sh -c 'gzip -c bdsync.1 /usr/local/man/man1/bdsync.1.gz'
Fedora或CentOS/RHEL
代码如下:
$ sudo yum install git gcc openssl-devel
$ git clone /TargetHolding/bdsync.git
$ cd bdsync
$ make
$ sudo cp bdsync /usr/local/sbin
$ sudo mkdir -p /usr/local/man/man1
$ sudo sh -c 'gzip -c bdsync.1 /usr/local/man/man1/bdsync.1.gz'
对LUKS加密的设备实施非现场增量备份
我假定你已经准备好了一个LUKS加密的块设备作为备份源(如,/dev/LOCDEV)。提交源码同时,我假定你也有一台远程主机,用以作为源设备的备份点(如,/dev/REMDEV)。
你需要在两台系统上具有root帐号访问权限,并且设置从本地访问远程的无密码SSH访问。最后,你需要安装Bdsync到两台主机上。
要在本地主机上初始化一个远程备份进程,我们需要以root执行以下命令:
代码如下:
# bdsync "ssh root@remote_host bdsync --server" /dev/LOCDEV /dev/REMDEV | gzip /some_local_path/DEV.bdsync.gz
这里需要进行一些说明。Bdsync客户端将以root打开一个到远程主机的SSH连接,并执行带有--server选项的Bdsync客户端。明确说明一下,/dev/LOCDEV是我们的本地主机上的源LUKS块设备,而/dev/REMDEV是远程主机上的目标块设备。它们可以是/dev/sda(作为整个磁盘),或者/dev/sda2(作为单个分区)。本地Bdsync客户端的输出结果随后被管道输送到gzip,用来在本地主机中创建DEV.bdsync.gz(所谓的二进制补丁文件)。
你第一次运行上面的命令的时候,它会花费很长一段时间,这取决于你的互联网/局域网速度,以及/dev/LOCDEV的大校记住,你必须有两个大小相同的块设备(/dev/LOCDEV和/dev/REMDEV)。
下一步是要将补丁文件从本地主机拷贝到远程主机。一种方式是使用scp:
代码如下:
# scp /some_local_path/DEV.bdsync.gz root@remote_host:/remote_path
最后一步,是要在远程主机上执行以下命令,它们会将补丁文件应用到/dev/REMDEV:
代码如下:
# gzip -d /remote_path/DEV.bdsync.gz | bdsync --patch=/dev/DSTDEV
我推荐在使用真实数据部署Bdsync前,使用一些(没有任何重要数据)小分区来做这些测试。在你完全弄懂整个设置是如何工作之后,你可以开始备份真实数据。
尾声
小结之,我们演示了如何使用Bdsync来为LUKS设备实施增量备份。和rsync一样,每次备份只有一小部分数据,而不是整个LUKS设备,需要被推送到非现场备份点,这样会节省带宽和备份时间。剩下来,需要通过SSH或SCP来保证所有数据传输的安全,事实上设备自身是由LUKS加密的。也可以通过使用可以运行bdsync的专用用户(而非root)来改进该配置。我们也可以将bdsync用于任何块设备,如LVM卷或RAID磁盘,也可以很轻易地设置Bdsync备份本地磁盘到USB驱动器上。如你所见,它有着无限可能性!
大神教你:Lsyncd复制并实时同步到远程服务器
Lsyncd监视本地目录树事件监视器接口(inotify或fsevents)。它聚合并将事件组合在一起几秒钟,然后生成一个(或多个)进程来同步这些更改。默认情况下,由rsync实现同步。因此,Lsyncd是一种轻量级的实时镜像解决方案,相对容易安装,不需要新的文件系统或块设备,也不会妨碍本地文件系统的性能。
Rsync+ssh是一种高级操作配置,它使用ssh来执行文件和目录直接在目标上移动,而不是在线路上重新传输移动目标。细粒度的定制可以通过配置文件实现。自定义动作configs甚至可以从头编写,从shell脚本到Lua语言编写的代码。这种方法简单,强大,灵活的配置可以被解决。
Lsyncd 2.2.2要求在所有源和目标机器上rsync = 3.1。
系统环境:
RenwoleServer:... 服务端
RenwoleClient:... 客户端
OS:CentOS Linux release 7.4. (Core) x
rsync的安装
请参阅:《CentOS7 Configuring Rsync Server》。
安装扩展依赖包
$ yum install -y gcc gcc-c++ lua lua-devel cmake libxml2 libxml2-devel
源代码编译安装lsyncd
$ wget /axkibe/lsyncd/archive/release-2.2.2.tar.gz$ tar xvf release-2.2.2.tar.gz$ cd lsyncd-release-2.2.2$ cmake -DCMAKE_INSTALL_PREFIX=/usr/local/lsyncd$ make amp;amp; make install$ ln -s /usr/local/lsyncd/bin/lsyncd /usr/bin/lsyncd安装过程可能报错:-- Configuring incomplete, errors occurred!
安装lua-devel即可。
设置无密码SSH登录
因为这里使用rsyncssh进行同步,所以还需要配置root账号无密码ssh登录。详细配置请参阅:
《如何在Linux中设置SSH无密码登录》
配置lsyncd
以下是三种常用配置案例
1.远程同步rsyncssh模式配置方案:
$ vim /etc/lsyncd.confsettings { logfile = /var/log/lsyncd.log,
--日志路径 statusFile = /var/log/lsyncd.status, --状态文件 pidfile = /var/run/lsyncd.pid,
--pid文件路径 statusInterval = 1,
--状态文件写入最短时间 nodaemon = false,
--daemon运行 maxProcesses = 1,
--最大进程 maxDelays = 1,
--最大延迟}sync { default.rsyncssh, --默认rsync+ssh,rsync版本需要升级3以上版本 source = /apps/www/renwoleblog/,
--源目录 delete = true,
--保持完全同步
host = root@...,
targetdir = /apps/www/renwoleblog/bak/, --目标目录 exclude={
.txt
--需排除的文件 },rsync = { binary = /usr/bin/rsync, --需先安装好rsync archive = true,
--归档 compress = false,
--压缩 owner = true,
--属主 perms = true,
--权限 whole_file = false },ssh = { port = }}
2.本地目录同步配置方案:
sync { default.rsync, source = /apps/www/renwoleblog/, target = /apps/www/renwoleblog/bak/,}
3.远程同步rsync-daemon模式配置方案
sync { default.rsync, source = /apps/www/renwoleblog/, target = renwole@...::renwolecom, delete=true, exclude = { .bak* }, delay = , init = false, rsync = { binary = /usr/bin/rsync, archive = true, compress = true, verbose = true, perms = true, password_file = /etc/rsync.password, _extra = { --bwlimit=} }}
重点参数说明:
--
# 注释符settings # 是全局配置sync # 定义同步参数rsync # 定义同步文件参数ssh
# 定义服务器远程端口
lsyncd配置文件允许多个sync互不影响。
说明:如果是一对多,请参阅本地同步,修改目标目录即可。
创建systemctl系统单元文件
为了实现systemctl进行管理,请创建配置文件以及脚本启动文件,命令如下:
$ vim /etc/sysconfig/lsyncd添加如下内容:LSYNCD_OPTIONS=/etc/lsyncd.conf创建启动文件:$ vim /usr/lib/systemd/system/lsyncd.service添加如下内容:[Unit]Description=Live Syncing (Mirror) DaemonAfter=network.target[Service]Type=simpleEnvironmentFile=-/etc/sysconfig/lsyncdExecStart=/usr/local/lsyncd/bin/lsyncd -nodaemon $LSYNCD_OPTIONS[Install]WantedBy=multi-user.target
启动lsyncd并加入开机自启动
$ systemctl start lsyncd$ systemctl enable lsyncd接下来你就可以往源服务器/apps/www/renwoleblog/内上传任意文件,完成后立刻就会同步到客户端 ... /apps/www/renwoleblog/bak/目录内,也可以查看服务端的lsyncd日志文件分析是否同步成功。例如:[root@RenwoleServer ~] $ cat /var/log/lsyncd.log...Fri Dec :: Normal: Calling rsync with filter-list of new/modified files/dirs/PCHunter_renwole.com.tar.gz/Fri Dec :: Normal: Finished (list): 0Fri Dec :: Normal: Calling rsync with filter-list of new/modified files/dirs/PCHunter_renwole.com.tar.gz/Fri Dec :: Normal: Finished (list): 0Fri Dec :: Normal: Calling rsync with filter-list of new/modified files/dirs/PCHunter_renwole.com.tar.gz/Fri Dec :: Normal: Finished (list): 0
日志内容显示PCHunter_renwole.com.rar文件成功同步。
另外lsyncd是基于inotify + rsync的开源同步软件,相对于其他同步软件更加安全可靠,占用资源更少,但配置略麻烦。
lsyncd 还支持当监控到某个指定事件时就执行什么样的命令,由于是通过时间延迟和累计事件命中次数来触发同步,在设计上要优于inotify,另外他的同步速度完全取决于你的网络质量。
在Linux系统中批量删除多个文件的方法总结
当我们在linux系统中要删除数万或者数十万甚至数百万的文件时使用rm -rf *就不太好用,因为要等待很长一段时间。在这种情况之下我们可以使用linux系统命令rsync来巧妙的处理。rsync实际上用的是替换原理,处理数十万个文件也是秒删。
1. rsync安装,有些系统默认安装有该命令
ubuntu系统:
代码如下:
sudo apt-get install rsync
fedora 系统:
代码如下:
sudo yum install rsync
其他的可以源码安装,到下面的网站下载
http://rsync.samba.org
2. rsync提供了一些跟删除有关的参数
rsync --help | grep delete
--del an alias for --delete-during
--delete delete extraneous files from destination dirs
--delete-before receiver deletes before transfer, not during
--delete-during receiver deletes during transfer (default)
--delete-delay find deletions during, delete after
--delete-after receiver deletes after transfer, not during
--delete-excluded also delete excluded files from destination dirs
--ignore-errors delete even if there are I/O errors
--max-delete=NUM don't delete more than NUM files
其中--delete-before接收者在传输之前进行删除操作
3. 示例
清空目录或文件,如下:
1、先建立一个空目录
代码如下:
mkdir /data/blank
2、用rsync删除目标目录
代码如下:
rsync --delete-before -d -a -H -v --progress --stats /data/blank/ /var/edatacache/
或者
代码如下:
rsync --delete-before -d /data/blank/ /var/edatacache/
这样/var/edatacache目录就被快速的清空了。
选项说明:
–delete-before 接收者在传输之前进行删除操作
–progress 在传输时显示传输过程
-a 归档模式,表示以递归方式传输文件,并保持所有文件属性
-H 保持硬连接的文件
-v 详细输出模式
–stats 给出某些文件的传输状态
-d transfer directories without recursing
删除文件夹
如果大量小文件都集中在几个目录中,那么这个方法就有用了。
代码如下:
rm -f /var/log/httpd/access.log
将会强制删除/var/log/httpd/access.log这个文件
-r 就是向下递归,不管有多少级目录,一并删除
-f 就是直接强行删除,不作任何提示的意思
-i 进行交互式删除。
提示:使用rm命令要小心。因为一旦文件被删除,它是不能被恢复的。了防止这种情况的发生,可以使用i选项来逐个确认要删除的文件。如果用户输入y,文件将被删除。如果输入任何其他东西,文件则不会删除。
使用这个rm -rf删除文件的时候一定要格外小心,linux没有回收站的。
rm -r 目录名:
将子目录及子目录中所有档案删除
代码如下:
[root@localhost test]# ls -l
总计 drwxr-xr-x 7 root root - : scf
drwxr-xr-x 2 root root - : test1
drwxr-xr-x 3 root root - : test2
drwxrwxrwx 2 root root - : test3
drwxr-xr-x 2 root root - : test4
drwxr-xr-x 3 root root - : test5
代码如下:
[root@localhost test]# rm -r test1
rm:是否进入目录 “test1”? y
rm:是否删除 一般文件 “test1/log3.log”? y
rm:是否删除 目录 “test1”? y
代码如下:
[root@localhost test]# ls -l
总计 drwxr-xr-x 7 root root - : scf
drwxr-xr-x 3 root root - : test2
drwxrwxrwx 2 root root - : test3
drwxr-xr-x 2 root root - : test4
drwxr-xr-x 3 root root - : test5
[root@localhost test]#
rm -rf 目录名 :
把子目录及子目录中所有档案删除,并且不用一一确认
代码如下:
[root@localhost test]# rm -rf test2
[root@localhost test]# ls -l
总计 drwxr-xr-x 7 root root - : scf
drwxrwxrwx 2 root root - : test3
drwxr-xr-x 2 root root - : test4
drwxr-xr-x 3 root root - : test5
[root@localhost test]#