inotify

实时同步工具原理解释及环境准备inotify

不羁岁月 提交于 2019-12-19 00:56:16
实时同步,确保主服务器故障时将丢失数据的风险降到最低,实现原理就是当主服务器接收到数据时同时复制到另一服务器上,确保有多一份数据。 用到的工具:inotify或者sersync,这次使用inotify演示。 当inotify运行时会时刻监控着文件系统(inode、block等属性) 当inotify监控到目录有增加、修改、删除、移动操作时会调用rsync命令将目录传输到热备器上。 image 部署: 安装inotify,检查系统是否支持inotify Linux内核从2.6.13起加入inotify 出现如下所示则表示支持 image 自带ISO没有inotify,需要自己下载 https://github.s3.amazonaws.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz 安装inotify需要C编译器支持,需要提前安装gcc编译器 否则可能出现这个错误 image 可以使用echo $?查看是否有错误 0没错误 1有错误 image 安装命令: tar zxf inotify-tools-3.14.tar.gz cd inotify-tools-3.14/ ./configure --prefix=/usr/local/inotify-tools-3.14 echo $? make &&

linux系统中rsync+inotify实现服务器之间文件实时同步

喜欢而已 提交于 2019-12-18 04:46:04
最近需要对服务器上的文件实施动态备份,我又不想每次都手动来进行备份,在网上找了挺多资料,发现使用rsync就可以实现,如果想要实现实时同步,还可以使用rsync+inotify组合,本文就是以组合方式来完成的。 先介绍一下rsync与inotify。 1、rsync 与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了! 2、inotify Inotify 是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起

inotify_add_watch fails on /sys/class/net/eth0/operstate

|▌冷眼眸甩不掉的悲伤 提交于 2019-12-17 20:42:07
问题 I have used inotify in Linux, to get the event raised when ever the network interface link changes. whenever interface link changes, /sys/class/net/eth40/operstate/ file gets modified. But in the below code snippet even though the file is getting modified, read function is still in blocked state. #include <stdio.h> #include <sys/inotify.h> #include <stdlib.h> #include <limits.h> #include <signal.h> #define FILE_TO_WATCH "/sys/class/net/eth40/operstate" #define EVENT_SIZE (sizeof (struct

rsync远程同步

南楼画角 提交于 2019-12-17 19:07:10
rsync远程同步 rsync 一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步 官方网站: httop://rsync.samba.org 配置rsync源 [root@localhost ~]# rpm -q rsync //查看rsync软件包是否存在 基本思路 建立rsyncd.conf配置文件、独立的账号文件 启用rsync的--daemon模式 配置文件rsyncd.conf 需要手动建立、语法类似于Samba配置 认证配置auth users、secrets file,不加则为匿名 配置rsync源服务器 [root@localhost ~]# vim /etc/rsyncd.conf uid = nobody gid = nobody //匿名用户 use chroot = yes //禁止进入家目录 address = 192.168.45.133 port 873 log file = /var/log/rsyncd.log pid file = /var/run/rsyncd.pid hosts allow = 192.168.45.0/24 dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2 [wwwroot] path = /var

rsync远程同步——(实战!)

ⅰ亾dé卋堺 提交于 2019-12-16 12:41:48
关于rsync 一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH,rsync主机同步 配置rsync源服务器 rsync同步源 指备份操作的远程服务器,也称为备份源 配置rsync源 基本思路 建立rsync.conf配置文件,独立的账号文件 启用rsync的--daemon模式 应用示例 用户backuper,允许下行同步 操作的目录为/var/www/html 配置文件rsyncd.conf 需手动建立,语法类似于Samba配置 认证配置auth users,secrets file,不加则为匿名 rsync账号文件 采用“用户名:密码”的记录格式,每行一个用户记录 独立的账号数据,不依赖于系统账号 启用rsync服务 通过--daemon独自提供服务 执行kill $(cat /var/run/rsync.pid)关闭rsync服务 使用rsync备份工具 rsync命令的用法 rsync [选项] 原始位置 目标位置 常用选项 -a:归档模式,递归并保留对象属性,等用于-rlptgoD -v:显示同步过程的详细信息 -z:在传输文件时进行压缩 -H:保留硬连接文件 -A:保留ACL属性信息 --delete:删除目标位置有而原始位置没有的文件 --checksum:根据对象的校验和来决定是否跳过文件 配置源的两种表示方法 格式1:用户名

rsync-----远程同步

吃可爱长大的小学妹 提交于 2019-12-16 10:02:19
一、rsync同步简介 (1)、Remote Sync ----- 远程同步,支持本地复制,或者与其他SSH 、rsync主机同步,功能类似于scp,但是要比scp丰富。 (2)、特点 1、可以镜像保存整个目录树和文件系统。 2、可以很容易做到保持原来文件的权限、时间、软硬链接等等,无须特殊权限即可安装。 3、快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。 4、安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。 支持匿名传输,以方便进行网站镜像。 二、rsync命令的用法 rsync [ 选项 ] 原始位置 目标位置 常用选项 - a : 归档模式,递归并保留对象属性,等同于 - rlptgoD - v : 显示同步过程的详细信息 - z : 在传输文件时进行压缩 - H : 保留硬链接文件 - A : 保留 ACL属性信息 -- delete :删除目标位置有,而原始位置没有的文件 -- checksum :根据对象的校验和来决定是否跳过文件 格式1 :用户名@主机地址::共享模块名 格式2: :rsync: / / 用户名@主机地址 / 共享模块名 rsync源的免交互处理: 使用 -- password - file=密码文件 三

centos7下部署rsync+innotify实现数据同步

≯℡__Kan透↙ 提交于 2019-12-16 09:51:19
转自: https://blog.51cto.com/12244079/2336264?source=dra 一、文档目的 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足。 首先,rsync在同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的,并且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。 其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。 基于以上两种情况,可以使用rsync+inotify的组合来解决,可以实现数据的实时同步 二、环境准备 2.1 操作系统 两台虚拟机,系统均为centos7 源服务器:10.5.96.41 作为rsync的客户端,部署rsync+inotify 目标服务器:10.5.96.13 作为rsync的服务端,只安装rsync即可 2.2关闭防火墙和selinux 关闭防火墙 # systemctl stop firewalld # systemctl disable firewalld 关闭selinux # sed -i '/^SELINUX=

rsync远程同步(实例!!!)

时光毁灭记忆、已成空白 提交于 2019-12-16 06:26:26
rsync 同步概述: Remote Sync ----- 远程同步,支持本地复制,或者与其他SSH 、rsync主机同步,功能类似于scp,但是要比scp丰富。 官方网站:http://rsync.samba.org rsync 同步特点: 1、可以镜像保存整个目录树和文件系统。 2、可以很容易做到保持原来文件的权限、时间、软硬链接等等,无须特殊权限即可安装。 3、快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。 4、安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。 5、支持匿名传输,以方便进行网站镜像。 实例演示 第一步:配置rsync源服务器 rsync 是系统内核自带的,rpm - q rsync查看包 ,无需额外安装.如果是最小化安装的话,使用 yum安装一下即可 1.修改rsyncd.conf配置文件 [root@server ~]# vim /etc/rsyncd.conf #7、8、9行, uid = nobody gid = nobody use chroot = yes #11行, pid file = /var/run/rsyncd.pid #16行, dont compress = *.gz *.tgz *.zip

rsync远程同步

随声附和 提交于 2019-12-15 03:51:37
一、rsync同步简介 (1)Remote Sync ----- 远程同步,支持本地复制,或者与其他SSH 、rsync主机同步,功能类似于scp,但是要比scp丰富。 官方网站:http : //rsync.samba.org (2)特点: 1、可以镜像保存整个目录树和文件系统。 2、可以很容易做到保持原来文件的权限、时间、软硬链接等等,无须特殊权限即可安装。 3、快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。 4、安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。 支持匿名传输,以方便进行网站镜像。 二、rsync 命令的用法 命令: rsync [选项] 原始位置 目标位置 常用选项: -a : 归档模式,递归并保留对象属性,等同于 -rlptgoD -v : 显示同步过程的详细信息 -z : 在传输文件时进行压缩 -H : 保留硬链接文件 -A : 保留 ACL属性信息 --delete :删除目标位置有,而原始位置没有的文件 --checksum :根据对象的校验和来决定是否跳过文件 配置源的两种表示方法: 格式1 :用户名@主机地址::共享模块名 格式2: :rsync://用户名@主机地址/共享模块名 rsync

inotify FD - why is the limit per user id and not per process?

安稳与你 提交于 2019-12-14 03:47:26
问题 In Linux, limit on the number of inotify instances a process can have open is limited by a per user-id max number, specified in /proc/sys/fs/inotify/max_user_instances Natural thing would be to limit it per process, like file FDs for example. Since the inotify FDs are limited by the user id, its more likely to hit the limit on servers where many processes might run with the same user id. But I guess there has to be a reason for this ? This is a programming question because I have to use