数据同步组件otter环境搭建
一、otter介绍 部分说明引用阿里otter项目的wiki 。阿里otter工具地址: https://github.com/alibaba/otter/wiki otter为阿里的一款增量数据同步工具,基于数据库增量日志解析,准实时同步到本机房或异地机房的mysql/oracle数据库. 一个分布式数据库同步系统。 公司最近需要把线下的数据同步到云仓,选用了otter这款工具做mysql的增量数据同步,所以花了几周的时间来趟坑。当然otter也可以做全量数据同步,不过太过于麻烦,可以考虑其他方式先做全量后,再做增量。 otter工作原理 其他的不做介绍了,阿里wiki中有更详细的介绍,这里主要些搭建步骤和躺过的坑。 二、环境搭建 1、mysql 源库mysql需要开启binlog,因为otter是基于canal的,而canal是基于binlog的,so,第一步需要MySQL开启binlog。 开启binlog的方法:Linux修改my.cnf文件,Windows修改MySQL的my.ini文件。具体先百度吧 2、zookeeper搭建 zk可以单击版也可以搭建集群,我搭建的是伪分布式,没那么多机子。具体步骤见我的另一篇博文。 3、otter配置 a)执行SQL文件:为otter新建一个名称为otter库(可以取其他名字),在下载包中(地址: https://github.com