MHA高可用群集基本部署

MHA概述

MHA目前在MySQL高可用方面是一个相对成熟的解决方案，它由日本DeNA公司youshimaton(现就职于Facebook公司)开发。

MySQL高可用性环境下故障切换和主从提升的高可用软件。在MySQL故障切换过程中，MHA能做到在0~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA能在最大程度上保证数据的一致性，以达到真正意义上的高可用。

MHA还提供在线主库切换的功能，能够安全地切换当前运行的主库到一个新的主库中(通过将从库提升为主库),大概0.5-2秒内即可完成。

基本部署实验流程

一、实验前期准备

名称	角色	地址
centos7-2	master	192.168.142.203
centos7-3	slave1	192.168.142.132
centos7-min	slave2	192.168.142.172
centos7-4	manger（监控端）	192.168.142.136

二、开始实验

1、所有服务器环境准备

安装epel源（不进行检查）

[root@manger ~]# yum -y install epel-release --nogpgcheck

安装环境包

[root@manger ~]# yum -y install \
perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parellel-ForkManager \
perl-ExtUtils-CBuider \
perl-Extutils-MakeMaker \
perl-CPAN

其中，

perl-DBD-MySQL：针对mysql的Perl模块

perl-Config-Tiny：Perl模块的配置文件

perl-Log-Dispatch：日志文件

perl-Parellel-ForkManager：Perl的多线程管理

perl-ExtUtils-CBuider：管理工具

perl-Extutils-MakeMaker：管理工具

perl-CPAN：Perl模块中的数据库

注意：

MHA 软件包对于每个操作系统版本不一样，这里Cent0S7.4必须选择0. 57版本，

node组件：所有服务器上都要装（包括manager自身）
manager组件：仅需要在manager端上安装

安装node组件

[root@master mha4mysql-node-0.57]# tar zxvf mha4mysql-node-0.57.tar.gz -C /opt/
[root@master mha4mysql-node-0.57]# perl Makefile.PL
[root@master mha4mysql-node-0.57]# make
[root@master mha4mysql-node-0.57]# make install

2、主、从服务器安装mysql

解压软件包、安装软件

[root@master ~]# yum install gcc gcc-c++ ncurses-devel perl-Module-Install -y
[root@master ~]# tar zxf cmake-2.8.6.tar.gz -C /opt
[root@master ~]# cd /opt/cmake-2.8.6
[root@master cmake-2.8.6]# gmake && gmake install
[root@master ~]# tar zxf mysql-5.6.36.tar.gz -C /opt/
[root@master ~]# cd /opt/mysql-5.6.36

//配置并编译安装
[root@master mysql-5.6.36]# ./configure
[root@master mysql-5.6.36]# cmake \
-DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DWITH_EXTRA_CHARSETS=all \
-DSYSCONFDIR=/etc
[root@master mysql-5.6.36]# make && make install

提权，配置环境变量

[root@master mysql-5.6.36]# cp support-files/my-default.cnf /etc/my.cnf              
//使用模板文件进行覆盖
[root@master mysql-5.6.36]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld
[root@master mysql-5.6.36]# chmod +x /etc/rc.d/init.d/mysqld
[root@master mysql-5.6.36]# chkconfig --add mysqld
[root@master mysql-5.6.36]# echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
[root@master mysql-5.6.36]# source /etc/profile
[root@master mysql-5.6.36]# useradd -M -s /sbin/nologin mysql                  //建立程序性用户
[root@master mysql-5.6.36]# chown -R mysql.mysql /usr/local/mysql

//初始化数据库
[root@master mysql-5.6.36]# /usr/local/mysql/scripts/mysql_install_db \
--basedir=/usr/local/mysql/ \
--datadir=/usr/local/mysql/data/ \
--user=mysql

修改mysql配置文件并开启

[root@master ~]# vim /etc/my.cnf
//主服务器上
[mysqld]
server-id = 10
log-slave-updates = true
log-bin = master-bin

//从服务器上
[mysqld]
server-id = 11           //两台从服务器的id不能一样
log-bin = master-bin
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index

//建立软链接方便电脑识别
[root@master ~]# ln -s /usr/local/mysql/bin/mysql /usr/local/sbin/
[root@master ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/local/sbin/

//安全开启服务
[root@master ~]# /usr/local/mysql/bin/mysqld_safe --user=mysql &

在每台数据库中进行提权

[root@master ~]# mysql -uroot -p
#主从同步账户权限
mysql > grant replication slave on *.* to 'myslave'@'192.168.142.%' identified by '123123';
#manger监管用户权限
mysql > grant all privileges on *.* to 'mha'@'192.168.142.%' identified by 'mysql';

#mha用户在每个库中进行授权，否则从库通过主机名连接主库会报错
mysql > grant all privileges on *.* to 'mha'@'master' identified by 'mysql';
mysql > grant all privileges on *.* to 'mha'@'slave1' identified by 'mysql';
mysql > grant all privileges on *.* to 'mha'@'slave2' identified by 'mysql';

部署主从同步

#主服务器查看二进制文件及节点号
mysql > show master status;

#从服务器开启主从
mysql > change master to master_host='192.168.142.203',master_user='myslave',master_password='123123',master_log_file='master-bin.000001',master_log_pos=1335;
mysql > start slave;
mysql > set global read_only=1;    #从库为只读模式

3、配置manager端

安装manager组件（务必保证node组件已完成安装）

[root@manger mha]# tar zxf mha4mysql-manager-0.57.tar.gz -C /opt/
[root@manger mha]# cd /opt/mha4mysql-manager-0.57/
[root@manger mha4mysql-manager-0.57]# perl Makefile.PL
[root@manger mha4mysql-manager-0.57]# make
[root@manger mha4mysql-manager-0.57]# make install

其中，manager和node中存在着许多工具

manager工具（/usr/local/bin）

masterha_manager：启动脚本

masterha_master_monitor：检测master是否宕机

masterha_master_switch：控制故障转移（自动/手动）

masterha_check_repl：检查mysql的复制情况

masterha_check_ssh：检查MHA的SSH配置情况

masterha_check_status：检查MHA当前运行情况（节点是否健康）

masterha_conf_host：添加/删除配置的serer信息

masterha_stop：关闭manager

node脚本（/usr/local/bin）

apply_diff_relay_logs：识别差异的中继日志

purge_relay_logs：清除中继日志

save_binary_logs：用于保存/复制master的二进制日志文件

filter_mysqlbinlog：去除不必要的rollback事件

4、所有主机之间实现免密钥登陆

//manager端→所有数据库免密钥（密码：空）
[root@manger ~]# ssh-keygen -t rsa                //生成密钥对
[root@manger ~]# ssh-copy-id 192.168.142.203           //推送至master
[root@manger ~]# ssh-copy-id 192.168.142.132           //推送至slave1
[root@manger ~]# ssh-copy-id 192.168.142.172           //推送至slave2

//master端→连接的从数据库
[root@master ~]# ssh-keygen -t rsa                 //生成密钥对
[root@master ~]# ssh-copy-id 192.168.142.132          //推送至slave1
[root@master ~]# ssh-copy-id 192.168.142.172          //推送至slave2

//slave1→master&slave2
[root@slave1 ~]# ssh-keygen -t rsa
[root@slave1 ~]# ssh-copy-id 192.168.142.203
[root@slave1 ~]# ssh-copy-id 192.168.142.172

//slave2→master&slave1
[root@slave2 ~]# ssh-keygen -t rsa
[root@slave2 ~]# ssh-copy-id 192.168.142.203
[root@slave2 ~]# ssh-copy-id 192.168.142.132

5、Manager端配置MHA

复制MHA脚本

[root@manger scripts]# cp -ra /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin/

[root@manger scripts]# ll /usr/local/bin/scripts/
总用量 32
-rwxr-xr-x. 1 1001 1001  3648 5月  31 2015 master_ip_failover                //实现故障转移，VIP的浮动
-rwxr-xr-x. 1 1001 1001  9870 5月  31 2015 master_ip_online_change            //在线切换
-rwxr-xr-x. 1 1001 1001 11867 5月  31 2015 power_manager             //故障发生后关闭主机
-rwxr-xr-x. 1 1001 1001  1360 5月  31 2015 send_report                  //发生故障后报警

[root@manger scripts]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin/

修改故障转移脚本

[root@manger scripts]# vim /usr/local/bin/master_ip_failover
##原内容全部删除，新增
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.142.100';                    #飘逸地址
my $brdc = '192.168.142.255';                #广播地址
my $ifdev = 'ens33';                   #网卡名
my $key = '1';                #虚拟网卡的序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";                #使用虚拟地址进行
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

创建MHA软件目录并修改配置文件

[root@manger bin]# mkdir /etc/masterha
[root@manger bin]# cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/             #从挂载目录拷贝配置文件

[root@manger bin]# vim /etc/masterha/app1.cnf
#删除原有，新增
[server default]
    #manager日志文件位置
manager_log=/var/log/masterha/app1/manager.log
    #manager工作目录
manager_workdir=/var/log/masterha/app1
    #master保存binlog位置，位置要与master的设置相同
master_binlog_dir=/usr/local/mysql/data
    #设置failover时自动切换脚本
master_ip_failover_script=/usr/local/bin/master_ip_failover
    #设置手动切换时切换的脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
    #监管用户mha的密码
password=mysql
    #监管用户
user=mha
    #监控主控，发送ping包间隔（默认3s），三次无回应视为failover
ping_interval=1
    #设置远端mysql在发送切换时binlog的保存位置
remote_workdir=/tmp
    #复制用户密码（之前在数据库中设置的）
repl_password=123123
    #复制用户
repl_user=myslave
    #指定需要检查到的从服务器地址
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.142.132 -s 192.168.142.172
    #设置故障发生后关闭故障主机的脚本“”表示没有使用
shutdown_script=""
    #设置ssh登陆用户名
ssh_user=root

[server1]
hostname=192.168.142.203
port=3306

[server2]
    #设置为候选master
candidate_master=1
check_repl_delay=0
hostname=192.168.142.132
port=3306

[server3]
hostname=192.168.142.172
port=3306

执行健康检查

//检查密钥对是否生效
[root@manger bin]# masterha_check_ssh --conf=/etc/masterha/app1.cnf
//检查复制文件能否生效
[root@manger bin]# masterha_check_repl --conf=/etc/masterha/app1.cnf

进行健康检查时，可能会出现ERROR的情况，

健康检查ERROR解决方法
错误：
Sat Dec 14 22:01:09 2019 - [error][/usr/local/share/perl5/MHA/ServerManager.pm, ln492] Server 192.168.142.172(192.168.142.172:3306) is dead, but must be alive! Check server settings.
Sat Dec 14 22:01:09 2019 - [error][/usr/local/share/perl5/MHA/MasterMonitor.pm, ln427] Error happened on checking configurations. at /usr/local/share/perl5/MHA/MasterMonitor.pm line 402.
Sat Dec 14 22:01:09 2019 - [error][/usr/local/share/perl5/MHA/MasterMonitor.pm, ln525] Error happened on monitoring servers.
解决方法：
（1）关闭防火墙
（2）清除iptables规则：iptables -F

首次配置需在主服务器上手动开启虚拟IP

[root@master ~]# /sbin/ifconfig ens33:1 192.168.142.100/24

启动MHA

[root@manger app1]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

//查看MHA状态
[root@manger app1]# masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:55255) is running(0:PING_OK), master:192.168.142.203

//查看MHA日志文件
[root@manger app1]# cat /var/log/masterha/app1/manager.log

其中，