点击蓝字关注嘉为科技~
以产品设计理念剖析企业建设故障自动化处理方案的思路
人工处理告警,一直是运维心中的痛。大年初一拜年、结婚、和老婆孩子外出过周末等美好时光,作为运维的你,好像一直心系IT系统,保持与笔记本的安全距离。
为什么这么多年过去了,还是这么苦逼,不是说运维行业转 AIOps了,我竟然还在手工处理告警,我该怎么办?
今天就和大家聊聊实现故障自愈要攻克的3个问题,以及献上开箱即用的方案。
1. 故障自愈的基本流程
自动化的要点是什么?把人的经验抽象、固化为程序处理,工业(第3次工业革命)或互联网都是如此。
举个例子,磁盘出现告警,运维首先想到的是登陆服务器清理磁盘。
(人工处理告警的流程)
接下来,我们拆解背后的逻辑。
1.1 抽象告警处理流程
1) 拉取磁盘告警
2) 编写磁盘清理的脚本或作业任务
3) 设计模块:把拉取到的磁盘告警,与调用脚本的模块串起来
(故障自愈流程 简化版V1)
1.2 通过CMDB做资源清洗
不同模块的磁盘清理方案不一样,如何解决呢?
这时需要引入CMDB(设备、人、业务的映射关系),通过CMDB把 IP
清洗为 模块
,这样就解决了接入层 和 逻辑层、存储层的告警使用对应的磁盘清理方案。
(故障自愈流程 简化版V2)
1.3 对接企业内部网关
故障自愈可能会处理失败,这时需要通知用户。故障自愈的处理方式除了调用作业外,还可能需要调用企业内部的网关,比如服务器重启、申请服务器等。
使用PaaS层的ESB是一种解决思路,通过ESB封装企业内部网关,解决权限校验、频率控制、访问统计、路由分发以及自助接入等功能,不要直接调用裸接口了。
(故障自愈的通知方案)
经过这一轮的探索,故障自愈的架构就是下面这个样子。
(故障自愈的流程)
1.4 对接企业内部监控产品
等等,好像还没说如何对接企业内部的监控产品,以Zabbix、Open-Falcon为例。
1.4.1 对接Zabbix
《当Zabbix遇见故障自愈》介绍了拉取Zabbix告警的方案,通过 ActionScript 调用脚本,把 Zabbix 告警推送至自愈的告警拉取模块。
推送(或叫回调)可以保证告警拉取的实时性。
(Zabbix推送告警示例)
(Zabbix调用推送告警的脚本)
对接Zabbix 的落地案例可以参考陈亮撰写的那些年我们想做的无人值守 。
除Zabbix外,Open-Falcon在国内的社区热度也不错,所以也介绍拉取其告警的方案。
1.4.2 对接Open-falcon
方案类似Zabbix,不过Open-falcon 直接提供了callback功能,简化了流程。
(Open-Falcon配置Callback地址)
收到了Open-Falcon 推送的告警后,解析对应的字段即可。
如果企业内部的CMDB以IP来标识主机,需要再做一层转换,因为Open-Falcon 的资源标识endpoint
默认是主机名,那么就需要使用CMDB的自动发现功能自动上报主机名,同时提供把主机名清洗为IP的功能。
下面是Nginx模块磁盘告警的自愈示例,匹配Nginx模块的磁盘清理套餐,清理Nginx模块的日志文件,整个过程不到30秒。
(磁盘告警的自愈示例)
2. 故障自愈的两面性
故障自动处理就像一把刀,有其两面性。
因为要确保告警的真实性,一旦把假告警也自动处理了,就很悲催了…
举个例子。网络波动,批量出现PING告警。实际上服务器运行正常,这时你把服务器都重启了,那就GG了。
如何解决呢?分析事物的规律。
批量出现告警,那可以在告警拉取模块后面,增加一个收敛模块。
比如,在X时间内出现Y个告警,打电话给运维审批。
X时间内同一主机出现使用相同套餐的告警,则收敛时间窗口中后面的告警则跳过,比如同时收到进程告警 和 端口告警,就不用拉2次进程了。
还有就是,原有监控系统没有收敛能力,那么可以借用这个功能来做告警汇总,因为收敛逻辑一样,只是收敛的处理方式有差异。
3. 复杂告警的处理方案 - 组合套餐
上面提到的技术方案是用来处理逻辑简单的告警,那么故障替换这种复杂的场景如何解决呢?
举个例子,A模块是重要模块,出现PING不可达告警,首先要校验A模块是否真的故障,如果真的故障,接下来是从资源池中获取备机 … 故障替换等等,期间每个环节都有可能出错,那就要考虑异常分支的场景。
树结构可以解决该问题,二叉树足以满足大部分场景(成功、失败两种分支)。
( 组合套餐的示例)
上面这张图,是一个自愈处理方案,可以称之为组合套餐。
这里同时引入了原子的概念,通过组装原子来满足各种需求场景, 和资源编排
说的是同一个理儿。
注:如果你想使用三叉树,其实可以把组合套餐也作为一个原子套餐(节点)。
4. 故障自愈的技术架构
经过前面对故障自愈的基本流程
、故障自愈的两面性
、复杂的故障处理方案
的层层梳理,我们有了一张故障自愈的技术架构图。
相信这次以经行业验证的故障自愈做技术剖析,能对大家建设企业内部的故障自动处理方案提供参考思路。
5. 收尾
当 AIOps大行其道的时候,我们需要克制,优先解决主要矛盾,而不是构建高大上的空中楼阁。
如同产品路线图,优先解决可用性,接下来是体验,最后才是可扩展性和生态,依次落地。
(产品需求模型 by 腾讯8分钟产品课)
最后,希望广大的运维兄弟姐妹能尽早脱离原始运维的苦海,抓住行业发展趋势,掌握核心技术,在变革中实现自身价值!
【开箱即用方案】
1、如果你已经成功搭建部署了社区版4.0,点击阅读原文获取自愈SaaS包,安装应用部署即可。
2、如果还没部署过蓝鲸社区版,下载社区版4.0,安装成功后再获取自愈SaaS包(点击阅读原文)并部署即可。
3、自愈新版近期将开启灰度体验,欢迎小伙伴们关注社区交流群获取最新公告。QQ群(495299374)
关于我们
嘉为科技 —— IT解决方案与服务领先者,拥有嘉维蓝鲸IT自动化运维、IT基础架构服务、应用软件开发、云计算四大系列业务,提供自本地到云端、从标准架构到定制开发的一系列优秀IT解决方案和服务,全新打造嘉维蓝鲸IT自动化运维解决方案、CMDB解决方案、DevOps解决方案等,提升客户信息化水平和市场竞争力,助力客户的业务发展。
嘉为集团 —— 成立于2001年,由嘉为科技和嘉为教育组成,于广州、深圳、北京、上海设有分公司,融IT服务和培训咨询于一体,为客户提供解决方案、运维支持、软件研发及培训教育服务。历经18年的发展和积累,嘉为已成为备受客户赞誉的行业翘楚。
长按识别二维码关注我们
本文分享自微信公众号 - 嘉为科技(canway_service)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。
来源:oschina
链接:https://my.oschina.net/u/4026796/blog/4599066