熔断机制

转载自 http://blog.csdn.net/z69183787/article/details/54667579 服务熔断（过载保护、断路保护）和服务降级（不要太在意名称，理解意思就行） 伴随着 微服务 架构 被宣传得如火如荼，一些概念也被推到了我们面前（管你接受不接受），其实大多数概念以前就有，但很少被提的这么频繁（现在好像不提及都不好意思交流了）。想起有人总结的一句话，微服务架构的特点就是：“一解释就懂，一问就不知，一讨论就吵架”。 其实对老外的总结能力一直特别崇拜，Kevin Kelly、Martin Fowler、Werner Vogels……，都是著名的“演讲家”。正好这段时间看了些微服务、容器的相关资料，也在我们新一代产品中进行了部分实践，回过头来，再来谈谈对一些概念的理解。 今天先来说说“ 服务熔断 ”和“ 服务降级 ”。为什么要说这个呢，因为我很长时间里都把这两个概念同质化了，不知道这两个词大家怎么理解，一个意思or有所不同？现在的我是这么来看的： 在股票市场，熔断这个词大家都不陌生，是指当股指波幅达到某个点后，交易所为控制风险采取的暂停交易措施。相应的，服务熔断一般是指软件系统中，由于某些原因使得服务出现了过载现象，为防止造成整个系统故障，从而采用的一种保护措施，所以很多地方把熔断亦称为过载保护。 大家都见过女生旅行吧，大号的旅行箱是必备物

说明 原创不易，如若转载 请标明来源！ 欢迎关注本人微信公众号： 壹枝花算不算浪漫 更多内容也可查看本人博客： 一枝花算不算浪漫 前言 前情回顾 上一讲我们讲解了Hystrix在配合feign的过程中，一个正常的请求逻辑该怎样处理，这里涉及到线程池的创建、HystrixCommand的执行等逻辑。 如图所示： 高清大图：https://www.processon.com/view/link/5e1c128ce4b0169fb51ce77e 本讲目录 这一讲开始讲解Hystrix的看家本领：熔断+降级。 熔断功能是Hystrix最核心的组件，当然也是最复杂的一块。 源码中细节太多，本讲我们主要还是专注于它的设计思想去学习。 目录如下： HystrixCircuitBreaker初始化过程 Hystrix熔断机制(CLOSED/OPEN/HALF_OPEN) fallback降级机制 源码分析 HystrixCircuitBreaker初始化过程 我们还是会以 AbstractCommand 为突破口，这里继续看它的构造函数，其中里面有初始化熔断器 initCircuitBreaker() 的过程，具体代码如下： abstract class AbstractCommand<R> implements HystrixInvokableInfo<R>, HystrixObservable

文章目录 一、服务雪崩效应 二、服务熔断服务降级 三、hystrix默认超时时间设置 四、hystrix服务监控dashboard 一、服务雪崩效应 当一个请求依赖多个服务的时候： 正常情况下的访问（图解） 但是，当请求的服务中出现无法访问、异常、超时等问题时（图中的I），那么用户的请求将会被阻塞。 如果多个用户的请求中，都存在无法访问的服务，那么他们都将陷入阻塞的状态中。 Hystrix的引入，可以通过服务熔断和服务降级来解决这个问题。 二、服务熔断服务降级 Hystrix断路器简介 hystrix对应的中文名字是“豪猪”，豪猪周身长满了刺，能保护自己不受天敌的伤害，代表了一种防御机制，这与hystrix本身的功能不谋而合，因此Netflix团队将该框架命名为Hystrix，并使用了对应的卡通形象做作为logo。 在一个分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，如何能够保证在一个依赖出问题的情况下，不会导致整体服务失败，这个就是Hystrix需要做的事情。Hystrix提供了熔断、隔离、Fallback、cache、监控等功能，能够在一个、或多个依赖同时出现问题时保证系统依然可用。 Hystrix服务熔断服务降级@HystrixCommand fallbackMethod 熔断机制是应对雪崩效应的一种微服务链路保护机制。 当某个服务不可用或者响应时间超时

有很多人将 服务降级 和 服务熔断 混在一起，认为是一回事！ 为什么我会有这样的误解呢？ 针对下面的情形，如图所示 当 Service A 调用 Service B ，失败多次达到一定阀值， Service A 不会再去调 Service B ，而会去执行本地的降级方法！ 对于这么一套机制:在Spring cloud中结合Hystrix,将其称为熔断降级! 所以我当时就以为是一回事了，毕竟熔断和降级是一起发生的，而且这二者的概念太相近了！ 正文 服务雪崩 OK，我们从服务雪崩开始讲起！假设存在如下调用链 而此时， Service A 的流量波动很大，流量经常会突然性增加！那么在这种情况下，就算 Service A 能扛得住请求， Service B 和 Service C 未必能扛得住这突发的请求。 此时，如果 Service C 因为抗不住请求，变得不可用。那么 Service B 的请求也会阻塞，慢慢耗尽 Service B 的线程资源， Service B 就会变得不可用。紧接着， Service A 也会不可用，这一过程如下图所示 如上图所示，一个服务失败，导致整条链路的服务都失败的情形，我们称之为服务雪崩。 ps： 谁发明的这个词，真是面试装13必备！ 那么，服务熔断和服务降级就可以视为解决服务雪崩的手段之一。 服务熔断 那么，什么是服务熔断呢？ 服务熔断

一、为什么需要断路器 服务雪崩：多个微服务之间调用的时候，假设微服务A调用服务B和服务C，微服务B和微服务C有又调用其他的的微服务，这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”。 对于高流量的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源都在几秒内饱和。比失败更糟糕的是，这些应用程序还可能导致服务器之间的延迟增加，备份队列，线程和其他系统资源紧张，导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统 二、什么是Hystrix Hystrix是一个用于处理分布式系统的延迟和容错的开源库，分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。 “断路器”本身是一种开关装置，当某个服务单元发生故障以后，通过断路器的故障监控（类似熔断保险丝），向调用方放回一个符合预期的、可处理的备选响应（FallBack），而不是长时间的当代或者抛出调用方无法处理的异常，这样就保证了服务调用方的线程不会被长时间的、不必要的占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩 三、Hystrix服务熔断

1. 降级 服务降级是当服务器压力剧增的情况下，根据当前业务情况及流量对一些服务和页面有策略的降级，以此释放服务器资源以保证核心任务的正常运行。 2. 限流 服务限流是指当系统资源不足以应对大量请求，为了保证有限的资源能够正常服务，因此对系统按照预设的规则进行流量限制。 3. 熔断 熔断这一概念来源于电子工程中的断路器（Circuit Breaker）。 在互联网系统中，当下游服务因访问压力过大而响应变慢或失败，上游服务为了保护系统整体的可用性，可以暂时切断对下游服务的调用。 这种牺牲局部，保全整体的措施就叫做熔断。如果不采取熔断措施，一旦下游服务由于某些原因变得不可用，积压了大量请求，上游服务的请求线程也随之阻塞。线程资源逐渐耗尽，使得上游服务也变得不可用，整个调用链路被拖垮。产生雪崩效应。 熔断机制：在固定时间窗口内，接口调用超时比率达到一个阈值，会开启熔断。进入熔断状态后，后续对该服务接口的调用不再经过网络，直接执行本地的默认方法，达到服务降级的效果。经过了规定时间之后，服务从熔断状态恢复过来，再次接受调用方的远程调用。 应用举例，Spring Cloud Hystrix 是基于 Netflix 的开源框架 Hystrix 实现。 来源： https://www.cnblogs.com/yutb/p/11928523.html

一、熔断器简介 微服务架构特点就是多服务，多数据源，支撑系统应用。这样导致微服务之间存在依赖关系。如果其中一个服务故障，可能导致系统宕机，这就是所谓的雪崩效应。 1、服务熔断 微服务架构中某个微服务发生故障时，要快速切断服务，提示用户，后续请求，不调用该服务，直接返回，释放资源，这就是服务熔断。 熔断生效后，会在指定的时间后调用请求来测试依赖是否恢复，依赖的应用恢复后关闭熔断。 2、服务降级 服务器高并发下，压力剧增的时候 ,根据当业务情况以及流量，对一些服务和页面有策略的降级(可以理解为关闭不必要的服务)，以此缓解服务器资源的压力以保障核心任务的正常运行。 双十一期间，支付宝很多功能都会提示， [双十一期间，保障核心交易，某某服务数据延迟]。 3、核心依赖 <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix</artifactId> </dependency> 4、核心注解 •@EnableHystrix 启动类注解控制熔断功能。 •@HystrixCommand 方法注解，熔断控制配置。 5、案例模块描述 演示基于 Ribbon服务的熔断 node03-consume-8001 演示基于 Feign服务的熔断 node03

什么是服务雪崩？ 单个服务发生故障，占用过多的系统资源，从而导致级联故障的情况称为服务雪崩。 什么是Hystrix？ 在分布式环境中，许多服务依赖项中的一些必然会失败。(服务挂了) Hystrix是一个库，通过添加延迟容忍和容错逻辑，控制这些分布式服务之间的交互。 Hystrix通过隔离服务之间的访问点、停止级联失败和提供回退选项来实现这一点，所有这些都可以提高系统的整体弹性。 容错：允许犯错，在微服务开放中主要体现在服务故障。 简言之，Hystrix是一个实现 容错机制 的组件。【也是实现高可用的目的】 Hystrix的主要作用 为网络请求设置超时 使用断路器模式 什么是断路器模式？ 家用空开就是一种断路器模式，前身是保险丝。假设某个电器负载过大而损坏，空开会跳闸，而保险丝会熔断。 假设没有空开或者保险丝呢？引起更大的电路故障，甚至导致火灾，再扩张可能会烧到邻居家的房子。 对于微服务来说同样如此，当某一个服务出现问题时，使用断路器关停服务，不会导致由于持续访问导致的资源占有从而引起其他服务的正常运行。 服务熔断与服务降级 服务熔断指的是当网络请求达到某一个阈值（可设置）时，为了防止服务过载，占用系统资源，暂停该服务的调用，使服务降级。【服务没挂，但是担心挂了，就让服务暂时休息一下】 服务降级涉及的范围更大， 超时降级：主要配置好超时时间和超时重试次数和机制

什么是服务雪崩？ 单个服务发生故障，占用过多的系统资源，从而导致级联故障的情况称为服务雪崩。 什么是Hystrix？ 在分布式环境中，许多服务依赖项中的一些必然会失败。(服务挂了) Hystrix是一个库，通过添加延迟容忍和容错逻辑，控制这些分布式服务之间的交互。 Hystrix通过隔离服务之间的访问点、停止级联失败和提供回退选项来实现这一点，所有这些都可以提高系统的整体弹性。 容错：允许犯错，在微服务开放中主要体现在服务故障。 简言之，Hystrix是一个实现 容错机制 的组件。【也是实现高可用的目的】 Hystrix的主要作用 为网络请求设置超时 使用断路器模式 什么是断路器模式？ 家用空开就是一种断路器模式，前身是保险丝。假设某个电器负载过大而损坏，空开会跳闸，而保险丝会熔断。 假设没有空开或者保险丝呢？引起更大的电路故障，甚至导致火灾，再扩张可能会烧到邻居家的房子。 对于微服务来说同样如此，当某一个服务出现问题时，使用断路器关停服务，不会导致由于持续访问导致的资源占有从而引起其他服务的正常运行。 服务熔断与服务降级 服务熔断指的是当网络请求达到某一个阈值（可设置）时，为了防止服务过载，占用系统资源，暂停该服务的调用，使服务降级。【服务没挂，但是担心挂了，就让服务暂时休息一下】 服务降级涉及的范围更大， 超时降级：主要配置好超时时间和超时重试次数和机制