SpringCloud(十)服务雪崩与熔断Hystrix

邮差的信 提交于 2020-02-24 02:42:51

 

 

 

 

@author QYX 由于学习任务繁多,近期暂停了几天搬运,两天后恢复

引入服务熔断Hystrix

 

 

 

简单是来说,在分布式系统中,假如有一个请求需要调用A服务,但A服务出现了问题,则这个请求就会阻塞,那么只要调用服务A的请求都会阻塞,当阻塞的请求越来越多,占用的计算机资源就越来越多。进一步来说,就是一个服务出现问题,可能导致所有的请求都不可用,从而导致整个分布式系统都不可用,这就是“雪崩效应”。

雪崩效应常见场景

  • 硬件故障:如服务器宕机,机房断电,光纤被挖断等。

  • 流量激增:如异常流量,重试加大流量等。

  • 缓存穿透:一般发生在应用重启,所有缓存失效时,以及短时间内大量缓存失效时。大量的缓存不命中,使请求直击后端服务,造成服务提供者超负荷运行,引起服务不可用。

  • 程序BUG:如程序逻辑导致内存泄漏,JVM长时间FullGC等。

  • 同步等待:服务间采用同步调用模式,同步等待造成的资源耗尽。

雪崩效应应对策略

针对造成雪崩效应的不同场景,可以使用不同的应对策略,没有一种通用所有场景的策略,参考如下:

  • 硬件故障:多机房容灾、异地多活等。

  • 流量激增:服务自动扩容、流量控制(限流、关闭重试)等。

  • 缓存穿透:缓存预加载、缓存异步加载等。

  • 程序BUG:修改程序bug、及时释放资源等。

  • 同步等待:资源隔离、MQ解耦、不可用服务调用快速失败等。资源隔离通常指不同服务调用采用不同的线程池;不可用服务调用快速失败一般通过熔断器模式结合超时机制实现。

综上所述,如果一个应用不能对来自依赖的故障进行隔离,那该应用本身就处在被拖垮的风险中。 因此,为了构建稳定、可靠的分布式系统,我们的服务应当具有自我保护能力,当依赖服务不可用时,当前服务启动自我保护功能,从而避免发生雪崩效应。本文将重点介绍使用Hystrix解决同步等待的雪崩问题。

服务隔离

服务降级

Hystrix:

Hystrix [hɪst'rɪks],中文含义是豪猪,因其背上长满棘刺,从而拥有了自我保护的能力。本文所说的Hystrix是Netflix开源的一款容错框架,同样具有自我保护能力。为了实现容错和自我保护,下面我们看看Hystrix如何设计和实现的。

Hystrix设计目标:

  • 对来自依赖的延迟和故障进行防护和控制——这些依赖通常都是通过网络访问的

  • 阻止故障的连锁反应

  • 快速失败并迅速恢复

  • 回退并优雅降级

  • 提供近实时的监控与告警

Hystrix遵循的设计原则:

  • 防止任何单独的依赖耗尽资源(线程)

  • 过载立即切断并快速失败,防止排队

  • 尽可能提供回退以保护用户免受故障

  • 使用隔离技术(例如隔板,泳道和断路器模式)来限制任何一个依赖的影响

  • 通过近实时的指标,监控和告警,确保故障被及时发现

  • 通过动态修改配置属性,确保故障及时恢复

  • 防止整个依赖客户端执行失败,而不仅仅是网络通信

Hystrix如何实现这些设计目标?

  • 使用命令模式将所有对外部服务(或依赖关系)的调用包装在HystrixCommand或HystrixObservableCommand对象中,并将该对象放在单独的线程中执行;

  • 每个依赖都维护着一个线程池(或信号量),线程池被耗尽则拒绝请求(而不是让请求排队)。

  • 记录请求成功,失败,超时和线程拒绝。

  • 服务错误百分比超过了阈值,熔断器开关自动打开,一段时间内停止对该服务的所有请求。

  • 请求失败,被拒绝,超时或熔断时执行降级逻辑。

  • 近实时地监控指标和配置的修改。

Hystrix组件

 

 

 

对RestTemplate的支持

引入hystrix的依赖

order_service

      <!--引入hystrix-->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>         </dependency>

 

 

在启动类中激活Hystrix

order_service

 package qqq; ​ import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.boot.autoconfigure.domain.EntityScan; import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker; import org.springframework.cloud.client.loadbalancer.LoadBalanced; import org.springframework.context.annotation.Bean; import org.springframework.web.client.RestTemplate; ​ @SpringBootApplication @EntityScan("com.qqq.entity") //@EnableFeignClients //激活hystrix @EnableCircuitBreaker public class OrderApplication {     public static void main(String[] args) {         SpringApplication.run(OrderApplication.class,args);     }     /**      * eureka和consul都集成了Ribbon      * 使用spring提供的RestTemplate发送http请求到商品服务      * 1 将RestTemplate对象交给容器管理      * 2 使用其方法完成操作      */     @LoadBalanced //Ribbon自带的负载均衡的注解     @Bean     public RestTemplate restTemplate()     {         return new RestTemplate();     } ​ ​ } ​

配置熔断触发的降级逻辑

在order_service的controller中配置

    /**      * 降级方法      *  和需要收到保护的方法的返回值一致      *  接口参数一致      */     public Product orderFallBack(Long id)     {         Product product=new Product();         product.setProductName("触发降级方法");         return product;     }

在需要受到保护的接口上使用@HystrixCommand配置

     @HystrixCommand(fallbackMethod = "orderFallBack")     @RequestMapping(value = "/buy/{id}",method = RequestMethod.GET)     public Product findById(@PathVariable("id") Long id)     {         Product product=null;         product=productFeginClient.findById(id);         return product;     }

注意事项:

在之前的案例中,请求在超过1秒后都会返回错误信息,这是因为Hystrix的默认超时时长为1,我们可以通过配置修改这个值:

 hystrix:   command:     default:       execution:         isolation:           thread:             timeoutInMillisconds: 3000 #默认的连接超时为1s,如果1s没有返回数据,hystrix会自动触发降级逻辑

配置统一的降级方法:

 package com.qqq.controller; ​ import com.netflix.hystrix.contrib.javanica.annotation.DefaultProperties; import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand; import com.qqq.entity.Product; import com.qqq.fegin.ProductFeginClient; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.cloud.client.ServiceInstance; import org.springframework.cloud.client.discovery.DiscoveryClient; import org.springframework.cloud.client.loadbalancer.LoadBalanced; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RequestMethod; import org.springframework.web.bind.annotation.RestController; import org.springframework.web.client.RestTemplate; ​ import java.util.List; ​ @RestController @RequestMapping("/order") /**  * 指定公共的属性  * 如果过在@DefaultProperties指定了公共的降级方法  * 在@HystrixCommand不需要单独指定了  *  */ @DefaultProperties(defaultFallback = "defaultFallBack") public class OrderController {     //注入RestTemplate对象     @Autowired     private RestTemplate restTemplate;     @Autowired     private ProductFeginClient productFeginClient;     /**      * 使用注解配置熔断保护      *  fallbackmethod:配置熔断之后的降级方法      * @param id      * @return      */     @HystrixCommand     @RequestMapping(value = "/buy/{id}",method = RequestMethod.GET)     public Product findById(@PathVariable("id") Long id)     {         Product product=null;         product=productFeginClient.findById(id);         return product;     }     /**      * 降级方法      *  和需要收到保护的方法的返回值一致      *  接口参数一致      */     public Product orderFallBack(Long id)     {         Product product=new Product();         product.setProductName("触发降级方法");         return product;     }     public Product defaultFallBack()     {         Product product=new Product();         product.setProductName("触发统一的降级方法");         return product;     } } ​

 

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!