Hystrix简介
多个微服务之间调用的时候,微服务A调用微服务B,微服务B调用微服务C,如果微服务C出现问题或者响应时间过长,就会导致微服务A占用越来越多的系统资源,进而导致系统崩溃,称为服务雪崩,其是由于提供者不可用导致消费者不可用,并将不可用逐渐放大的过程
如何防止雪崩呢?
- 为网络请求设置超时
- 使用断路器模式
Hystrix是什么
Hystrix是由Netflix开源的一个用于处理分布式系统的延迟和容错的开源库,在分布式系统,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性,”断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控,向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间等待或抛出调用方无法处理的异常,保证了调用方的线程不会被长时间的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩
Hystrix基于命令模式,Command是在Receiver和Invoker之间添加的中间层,Command实现了对Receiver的封装,通过继承HystrixCommand来封装
1 | public abstract class HystrixCommand<R> extends AbstractCommand<R> implements HystrixExecutable<R>, HystrixInvokableInfo<R>, HystrixObservable<R> |
一个HystrixCommand实例只能调用一次
如何做到的容错?
- 包裹请求 使用HystrixCommand包裹对外部依赖的调用逻辑,每个命令在独立的线程/信号量中执行
- 跳闸机制 当某服务的错误率超过一定阈值时,Hystrix可以自动或手动跳闸,停止请求该服务一段时间
- 资源隔离 Hystrix为每个依赖都维护了一个小型的线程池(或信号量),如果该线程池已满,发往该依赖的请求就被立即拒绝,不进行排队等候,从而加速失败判定。防止一个依赖耗尽所有的线程资源
- 监控 Hystrix可以近乎实时地监控运行指标和配置的变化
- 回退机制 当请求失败、超时、被拒,或断路器打开时,执行fallback回退逻辑
- 自我修复 断路器打开一段时间后,会进入半开状态
作用
服务熔断 当下游的服务因为某种原因不可用,上游服务为了保证自己整体服务可用,不再继续调用目标服务,直接返回,快速释放资源,类似于保险丝,当某个异常条件被触发时,直接熔断整个服务,而不是一直等到此服务超时,用于应对雪崩效应的一种保护机制,注解是@HystrixCommand,失败次数达到一定阈值,就会启动熔断,当检测到该服务响应正常后,则恢复调用 熔断是解决服务雪崩的一种方案。与服务降级配合使用
提供者端提供的备用方案
服务降级 当下游的服务因为某种原因不可用,上游服务主动调用本地的一些降级逻辑fallBack方法,快速返回给用户,防止卡顿使得用户一直等待,熔断会导致服务降级,从而调用fallback,返回一个缺省值,虽然服务水平下降,但是不会导致整体挂掉。
消费者端提供的备用方案
服务隔离 在不使用Hystrix的默认情况下,只有一个线程池维护所有的服务接口。如果大量的请求访问同一个接口,达到tomcat线程池的默认最大值,会导致其他接口也无法访问。为了解决该问题,hystrix使用了线程池/信号量隔离,为不同的接口提供独立的线程池,使得各大线程池之间不互相影响。
服务限流 防止高并发情况下所有请求一窝蜂地全部打到服务上,导致服务崩溃
依赖
1 | <!-- hystrix --> |
如果是F版及以上的话,需要使用该依赖
1 | <!-- 新版hystrix --> |
服务端使用hystrix
启动Hystrix
1 |
|
1 |
|
由于每个方法上都要配置fallback方法,导致了代码的过度膨胀,可以在接口类上配置一个全局的默认fallback
1 |
如果方法上有fallback,走方法上的;如果方法上没有,则走类上的全局默认fallback
客户端使用hystrix
由于服务端的降级需要对每个方法进行@HystrixCommand配置,并且声明一个fallback回调方法,过于耦合,所以可以使用客户端来进行解耦
使用feign搭配hystrix来进行服务降级
1 | // feign接口配置回调工厂 |
回调工厂当出现错误时,会执行对应的方法
1 |
|
配置
feign启用hystrix
1 | feign: |