Dubbo
分布式基础理论
概念
- 分布式系统是若干个独立计算机的集合,这些计算机对于用户来说就像单个相关系统。
- 分布式系统
(distributed system)
是建立在网络之上的软件系统。 - 常规的垂直应用架构已经无法应对日常的网站需求,分布式服务架构以及流动计算架构势在必行,亟需一个治理系统确保架构有条不紊的演进。
发展演变
- 单一应用架构: 当网站流量很小的时候,只需一个应用,将所有功能部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架
(ORM)
是关键。- 适用于小型网站,小型管理系统,将所有功能都部署到一个功能里,简单易用。
- 缺点:性能扩展比较难,协调开发问题,不利于升级维护。
- 垂直应用架构: 当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的
Web
框架(MVC)
是关键。- 通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更易管理,性能扩展也更方便,更有针对性。
- 缺点:公用模块无法重复利用,开发性的浪费。
- 分布式服务架构: 当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的**分布式服务框架
(RPC)
**是关键。 - 流动计算架构: 当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心
(SOA)[Service Oriented Architecture]
是关键。
RPC
RPC[Remote Procedure Call]
是指远程过程调用,是一种进程间的通讯方式,它是一种技术思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程函数,而不用程序员显示编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。
RPC
两个核心模块: 通讯、序列化。
Dubbo核心概念
-
Apache Dubbo (incubating)
是一款高性能、轻量级的开源Java RPC
框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。 -
dubbo
运行流程图如下
-
服务提供者
(Provider):
暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。 -
服务消费者
(Consumer):
调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者从提供者列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。 -
注册中心
(Registry):
注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。 -
监控中心
(Monitor):
服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。 -
调用关系说明:
- 服务容器负责启动,加载,运行服务提供者。
- 服务提供者在启动时,向注册中心注册自己提供的服务。
- 服务消费者在启动时,向注册中心订阅自己所需的服务。
- 注册中心返回服务提供者地址列表给消费者,如有变更,注册中心将基于长连接推送变更数据给消费者
- 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
- 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。
Dubbo配置
配置原则
JVM
启动-D
参数优先,这样可以使用户在部署和启动时进行参数重写,比如在启动时改变协议的端口。xml
次之,如果在xml
中有配置,则dubbo.properties
中的相应配置无效。properties
最后,相当于缺省值,只有xml
没有配置时,dubbo.properties
的相应配置项才会生效,通常用于共享公共配置,比如应用名。
启动时检查
Dubbo
缺省会在启动时检查依赖的服务是否可用,不可用时会抛出异常,阻止Spring
初始化完成,以便上线时,能及早发现问题,默认check="true"
。- 可以通过
check="false"
关闭检查。比如,测试时,有些服务不关心,或者出现了循环依赖,必须有一方先启动。 - 如果你的
Spring
容器是懒加载的,或者通过API
编程延迟引用服务,请关闭check
,否则服务临时不可用时,会抛出异常,拿到null
引用,如果check="false"
,总是会返回引用,当服务恢复时,能自动连上。 - 通俗的说,当你想在未启动服务提供方时就想启动服务消费方,则需要设置
check=false
。 - 配置的含义
dubbo.reference.check=false
,强制改变所有reference
的check
值,就算配置中有声明,也会被覆盖。dubbo.consumer.check=false
,是设置 check 的缺省值,如果配置中有显式的声明,如:<dubbo:reference check="true"/>
,不会受影响。dubbo.registry.check=false
,前面两个都是指订阅成功,但提供者列表是否为空是否报错,如果注册订阅失败时,也允许启动,需使用此选项,将在后台定时重试。
retries, loadbalance, actives, timeout
都遵循这两个规则。
超时时间
- 精确匹配。即方法级优先,接口次之,全局匹配再次之。
- 如果级别一样,则消费方优先,提供方次之。
其中,服务提供方配置,通过URL
经由注册中心传递给消费方。
重试次数
- 重试次数,不包含第一次调用。即连接次数最多是比重复次数多一次的。
- 遵循的原则与超时时间一样,精确匹配 + 提供方优先。
多版本
- 当一个接口实现,出现不兼容升级时,可以用版本号过渡,版本号不同的服务相互间不引用。
- 可以按照以下的步骤进行版本迁移:
- 在低压力时间段,先升级一半提供者为新版本
- 再将所有消费者升级为新版本
- 然后将剩下的一半提供者升级为新版本
- 如果不需要区分版本,可以按照以下的方式配置
<dubbo:reference id="barService" interface="com.foo.BarService" version="*" />
Dubbo与SpringBoot整合
- 三种整合方式
- 导入
dubbo-starter
,在application.properties
配置属性,使用@Service
和@Reference
暴露服务和引用服务。 - 保留
dubbo
的xml
配置文件,导入dubbo-starter
,使用@ImportResource
导入dubbo
的配置文件即可 - 使用注解
API
的方式:将每一个组件手动创建到容器中,让dubbo
来扫描其它的组件。- 使用
@DubboComponentScan
注解,而@EnableDubbo
注解包含了该注解。
- 使用
- 导入
@Configuration
public class MyDubboConfig {
@Bean
public ApplicationConfig applicationConfig() {
ApplicationConfig applicationConfig = new ApplicationConfig();
applicationConfig.setName("boot-user-service-provider");
return applicationConfig;
}
//<dubbo:registry protocol="zookeeper" address="127.0.0.1:2181"></dubbo:registry>
@Bean
public RegistryConfig registryConfig() {
RegistryConfig registryConfig = new RegistryConfig();
registryConfig.setProtocol("zookeeper");
registryConfig.setAddress("127.0.0.1:2181");
return registryConfig;
}
//<dubbo:protocol name="dubbo" port="20882"></dubbo:protocol>
@Bean
public ProtocolConfig protocolConfig() {
ProtocolConfig protocolConfig = new ProtocolConfig();
protocolConfig.setName("dubbo");
protocolConfig.setPort(20882);
return protocolConfig;
}
/**
* <dubbo:service interface="com.atguigu.gmall.service.UserService"
* ref="userServiceImpl01" timeout="1000" version="1.0.0">
* <dubbo:method name="getUserAddressList" timeout="1000"/>
* </dubbo:service>
*/
@Bean
public ServiceConfig<UserService> userServiceConfig(UserService userService){
ServiceConfig<UserService> serviceConfig = new ServiceConfig<>();
serviceConfig.setInterface(UserService.class);
serviceConfig.setRef(userService);
serviceConfig.setVersion("1.0.0");
//配置每一个method的信息
MethodConfig methodConfig = new MethodConfig();
methodConfig.setName("getUserAddressList");
methodConfig.setTimeout(1000);
//将method的设置关联到service配置中
List<MethodConfig> methods = new ArrayList<>();
methods.add(methodConfig);
serviceConfig.setMethods(methods);
return serviceConfig;
}
}
高可用
zookeeper和dubbo
zookeeper
注册中心宕机,还可以消费dubbo
暴露的服务
- 健壮性
- 监控中心宕机不影响使用,只是丢失部分采样数据。
- 数据库宕掉之后,注册中心仍能通过缓存提供服务列表查询,但不能注册新服务。
- 注册中心对等集群,任意一台宕掉后,将自动切换到另一台。
- 注册中心全部宕掉后,服务提供者和服务消费者仍能通过本地缓存通讯。
- 服务提供者无状态,任意一台宕掉后,不影响使用。
- 服务提供者全部宕掉后,服务消费者应用将无法使用,并无限次重连等待服务提供者恢复。
- 高可用: 通过设计,减少系统不能提供服务的时间。
负载均衡配置
在集群负载均衡时,
Dubbo
提供了多种均衡策略,缺省为random
随机调用。
Random LoadBalance
- 随机,按权重设置随机概率。
- 在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。
RoundRobin LoadBalance
- 轮询,按公约后的权重设置轮询比率。
- 存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。
LeastActive LoadBalance
- 最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。
- 使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。
ConsisentHash LoadBalance
- 一致性
Hash
,相同参数的请求总是发到同一提供者。 - 当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。
- 一致性
服务降级
- 概念:当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。
- 可以通过服务降级功能临时屏蔽某个出错的非关键服务,并定义降级后的返回策略。
- 向注册中心写入动态配置覆盖规则:
RegistryFactory registryFactory = ExtensionLoader.getExtensionLoader(RegistryFactory.class).getAdaptiveExtension();
Registry registry = registryFactory.getRegistry(URL.valueOf("zookeeper://10.20.153.10:2181"));
registry.register(URL.valueOf("override://0.0.0.0/com.foo.BarService?category=configurators&dynamic=false&application=foo&mock=force:return+null"));
mock=force:return+null
表示消费方对该服务的方法调用都直接返回null
值,不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。- 还可以改为
mock=fail:return+null
表示消费方对该服务的方法调用在失败后,再返回null
值,不抛异常。用来容忍不重要服务不稳定时对调用方的影响。
集群容错
在集群调用失败时,
Dubbo
提供了多种容错方案,缺省为failover
重试。
Failover Cluster
- 失败自动切换,当出现失败,重试其它服务器。通常用于读操作,但重试会带来更长延迟。可通过
retries="2"
来设置重试次数(不含第一次)
。
- 失败自动切换,当出现失败,重试其它服务器。通常用于读操作,但重试会带来更长延迟。可通过
<dubbo:service retries="2" /> 或
<dubbo:reference retries="2" /> 或
<dubbo:reference>
<dubbo:method name="findFoo" retries="2" />
</dubbo:reference>
Failfast Cluster
- 快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。
Failsafe Cluster
- 失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。
Failback Cluster
- 失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。
Forking Cluster
- 并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过
forks="2"
来设置最大并行数。
- 并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过
Broadcast Cluster
- 广播调用所有提供者,逐个调用,任意一台报错则报错。通常用于通知所有提供者更新缓存或日志等本地资源信息。
整合Hystrix
Hystrix
旨在通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。Hystrix
具备拥有回退机制和断路器功能的线程和信号隔离,请求缓存和请求打包,以及监控和配置等功能。
Dubbo原理
RPC原理
一次完整的
RPC
调用流程如下
- 服务消费方
(client)
以本地调用方式调用服务; client stub
接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体;client stub
找到服务地址,并将消息发送到服务端;server stub
收到消息后解码;server stub
根据解码结果调用本地的服务;- 本地服务执行并将结果返回给
server stub
; server stub
将返回结果打包成消息并发送至消费方;client stub
接收到消息,并进行解码;- 服务消费方得到最终结果。
RPC
框架的目标就是要2~8
这些步骤都封装起来,这些细节对用户来说是透明的,不可见的。
netty通信原理
-
Netty
是一个异步事件驱动的网络应用程序框架, 用于快速开发可维护的高性能协议服务器和客户端。它极大地简化并简化了TCP
和UDP
套接字服务器等网络编程。
-
Selector
一般称为选择器,也可以翻译为多路复用器; -
Connect(连接就绪)、Accept(接收就绪)、Read(读就绪)、Write(写就绪)
-
Netty
基本原理
dubbo原理
框架设计
config
配置层: 对外配置接口,以ServiceConfig, ReferenceConfig
为中心,可以直接初始化配置类,也可以通过Spring
解析配置生成配置类。proxy
服务代理层: 服务接口透明代理,生成服务的客户端Stub
和服务端Skeleton
,以ServiceProxy
为中心,中心接口为ProxyFactory
。registry
注册中心层: 封装服务地址的注册与发现,以服务URL
为中心,扩展接口为RegistryFactory, Registry, RegistryService
。cluster
路由层: 封装多个提供者的路由及负载均衡,并桥接注册中心,以Invoker
为中心,扩展接口为Cluster, Directory, Router, LoadBalance
。monitor
监控层:RPC
调用次数和调用时间监控,以Statistics
为中心,扩展接口为MonitorFactory, Monitor, MonitorService
。protocol
远程调用层: 封装RPC
调用,以Invocation, Result
为中心,扩展接口为Protocol, Invoker, Exporter
。exchange
信息交换层: 封装请求响应模式,同步转异步,以Request, Response
为中心,扩展接口为Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer
。transport
网络传输层: 抽象mina
和netty
为统一接口,以Message
为中心,扩展接口为Transporter, Channel, Client, Server, Codec
。serialize
数据序列化层: 可复用的一些工具,扩展接口为Serialization, ObjectInput, ObjectOutput, ThreadPool
。
服务暴露
服务引用
服务调用