SpringCloud Alibaba中基本名词解释)
写在前面
-
QPS,即每秒钟处理完请求的次数。这里的请求不是指一个查询或者数据库查询,是包括一个业务逻辑的整个流程,也就是说每秒钟响应的请求次数。
-
RT,即响应时间,处理一次请求所需要的平均处理时间。对于RT,客户端和服务端是大不相同的,因为请求从客户端到服务端,需要经过广域网,所以客户端RT往往远大于服务端RT,同时客户端的RT往往决定着用户的真实体验,服务端RT往往是评估我们系统好坏的一个关键因素。
-
最佳线程数,服务器在很高的请求下,如何配置合适的线程数,过小的话会导致请求RT极具增加,过大也一样RT也会升高。
一、Sentinel 控制台
Sentinel(哨兵),可对大量服务/微服务,前置一个哨兵,但面对大量请求时,让后台服务有序被调用,但某些服务的不可用时,采用服务熔断降级等措施,保证系统的平稳运行。
1.1、实时监控
两个基本名词
p_qps,每秒通过的请求数
b_qps,每秒拒绝的请求数
1.2、簇点链路
这里可链接修改,流控规则和降级规则
1.3、流控规则
流控,即流量控制(Flow Control),根据流量、并发线程数、响应时间等指标,把随机到来的流量调整成合适的形状,即流量塑形。避免应用被瞬时的流量高峰冲垮,从而保障应用的高可用性。
流量控制有以下几个角度:
- 运行指标,例如 QPS、并发线程数等。
- 资源的调用关系,例如资源的调用链路,资源和资源之间的关系,调用来源等。
- 控制效果,例如直接拒绝、Warm Up(预热)、排队等待等。
一条流控规则主要由下面几个因素组成,我们可以组合这些元素来实现不同的限流效果:
- 资源名:即流控规则的作用对象
- 阈值:流控阈值
- 阈值类型:流控阈值类型(QPS 或并发线程数)
- 来源应用:流控规则针对的调用来源,若为 default 则不区分调用来源
- 流控方式:调用关系限流策略
- 流控模式:即流控效果,包括快速失败、Warm Up、排队等待模式
详细请参考这里,阿里官网解释
1.4、降级规则
- 资源名称:适用该规则的应用资源。
- 阈值类型:选择以 RT ( 响应时间)或异常比例作为阈值。
选择以RT( 响应时间)作为阈值,并填写以毫秒为单位的时间。
选择以RT作为阈值进行降级。如果持续进入 5 个请求,对应的平均 RT 都持续超过降级阈值,则会被自动降级。
选择以异常比例作为阈值,并在比例字段中填写 0 到 1 之间的小数作为比例。
规则开启后,按照秒级的异常比例进行降级。当资源的每秒异常总数占通过量的比值超过阈值之后,资源进入降级状态。
时间窗口:即降级触发后持续的时间。资源进入降级状态后,在配置的降级窗口时间内,请求都会快速失败。
1.5、系统规则
系统规则是从应用级别的入口流量进行控制,从应用的总体 Load、RT、QPS 和线程数四个维度监控应用数据,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。
- Load :当系统的 Load1 超过阈值,且系统当前的并发线程数超过系统容量时才会触发系统保护。系统容量由系统的 maxQps * minRt 计算得出。
- RT:当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒。
- 线程数:当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
- 入口 QPS:当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。
是否开启:打开表示启用该规则,关闭表示禁用该规则。
1.6、机器列表
二、Nacos
发现、配置和管理微服务。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据及流量管理。
2.1、服务发现和服务健康监测
Nacos 支持基于 DNS 和基于 RPC 的服务发现。服务提供者使用 原生SDK、OpenAPI、或一个独立的Agent TODO注册 Service 后,服务消费者可以使用DNS TODO 或HTTP&API查找和发现服务。
Nacos 提供对服务的实时的健康检查,阻止向不健康的主机或服务实例发送请求。Nacos 支持传输层 (PING 或 TCP)和应用层 (如 HTTP、MySQL、用户自定义)的健康检查。 对于复杂的云环境和网络拓扑环境中(如 VPC、边缘网络等)服务的健康检查,Nacos 提供了 agent 上报模式和服务端主动检测2种健康检查模式。Nacos 还提供了统一的健康检查仪表盘,帮助您根据健康状态管理服务的可用性及流量。
2.2、动态配置服务
动态配置服务可以让您以中心化、外部化和动态化的方式管理所有环境的应用配置和服务配置。
动态配置消除了配置变更时重新部署应用和服务的需要,让配置管理变得更加高效和敏捷。
配置中心化管理让实现无状态服务变得更简单,让服务按需弹性扩展变得更容易。
Nacos 提供了一个简洁易用的UI (控制台样例 Demo) 帮助您管理所有的服务和应用的配置。Nacos 还提供包括配置版本跟踪、金丝雀发布、一键回滚配置以及客户端配置更新状态跟踪在内的一系列开箱即用的配置管理特性,帮助您更安全地在生产环境中管理配置变更和降低配置变更带来的风险。
2.3、动态 DNS 服务
动态 DNS 服务支持权重路由,让您更容易地实现中间层负载均衡、更灵活的路由策略、流量控制以及数据中心内网的简单DNS解析服务。动态DNS服务还能让您更容易地实现以 DNS 协议为基础的服务发现,以帮助您消除耦合到厂商私有服务发现 API 上的风险。
Nacos 提供了一些简单的 DNS APIs TODO 帮助您管理服务的关联域名和可用的 IP:PORT 列表.
2.4、服务及其元数据管理
Nacos 能让您从微服务平台建设的视角管理数据中心的所有服务及元数据,包括管理服务的描述、生命周期、服务的静态依赖分析、服务的健康状态、服务的流量管理、路由及安全策略、服务的 SLA 以及最首要的 metrics 统计数据。