SpringCloud01

YangeIT大约 30 分钟基础服务框架SpringCloudEurekaNacosIRuleRibbon

SpringCloud01

学习目标

  • 认识微服务并理解服务拆分和远程调用 🍐
  • Eureka注册中心
    • 了解Eureka基本原理🍐
    • 能利用eureka实现服务注册、发现 ❤️ ✏️
  • Ribbon负载均衡🍐
  • Nacos注册中心
    • 利用nacos实现服务注册和发现 ❤️✏️
    • 能利用NacosRule实现本集群优先的负载均衡规则 🍐 ✏️
    • 了解nacos和eureka的区别 🍐

1.认识微服务 🍐

认识微服务

1.1.单体架构

单体架构:将业务的所有功能集中在一个项目中开发,打成一个包部署。

image-20210713202807818
image-20210713202807818

单体架构的优缺点如下:

优点:

  • 架构简单
  • 部署成本低

缺点:

  • 耦合度高(维护困难、升级困难)

2.服务拆分和远程调用 🍐 ✏️

任何分布式架构都离不开服务的拆分,微服务也是一样。

2.1 服务拆分 🎯 目标1

服务拆分

服务拆分原则

这里我总结了微服务拆分时的几个原则:

  • 不同微服务,不要重复开发相同业务
  • 微服务数据独立,不要访问其它微服务的数据库
  • 微服务可以将自己的业务暴露为接口,供其它微服务调用
image-20210713210800950
image-20210713210800950

服务拆分示例代码操作

1️⃣ 导入Sql语句

点击下载课程资料(需要密码)open in new window👈cloud-demo.zip、cloud-order.sql

首先,将课前资料提供的cloud-order.sqlcloud-user.sql导入到mysql中:

image-20210713211417049
image-20210713211417049

cloud-user表中初始数据如下:

image-20210713211550169
image-20210713211550169

cloud-order表中初始数据如下:

image-20210713211657319
image-20210713211657319

cloud-order表中持有cloud-user表中的id字段。

2.2 远程调用 🎯 目标2

远程调用

案例需求

修改order-service中的根据id查询订单业务,要求在查询订单的同时,根据订单中包含的userId查询出用户信息,一起返回。

image-20210713213312278
image-20210713213312278

因此,我们需要在order-service中 向user-service发起一个http的请求,调用http://localhost:8081/user/{userId}这个接口。open in new window

大概的步骤是这样的:

  • 注册一个RestTemplate的实例到Spring容器
  • 修改order-service服务中的OrderService类中的queryOrderById方法,根据Order对象中的userId查询User
  • 将查询的User填充到Order对象,一起返回

RestTemplate封装了Http请求

  1. order-service服务中,有一个根据id查询订单的接口:
image-20210713212749575
image-20210713212749575

根据id查询订单,返回值是Order对象,如图:

  • 链接:localhost:8082/order/101
  • 查询的结果如图:
image
image

其中的user为null


  1. user-service中有一个根据id查询用户的接口:
image-20210713213146089
image-20210713213146089
  • 链接:localhost:8081/user/1
  • 查询的结果如图:
image-20210713213213075
image-20210713213213075

课堂作业

🚩 1. 导入课程实例,在浏览器发起请求,正常输出json数据

2.3 提供者与消费者

提供者与消费者

结合下图,思考上述代码中,在服务调用关系中,各个模块扮演的角色

在服务调用关系中,会有两个不同的角色:

服务提供者:一次业务中,被其它微服务调用的服务。(提供接口给其它微服务)

服务消费者:一次业务中,调用其它微服务的服务。(调用其它微服务提供的接口)

image-20210713214404481
image-20210713214404481

但是,服务提供者与服务消费者的角色并不是绝对的,而是相对于业务而言。

如果服务A调用了服务B,而服务B又调用了服务C,服务B的角色是什么?

  • 对于A调用B的业务而言:A是服务消费者,B是服务提供者
  • 对于B调用C的业务而言:B是服务消费者,C是服务提供者

因此,服务B既可以是服务提供者,也可以是服务消费者。

课堂作业

🚩 1. 说出消费者和提供者的特点?并根据其特性,举出生活中的列子

3.Eureka注册中心

3.1.Eureka的结构和作用

前言

假如我们的服务提供者user-service部署了多个实例,如图:

image-20210713214925388
image-20210713214925388

大家思考几个问题:

  • order-service在发起远程调用的时候,该如何得知user-service实例的ip地址和端口
  • 有多个user-service实例地址,order-service调用时该如何选择
  • order-service如何得知某个user-service实例是否依然健康,是不是已经宕机

这些问题都需要利用SpringCloud中的注册中心来解决,其中最广为人知的注册中心就是Eureka,其结构如下:

image-20210713220104956
image-20210713220104956

Eureak 是Netflix 开源微服务框架中一系列项目中的一个。Spring Cloud对其进行了二次封装,形成了Spring Cloud Netflix 子项目,但未对Netflix微服务实现原理进行更改,只是进行了Spring Boot化,使开发者更容易使用和整合。

学习Eureka之前,先思考下述问题 👇👇

问题1:order-service如何得知user-service实例地址?

获取地址信息的流程如下(参考上图☝️):

  • user-service 服务实例启动后,将自己的信息注册到eureka-server(Eureka服务端)。这个叫服务注册
  • eureka-server 保存服务名称到服务实例地址列表的映射关系
  • order-service 根据服务名称,拉取实例地址列表。这个叫服务发现或服务拉取

因此,接下来我们动手实践的步骤包括:

image-20210713220509769
image-20210713220509769

3.2.搭建注册中心 🔧✏️

首先大家注册中心服务端:eureka-server,这必须是一个独立 的微服务

搭建eureka-server注册中心

步骤

  1. 创建eureka-server服务
  2. 引入eureka依赖
  3. 编写启动类
  4. 编写配置文件
  5. 启动服务

代码操作

3.2.1.创建eureka-server服务

cloud-demo父工程下,创建一个子模块

image-20210713220605881
image-20210713220605881

填写模块信息:

image-20210713220857396
image-20210713220857396

然后填写服务信息(注意:在父工程cloud-demo下 ):

image-20210713221339022
image-20210713221339022

项目结构图:

image
image

3.3.服务注册 🔖✏️

服务注册

下面,我们将user-service注册到eureka-server中去。 🎯

服务注册
服务注册

代码操作

1)引入依赖

user-service的pom文件中,引入下面的eureka-client依赖

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

课堂作业

🚩 1. 参考上述的user-service注册到eureka-server步骤,也将order-service注册到eureka-server

3.4.服务发现🔍✏️

服务发现

相关信息

下面,我们将order-service的逻辑修改:向eureka-server拉取user-service的信息,实现服务发现🔍。

代码操作

1)引入依赖

服务发现、服务注册统一都封装在eureka-client依赖,因此这一步与服务注册时一致。

order-service的pom文件中,引入下面的eureka-client依赖

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

课堂作业

🚩 1. 启动多个userservice实例,观察负载均衡的效果!!试试吧!!

4.Ribbon负载均衡

4.1.负载均衡原理和源码 🍐

Ribbon[ˈrɪbən]负载均衡

注意

上一节中,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理呢?

SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。

image-20210713224517686
image-20210713224517686

那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢?

欲知详情如何,请查看源码跟踪求解 👉

总结

SpringCloudRibbon[ˈrɪbən]的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下:

image-20210713224724673
image-20210713224724673

基本流程如下:

  • 拦截我们的RestTemplate请求http://userservice/user/1
  • RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service
  • DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表
  • eureka返回列表,localhost:8081、localhost:8082
  • IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
  • RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求

4.2.负载均衡策略和加载方式

负载均衡策略

4.3.1.负载均衡策略

负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:

image-20210713225653000
image-20210713225653000

不同规则的含义如下:

内置负载均衡规则类规则描述
RoundRobinRule简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。
WeightedResponseTimeRule为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。
ZoneAvoidanceRule👈区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。
BestAvailableRule忽略那些短路的服务器,并选择并发数较低的服务器。
RandomRule随机选择一个可用的服务器。
RetryRule重试机制的选择逻辑

默认的实现就是ZoneAvoidanceRule,是一种轮询方案

课堂作业

🚩

  1. 负载均衡的策略默认是什么模式?有何特点?
  2. 如何自定义负载均衡策略?
  3. Ribbon负载均衡策略加载默认是什么方式?有和缺点?如何改善?

5.Nacos注册中心 🍐❤️

国内公司一般都推崇阿里巴巴的技术,比如注册中心,SpringCloudAlibaba也推出了一个名为Nacos的注册中心。

5.1.认识和安装Nacos ✏️

认识和安装Nacos

Nacosopen in new window是阿里巴巴的产品,现在是SpringCloudopen in new window中的一个组件。相比Eurekaopen in new window功能更加丰富,在国内受欢迎程度较高。

image-20210713230444308
image-20210713230444308

安装方式可以参考课前资料Nacos安装指南.md

5.2.服务注册到nacos ✏️

服务注册到nacos

Nacos是SpringCloudAlibaba的组件,而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说,并没有太大区别

主要差异在于:

  • 依赖不同
  • 服务地址不同

代码操作

1)引入依赖

在cloud-demo父工程的pom文件中的<dependencyManagement>中引入SpringCloudAlibaba的依赖:

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-alibaba-dependencies</artifactId>
    <version>2.2.6.RELEASE</version>
    <type>pom</type>
    <scope>import</scope>
</dependency>

import:这些dependency可以等价于直接在当前pom文件中定义的,而不是从父项目继承来的。

  • 项目A和项目B的pom.xml文件中都定义了<dependencyManagement>,同时在B的<dependencyManagement>中定义<dependency>指向A,且scope为import,就相当于将A中定义的所有<dependencies>全部复制粘贴到了项目B的pom.xml中。由于是复制粘贴,所以不是继承关系。

然后在user-serviceorder-service中的pom文件中引入nacos-discovery依赖:

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>

注意:不要忘了注释掉eureka的依赖。

5.3.服务分级存储模型

服务分级存储模型

一个服务可以有多个实例,例如我们的user-service,可以有:

  • 127.0.0.1:8081
  • 127.0.0.1:8082
  • 127.0.0.1:8083

假如这些实例分布于全国各地的不同机房,例如:

  • 127.0.0.1:8081,在上海机房
  • 127.0.0.1:8082,在上海机房
  • 127.0.0.1:8083,在杭州机房

Nacos就将同一机房内的实例 划分为一个集群

容灾系统是指在相隔较远的异地,建立两套或多套功能相同的IT系统,互相之间可以进行健康状态监视和功能切换,当一处系统因意外(如火灾、地震等)停止工作时,整个应用系统可以切换到另一处,使得该系统功能可以继续正常工作。容灾技术是系统的高可用性技术

也就是说,user-service是服务,一个服务可以包含多个集群,如杭州、上海,每个集群下可以有多个实例,形成分级模型,如图:

image-20210713232522531
image-20210713232522531

微服务互相访问时,应该尽可能访问同集群实例,因为本地访问速度更快。当本集群内不可用时,才访问其它集群。例如:

image-20210713232658928
image-20210713232658928

杭州机房内的order-service应该优先访问同机房的user-service。 👈

修改user-service的application.yml文件,添加集群配置:

spring:
  cloud:
    nacos:
      server-addr: localhost:8848
      discovery:
        cluster-name: HZ # 集群名称

重启两个user-service实例后,我们可以在nacos控制台看到下面结果:

image-20210713232916215
image-20210713232916215

我们再次复制一个user-service启动配置,添加属性:

-Dserver.port=8083 -Dspring.cloud.nacos.discovery.cluster-name=SH

配置如图所示:

image-20210713233528982
image-20210713233528982

启动UserApplication3后再次查看nacos控制台:

image-20210713233727923
image-20210713233727923

如果停掉一个就会出现不可用现象:image

课堂作业

🚩 1. 思考为什么要学习服务分级存储模型?🎤

5.4.权重配置和环境隔离

权重配置和环境隔离

权重配置

实际部署中会出现这样的场景:

服务器设备性能有差异,部分实例所在机器性能较好,另一些较差,我们希望性能好的机器承担更多的用户请求。

但默认情况下NacosRule是同集群内随机挑选,不会考虑机器的性能问题。

因此,Nacos提供了权重配置来控制访问频率,权重越大则访问频率越高。

在nacos控制台,找到user-service的实例列表,点击编辑,即可修改权重:

image-20210713235133225
image-20210713235133225

在弹出的编辑窗口,修改权重:

image-20210713235235219
image-20210713235235219

实际开发中,如果要升级,但是往常要停机,但是现在可以设置权重为0 ,然后升级

注意:如果权重修改为0,则该实例永远不会被访问 ⚠️

5.5.环境隔离

环境隔离

Nacos提供了namespace来实现环境隔离功能。

  • nacos中可以有多个namespace
  • namespace下可以有group、service等
  • 不同namespace之间相互隔离,例如不同namespace的服务互相不可见
image-20210714000101516
image-20210714000101516

5.5.1.创建namespace

默认情况下,所有service、data、group都在同一个namespace,名为public:

image-20210714000414781
image-20210714000414781

我们可以点击页面新增按钮,添加一个namespace:

image-20210714000440143
image-20210714000440143

然后,填写表单:

image-20210714000505928
image-20210714000505928

就能在页面看到一个新的namespace:

image-20210714000522913
image-20210714000522913

5.5.Nacos与Eureka的区别 ❤️ 🍐

提示

Nacos的服务实例分为两种l类型:

  • 临时实例:如果实例宕机超过一定时间,会从服务列表剔除,默认的类型。

  • 非临时实例:如果实例宕机,不会从服务列表剔除,也可以叫永久实例。

配置一个服务实例为永久实例:

spring:
  cloud:
    nacos:
      discovery:
        ephemeral: false # 设置为非临时实例

Nacos和Eureka整体结构类似,服务注册、服务拉取、心跳等待,但是也存在一些差异:

image-20210714001728017
image-20210714001728017
  • Nacos与eureka的共同点

    • 都支持服务注册和服务拉取
    • 都支持服务提供者心跳方式做健康检测
  • Nacos与Eureka的区别

    • Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式非临时实例采用主动检测模式
    • 临时实例心跳不正常会被剔除非临时实例则不会被剔除
    • Nacos支持服务列表变更的消息推送模式,`服务列表更新更及时,但是耗性能
    • Nacos集群默认采用AP方式,当集群中存在非临时实例时,采用CP模式;Eureka采用AP方式

CAP原则又称CAP定理,指的是在一个分布式系统中,一致性(Consistency)、可用性(Availability)、分区容错性(Partition tolerance),但是CAP 原则指示3个要素最多只能同时实现两点,不可能三者兼顾,

AP

当网络分区出现后,为了保证可用性,系统B可以返回旧值,保证系统的可用性。

结论:违背了一致性C的要求,只满足可用性和分区容错,即AP

CP

当网络分区出现后,为了保证一致性,就必须拒绝请求,否则无法保证一致性。

结论:违背了可用性A的要求,只满足一致性和分区容错,即CP

面试题

  1. 为什么要将服务注册到nacos?

为了更好的查找这些服务。

  1. Nacos服务是如何判定服务实例的状态?

通过发送心跳包,5秒发送一次,如果15秒没有回应,则说明服务出现了问题, 如果30秒后没有回应,则说明服务已经停止。

  1. 服务消费方是如何调用服务提供方的服务的?

通过创建RestTemplate对象来实现。

  1. Nacos中的负载均衡底层是如何实现的?

通过Ribbon实现,Ribbon中定义了一些负载均衡算法。然后基于这些算法从服务 实例中获取一个实例为消费方提供服务

  1. Ribbon 是什么?Ribbon 可以解决什么问题?

Ribbon是Netflix公司提供的负载均衡客户端。Ribbon可以基于负载均衡策略进行服务调用,所有策略都会实现IRule接口。

  1. Ribbon 内置的负载策略都有哪些?

8种,可以通过查看IRule接口的实现类进行查看

  1. @LoadBalanced的作用是什么?

描述RestTemplate对象,用于告诉Spring框架,在使用RestTempalte进行服务调用时,这个调用过程会被一个拦截器进行拦截,然后在拦截器内部。启动负载均衡策略。