分布式系统理论
“分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统” ---《分布式系统原理与范型》
分布式系统是由一组通过网络进行通讯,为了完成共同的任务而协调工作的计算机节点组成的系统。分布式系统的出现是为了用廉价的、普通的机器完成单个计算机无法完成的计算、存储任务。其目的是利用更多的机器,处理更多的数据。
只有当单个节点的处理能力无法满足日益增长的计算、存储任务的时候,且硬件的提升(加内存、加磁盘、换更好的CPU)价格高昂,应用程序也不能进一步优化的时候,我们才需要考虑分布式系统。因为分布式系统要解决的问题本身就是和单机系统一样,而由于分布式系统多节点,通过网络通讯的拓扑结构,会引起很多单机系统原本没有的问题出现,为了解决这些问题又会引入更多的机制、协议,带来更多的问题。
Dubbo
Apache Dubbo 是一款 RPC 服务开发框架,用于解决微服务架构下的服务治理与通信问题,官方提供了 Java、Golang 等多语言 SDK 实现。使用 Dubbo 开发的微服务原生具备相互之间的远程地址发现与通信能力, 利用 Dubbo 提供的丰富服务治理特性,可以实现诸如服务发现、负载均衡、流量调度等服务治理诉求。Dubbo 被设计为高度可扩展,用户可以方便的实现流量拦截、选址的各种定制逻辑。
按照微服务架构的定义,采用它的组织能够很好的提高业务迭代效率与系统稳定性,但前提是要先能保证微服务按照期望的方式运行,要做到这一点需要解决服务拆分与定义、数据通信、地址发现、流量管理、数据一致性、系统容错能力等一系列问题。
单一应用架构
当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架(ORM)是关键。
适用于小型网站,小型的管理系统,将所有的都部署导一个功能里,简单易用。
缺点:
性能扩展比较难
协同开发问题
不利于升级维护
垂直应用架构
当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。
通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更容易管理,性能扩展也更方便,更有针对性。
缺点:公用模块无法重复利用,开发性的浪费
分布式服务框架
当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。
流动计算框架
当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)[ Service Oriented Architecture]是关键。
RPC
RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。
也就是说两台服务器A,B,一个应用部署在A服务器上,想要调用B服务器上应用提供的函数/方法,由于不在一个内存空间,不能直接调用,需要通过网络来表达调用的语义和传达调用的数据。
为什么要用RPC呢?就是无法在一个进程内,甚至一个计算机内通过本地调用的方式完成的需求,比如不同的系统间的通讯,甚至不同的组织间的通讯,由于计算能力需要横向扩展,需要在多台机器组成的集群上部署应用。RPC就是要像调用本地的函数一样去调远程函数;
基本原理图:
步骤解析
RPC两个核心模块:通讯和序列化,通讯建立连接,序列化转义
Dubbo及Zookeeper安装
服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。
服务消费者(Consumer):调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己需要的服务。服务消费者从服务提供者地址列表中,基于软负载均衡算法,选择一台提供者进行调用,如果调用失败就换一台使用。
注册中心(Registry):注册中心返回服务提供者地址列表给服务消费者,如果有变动,注册中心将基于长连接推送变更数据给消费者。
监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次数据导监控中心。
调用关系说明:
服务容器负责启动,加载,运行服务提供者。
服务提供者在启动时,向注册中心注册自己提供的服务。
服务消费者在启动时,向注册中心订阅自己所需要的服务。
注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
服务消费者,从提供者地址列表中,基于软负载均衡算法选一台合适的提供者调用,失败再换一个。
服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次数据导监控中心。
Zookeeper环境搭建
ZooKeeper 是一种集中式服务,用于维护配置信息、命名、提供分布式同步和提供组服务。所有这些类型的服务都由分布式应用程序以某种形式使用。每次实现它们时,都需要做很多工作来修复不可避免的错误和竞争条件。由于难以实现这些类型的服务,应用程序最初通常会吝啬它们,这使得它们在发生更改时变得脆弱且难以管理。即使正确完成,这些服务的不同实现也会导致部署应用程序时的管理复杂性。
ZooKeeper 3.7.1 Release Notes (apache.org)ZooKeeper3.7.1官网下载地址,下载的是linux的tar.gz的压缩包,使用压缩工具解压即可。
解压后找到conf目录下的zoo_sample.cfg文件重命名为zoo.cfg
然后打开编辑,将dataDir的路径换成你自己的,临时存放数据的地方,默认的端口号不用改默认2181
然后去配置环境变量,为了在哪打开cmd都能启动zookeeper
配置好直接cmd运行命令:zkserver
使用zkCli.cmd测试
ls /:列出zookeeper根下保存的所有节点
创建一个名为zm的节点,值为123456,使用get /zm可以获取节点的值
命令:create -e /zm 123456
Windows下安装dubbo-admin
dubbo其实本身它就是一个jar包,可以帮我们的java程序连接到zookeeper,并利用zookeeper消费和提供服务。dubbo-admin就相当于一个可视化管理后台用来监控提供者和消费者的服务。
apache/dubbo-admin at master (github.com)下载地址
dubbo-admin\src\main\resources \application.properties 指定zookeeper地址
server.port=7001
spring.velocity.cache=false
spring.velocity.charset=UTF-8
spring.velocity.layout-url=/templates/default.vm
spring.messages.fallback-to-system-locale=false
spring.messages.basename=i18n/message
spring.root.password=root
spring.guest.password=guest
#注册中心的地址
dubbo.registry.address=zookeeper://127.0.0.1:2181
这里什么都不用改的
在项目目录下打包dubbo-admin
mvn clean package -Dmaven.test.skip=true
执行 dubbo-admin\target 下的dubbo-admin-0.0.1-SNAPSHOT.jar
java -jar dubbo-admin-0.0.1-SNAPSHOT.jar
然后打开浏览器访问:http://localhost:7001 输入账号root密码root
安装完成
Dubbo+SpringBoot+ZooKeeper示例
3 - Dubbo Spring Boot Starter 开发微服务应用 | Apache Dubbo参考文档
1、创建基本环境
先创建一个空的java项目,然后分别创建spring boot模块dubbo-spring-boot-consumer和dubbo-spring-boot-provider
2、服务提供者
在dubbo-spring-boot-provider导入dubbo-spring-boot-starter依赖
<!-- Dubbo Spring Boot Starter -->
<dependency>
<groupId>org.apache.dubbo</groupId>
<artifactId>dubbo-spring-boot-starter</artifactId>
<version>2.7.3</version>
</dependency>
zookeeper依赖
<!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
<dependency>
<groupId>com.github.sgroschupf</groupId>
<artifactId>zkclient</artifactId>
<version>0.1</version>
</dependency>
<!-- 引入zookeeper -->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.4.14</version>
<!--排除这个slf4j-log4j12-->
<exclusions>
<exclusion>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
</exclusion>
</exclusions>
</dependency>
在springboot配置文件中配置dubbo相关属性!
#当前应用名字
dubbo.application.name=provider-server
#注册中心地址
dubbo.registry.address=zookeeper://127.0.0.1:2181
#扫描指定包下服务
dubbo.scan.base-packages=com.zm.provider.service
server.port=8081
在service包下编写接口和实现类
HelloWord接口
package com.zm.provider.service;
public interface HelloWord {
public String getHello();
}
实现类
package com.zm.provider.service;
import org.apache.dubbo.config.annotation.Service;
import org.springframework.stereotype.Component;
@Service //将服务发布出去
@Component //放到容器中
public class HelloWordImp implements HelloWord{
@Override
public String getHello() {
return "哈喽沃德";
}
}
main方法要加上开启dubbo的注解
@EnableDubbo
@SpringBootApplication
public class DubboSpringBootProviderApplication {
public static void main(String[] args) {
SpringApplication.run(DubboSpringBootProviderApplication.class, args);
}
}
应用启动起来,dubbo就会扫描指定的包下带有@component注解的服务,将它发布在指定的注册中心中!
启动服务提供者的服务,以及dubbo-admin的服务,到服务的提供者页面查看,发现确实有一个服务提供者存在.
3、服务消费者
先导依赖和服务提供者的一样
<!--dubbo-->
<!-- Dubbo Spring Boot Starter -->
<dependency>
<groupId>org.apache.dubbo</groupId>
<artifactId>dubbo-spring-boot-starter</artifactId>
<version>2.7.3</version>
</dependency>
<!--zookeeper-->
<!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
<dependency>
<groupId>com.github.sgroschupf</groupId>
<artifactId>zkclient</artifactId>
<version>0.1</version>
</dependency>
<!-- 引入zookeeper -->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.4.14</version>
<!--排除这个slf4j-log4j12-->
<exclusions>
<exclusion>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
</exclusion>
</exclusions>
</dependency>
然后创建目录consumer.service,编写service
public class UserService {
//我们需要去拿去注册中心的服务
}
配置文件
#当前应用名字
dubbo.application.name=consumer-server
#注册中心地址
dubbo.registry.address=zookeeper://127.0.0.1:2181
server.port=8082
引用服务提供端的pom文件
<dependency>
<groupId>com.zm</groupId>
<artifactId>dubbo-spring-boot-provider</artifactId>
<version>0.0.1-SNAPSHOT</version>
</dependency>
package com.zm.consumer.service;
import com.zm.provider.service.HelloWord;
import org.apache.dubbo.config.annotation.Reference;
import org.springframework.stereotype.Service;
@Service //放到容器中
public class UserService {
//我们需要去拿注册中心的服务
@Reference //引用远程的服务
HelloWord helloWord;
public void sayHello(){
String hello = helloWord.getHello();
System.out.println("哈喽,Dubbo------>"+hello);
}
}
去单元测试测试一下
@SpringBootTest
class DubboSpringBootConsumerApplicationTests {
@Autowired
UserService userService;
@Test
void contextLoads() {
userService.sayHello();
}
}