云原生技术范式颠覆
——从Spring Cloud到
Service Mesh框架重构之路
尊龙人生就是博中国区
徐超
郭总在《数字化的力量》一书提到过:
数字化时代的新技术范式最典型的特征是以云原生为核心,以大数据、物联网、云计算、可穿戴设备、区块链、人工智能等多种数字技术为通用技术。与一百多年前的电力技术、两百多年前的蒸汽机技术一样,这种新技术范式所包含的一系列通用技术正日益渗透到经济、社会和生活的各个角落,广泛应用于传统产业的各个领域。
郭为.数字化的力量[M]. 北京:机械工业出版社,2022.
作为新一代微服务架构体系,Service Mesh技术有效地解决了Spring Cloud微服务架构和服务治理过程中的痛点问题,一经推出便引起了很大的反响。近几年来,伴随着云原生的热火朝天,Service Mesh被推向了巅峰,从陌生走向大家的视界。对于初创企业或全新产品,选择 Service Mesh变得相对轻松很多,毕竟不存在迁移的问题。但对于大部分企业或成熟的产品体系,这样大的架构转型就变得很难以实施,需要多加权衡利弊,面对Service Mesh带来的好处,不得不迫使向它靠拢。
目前很多企业或产品还是采用基于SDK的传统微服务框架(例如,Dubbo、Spring Cloud等)进行服务治理,而随着Service Mesh的普及,越来越多的企业开始布局自己的Service Mesh框架体系,但多数企业刚开始不会激进地将所有业务迁移至Serivice Mesh,毕竟这样风险太大、收益太慢。像Java技术栈应用依然保留原框架,而非Java技术栈应用采用Service Mesh框架,不同开发语言可以用不同的技术框架,但业务不能被框架割裂,那么在这两种架构体系下应用服务如何互联互通?微服务如何统一治理?传统微服务又如何平滑迁移至Service Mesh呢?
如何解决上述问题呢?今天我们就针对构建基于Spring Cloud向Service Mesh框架迁移过程中的诸多问题展开讨论,尽可能提供一套完善的解决方案和迁移思路,供大家参考。
01.背景
微服务是一个很大的概念,不同人对它的理解都各不相同,甚至在早期微服务架构中出现了一批四不像的微服务架构产品,有人把单纯引入Spring Boot、Spring Cloud框架也叫做微服务架构,实际上却只是将它作为服务的Web运行环境而已。
微服务纷纷落地,并投入生产,但随着微服务规模的不断壮大,每增加一个微服务,就可能会增加一些依赖的基础设施和第三方的配置,比如Kafka实例配置等,相应CI/CD的配置也会增加或调整。同时随着微服务数量增多、业务复杂性的提升及需求的多样性等(如,对接第三方异构系统等),服务间通信的错综复杂,一步步地将微服务变得更加臃肿,服务治理也是难上加难,而这些问题在单体架构中却是很容易解决。为此,有人开始怀疑当初微服务化是否是明智之选,甚至考虑回归到传统单体应用。
正如下图所示,PPT中的微服务总是美好的,但现实中的微服务却是一团糟糕,想甩甩不掉,越看越糟心。难道就没有办法了么?
1.1
传统微服务架构面临的挑战
面对上述暴露出的问题,并在传统微服务架构下,经过实践的不断冲击,面临了更多新的挑战,综上所述,产生这些问题的原因有以下这几点:
● 过于绑定特定技术栈。当面对异构系统时,需要花费大量精力来进行代码的改造,不同异构系统可能面临不同的改造。
● 代码侵入度过高。开发者往往需要花费大量的精力来考虑如何与框架或 SDK结合,并在业务中更好的深度融合,对于大部分开发者而言都是一个高曲线的学习过程。
● 多语言支持受限。微服务提倡不同组件可以使用最适合它的语言开发,但是在Spring Cloud框架下就是Java的天下,多语言的支持难度很大。这也就导致在面对异构系统对接时的无奈,或退而求其次的方案。
● 老旧系统维护难。面对老旧系统,很难做到统一维护、治理、监控等,在过度时期往往需要多个团队分而管之,维护难度加大。
上述这些问题都是在所难免,众所周知技术演进来源于实践中不断的摸索,将功能抽象、解耦、封装、服务化。随着传统微服务架构暴露出的这些问题,将迎来新的挑战、新的机遇,让大家纷纷寻找其他解决方案。
1.2
迎来新一代微服务架构
为了解决传统微服务面临的问题,以应对全新的挑战,微服务架构也进一步演化,最终催生了Service Mesh的出现,迎来了新一代微服务架构。为了更好地理解Service Mesh的概念和存在的意义,我们来回顾一下这一演进过程。
1.2.1 耦合阶段
在微服务架构中,服务发现、熔断、治理等能力是微服务架构重要的组成部分。微服务化之后,服务更加的分散,复杂度变得更高,起初开发者将诸如熔断、超时等功能和业务代码封装在一起,使服务具备了网络控制能力,如下图所示:
这种方案虽然易于实现,但从设计角度来讲却存在一定的缺陷。
● 基础设施功能(如,服务发现,负载均衡、熔断等)和业务逻辑高度耦合。
● 每个微服务都重复实现了相同功能的代码。
● 管理困难。如果某个服务的负载均衡发生变化,则调用它的相关服务都需要更新变化。
● 开发者不能集中精力只关注于业务逻辑开发。
1.2.2 公共库SDK
基于上面存在的问题,便想到将基础设施功能设计为一个公共库SDK,让服务的业务逻辑与这些功能分离,降低耦合度,提高重复利用率,使得开发者只需要关注公共库SDK的依赖及使用,不必关注实现这些公共功能,从而更加专注于业务逻辑的开发,比如Spring Cloud框架是类似的方式。如下图所示:
实际上即便如此,它仍然有一些不足之处。
● 这些公共库SDK存在较为陡峭的学习成本,需要耗费开发人员一定的时间和人力与现有系统集成,甚至需要考虑修改现有代码进行整合。
● 这些公共库SDK一般都是通过特定语言实现,缺乏多语言的支持,在对现有系统整合时有一定的局限性。
● 公共库SDK的管理和维护依然需要耗费开发者的大量精力,并需专门人员来进行管理维护。
1.2.3 Sidecar模式
基于公共库SDK的启发,加上跨语言问题、更新后的发布和维护等问题,人们发现更好的解决方案是把它作为一个代理,服务通过这个透明的代理完成所有流量的控制。
这就是典型的Sidecar代理模式,也被翻译为边车代理,它作为与其他服务通信的桥梁,为服务提供额外的网络特性,并与服务独立部署,对服务零侵入,更不会受限于服务的开发语言和技术栈,如下图所示:
● 以Sidecar模式进行通信代理,实现了基础实施层与业务逻辑的完全隔离,在部署、升级时带来了便利,做到了真正的基础设施层与业务逻辑层的彻底解耦。另一方面,Sidecar可以更加快速地为应用服务提供更灵活的扩展,而不需要应用服务的大量改造。
于是,应用服务终于可以做到跨语言开发、并更专注于业务逻辑的开发。
1.2.4 Service Mesh
把Sidecar模式充分应用于一个庞大的微服务架构系统,为每个应用服务配套部署一个Sidecar代理,完成服务间复杂的通信,最终得到一个如下所示的网络拓扑结构,这就是Service Mesh,又称之为“服务网格”。
至此,迎来了全新一代微服务架构——Service Mesh,它将彻底解决了传统微服务架构所面临的问题。
1.3
什么是Service Mesh
在开始进入主题之前,我认为有必要再对Service Mesh进行统一的阐述,这样将有助于理解它,更加便于阅读接下来的内容。
1.3.1 Service Mesh介绍
Service Mesh翻译为“服务网格”,作为服务间通信的基础设施层。轻量级高性能网络代理,提供安全的、快速的、可靠地服务间通讯,与实际应用部署一起,但对应用透明。应用作为服务的发起方,只需要用最简单的方式将请求发送给本地的服务网格代理,然后网格代理会进行后续的操作,如服务发现,负载均衡,最后将请求转发给目标服务。
Service Mesh目的是解决系统架构微服务化后的服务间通信和治理问题。服务网格由Sidecar节点组成,这个模式的精髓在于实现了数据面(业务逻辑)和控制面的解耦。具体到微服务架构中,即给每一个微服务实例同步部署一个Sidecar。
在Service Mesh部署网络结构图中,绿色方块为应用服务,蓝色方块为 Sidecar,应用服务之间通过Sidecar进行通信,整个服务通信形成图中的蓝色网络连线,图中所有蓝色部分就形成了Service Mesh。其具备如下主要特点:
● 应用程序间通讯的中间层。
● 轻量级网络代理。
● 应用程序无感知。
● 解耦应用程序的重试/超时、监控、追踪和服务发现。
Service Mesh的出现解决了传统微服务框架中的痛点,使得开发人员专注于业务本身,同时,将服务通信及相关管控功能从业务中分离到基础设施层。
1.3.2 Service Mesh的功能
Service Mesh作为微服务架构中负责网络通信的基础设施层,具备网络处理的大部分功能。下面列举了一些主要功能:
● 动态路由。可通过路由规则来动态路由到所请求的服务,便于不同环境、不同版本等的动态路由调整。
● 故障注入。通过引入故障来模拟网络传输中的问题(如延迟)来验证系统的健壮性,方便完成系统的各类故障测试。
● 熔断。通过服务降级来终止潜在的关联性错误。
● 安全。在Service Mesh上实现了安全机制(如TLS),并且很容易在基础设施层完成安全机制更新。
● 多语言支持。作为独立运行且对业务透明的Sidecar代理,Service Mesh很轻松地支持多语言的异构系统。
● 多协议支持。同多语言一样,也支持多协议。
● 指标和分布式链路追踪。
概括起来,Service Mesh主要体现在以下4个方面:
● 可见性:运行时指标遥测、分布式跟踪。
● 可管理性:服务发现、负载均衡、运行时动态路由等。
● 健壮性:超时、重试、熔断等弹性能力。
● 安全性:服务间访问控制、TLS加密通信。
1.3.3 Service Mesh解决什么问题
Service Mesh主要解决用户如下3个维度的痛点需求:
● 完善的微服务基础设施
通过将微服务通信下沉到基础设施层,屏蔽了微服务处理各种通信问题的复杂度,形成微服务之间的抽象协议层。开发者无需关心通信层的具体实现,也无需关注RPC通信(包含服务发现、负载均衡、流量调度、流量降级、监控统计等)的一切细节,真正像本地调用一样使用微服务,通信相关的一起工作直接交给Service Mesh。
● 语言无关的通信和链路治理
功能上,Service Mesh并没有提供任何新的特性和能力,Service Mesh提供的所有通信和服务治理能力在Service Mesh之前的技术中均能找到,比如Spring Cloud就实现了完善的微服务RPC通信和服务治理支持。
Service Mesh改变的是通信和服务治理能力提供的方式,通过将这些能力实现从各语言业务实现中解耦,下沉到基础设施层面,以一种更加通用和标准化的方式提供,屏蔽不同语言、不同平台的差异性,有利于通信和服务治理能力的迭代和创新,使得业务实现更加方便。
Service Mesh避免了多语言服务治理上的重复建设,通过Service Mesh语言无关的通信和服务治理能力,助力于多语言技术栈的效率提升。
● 通信和服务治理的标准化
■ 微服务治理层面,Service Mesh是标准化、体系化、无侵入的分布式治理平台。
■ 标准化方面,Sidecar成为所有微服务流量通信的约束标准,同时Service Mesh的数据平台和控制平面也通过标准协议进行交互。
■ 体系化方面,从全局考虑,提供多维度立体的微服务可观测能力(Metric、Trace、Logging),并提供体系化的服务治理能力,如限流、熔断、安全、灰度等。
通过标准化,带来一致的服务治理体验,减少多业务之间由于服务治理标准不一致带来的沟通和转换成本,提升全局服务治理的效率。
1.4
框架迁移迫在眉睫
为了更好的占领市场,满足更多业务场景的需求,传统微服务架构(如,基于Spring Cloud框架的微服务架构)面临了众多新的挑战,而Service Mesh的出现正好解决了这些问题。面对新的框架体系,对于传统微服务架构该如何应对?
对于Spring Cloud框架的微服务向Service Mesh框架迁移必将迫在眉睫,是推翻重来,还是循序迁移?如果迁移,又该如何?
(上篇完)